文章

一台 DGX Spark 能支持一个 AI 团队吗?

Weerocks LLC · 2026年11月16日

一台 DGX Spark 能支持一个 AI 团队吗?

一台 DGX Spark 可以作为小团队的共享本地 AI 工作站,但不能被视为无限并发的云服务器。实际容量取决于模型、上下文长度、并发请求、虚拟设备、统一内存、运行时和团队可接受的响应速度。

本文重点讨论并发用户、工作负载、响应速度、内存余量以及扩容时机。账户、文件、消息和浏览器访问方式请参阅如何与团队共享一台 DGX Spark。

硬件规格不等于用户数量

DGX Spark 提供 20 核 Arm CPU、128 GB 统一内存、Blackwell 架构和 273 GB/s 内存带宽。查看 NVIDIA DGX Spark 硬件规格 这些是硬件能力,不是固定用户数、tokens/s 或 SLA 保证。模型能够加载,也不代表还剩足够资源运行 OCR、转录、图像生成和虚拟设备。

并发测试参考

公开测试只能作为起点,不能作为 Team AI Box 的容量保证。一项公开测试报告了 4–8 名用户约 37–47 tokens/s/用户,16 名用户约 22–24 tokens/s/用户。查看测试方法

约 15 tok/s/用户可以作为交互式文本工作的实用测试参考,但不是 NVIDIA 规格,也不是 Team AI Box 承诺。请同时测量首 token 延迟、排队时间、任务完成时间和长上下文表现。查看相关分析

为什么并发会下降

操作系统、模型权重、KV cache、容器、文件处理、虚拟设备和用户会话共享同一统一内存。273 GB/s 带宽不是用户数量上限,但在解码密集型任务中可能成为重要约束。

Team AI Box 增加了什么

DGX Spark 提供本地计算层,Team AI Box 提供浏览器工作空间,包括本地 AI、图像生成、文字识别、语音转录、翻译、团队文件、消息、无线投屏,以及虚拟 Android、Windows 和 Linux 环境。查看 Team AI Box 功能

不要将 Team AI Box 描述为自动共享跨用户记忆、完整企业知识库、每用户 GPU 隔离、固定并发或完整审计系统。

如何测试团队容量

  1. 列出真实任务:文档处理、会议转录、OCR、翻译、图像生成和虚拟设备测试。
  2. 记录首次启动、首 token、任务完成、内存、排队和恢复时间。
  3. 用真实用户同时运行文本会话、PDF OCR、转录、翻译和虚拟设备。
  4. 规定高负载任务的优先级、可用模型、运行时间和恢复负责人。

一台还是多台 DGX Spark

一台 Spark 更适合小团队、异步任务和轻度并发。需要大量请求、严格延迟、独立 GPU 或正式 SLA 时,应考虑多台设备、GPU 服务器或混合架构。

NVIDIA 文档介绍了 2–4 台设备的引导式路径,也已介绍最多 8 台的扩展方案。超过 4 台应视为高级或手动配置,并确认 NVIDIA Sync 版本。多节点文档 NVIDIA 八节点技术文章

虚拟 Android、Windows 和 Linux 设备也会使用共享资源。Windows 和 Linux 需要 ARM64 安装介质及相应许可证。虚拟机指南

常见问题

一台 DGX Spark 能支持多少用户?

没有通用数字。请根据模型、上下文、任务、虚拟设备、首 token 延迟和内存余量测试实际容量。

多人可以共享一台 DGX Spark 吗?

可以。建议使用个人账户、团队文件和应用权限,不要共用管理员账户或直接使用 SSH。

结论

一台 DGX Spark 可以作为小团队本地 AI 工作流的起点,尤其适合异步或轻度并发任务。先用真实工作流测量用户数、内存、tokens/s、排队、任务完成和恢复,再决定是否扩容。

更多信息请参阅Team AI Box 部署指南和团队本地 AI 基础设施指南。