一台 DGX Spark 能支持一个 AI 团队吗?
一台 DGX Spark 可以作为小团队的共享本地 AI 工作站,但不能被视为无限并发的云服务器。实际容量取决于模型、上下文长度、并发请求、虚拟设备、统一内存、运行时和团队可接受的响应速度。
本文重点讨论并发用户、工作负载、响应速度、内存余量以及扩容时机。账户、文件、消息和浏览器访问方式请参阅如何与团队共享一台 DGX Spark。
硬件规格不等于用户数量
DGX Spark 提供 20 核 Arm CPU、128 GB 统一内存、Blackwell 架构和 273 GB/s 内存带宽。查看 NVIDIA DGX Spark 硬件规格 这些是硬件能力,不是固定用户数、tokens/s 或 SLA 保证。模型能够加载,也不代表还剩足够资源运行 OCR、转录、图像生成和虚拟设备。
并发测试参考
公开测试只能作为起点,不能作为 Team AI Box 的容量保证。一项公开测试报告了 4–8 名用户约 37–47 tokens/s/用户,16 名用户约 22–24 tokens/s/用户。查看测试方法
约 15 tok/s/用户可以作为交互式文本工作的实用测试参考,但不是 NVIDIA 规格,也不是 Team AI Box 承诺。请同时测量首 token 延迟、排队时间、任务完成时间和长上下文表现。查看相关分析
为什么并发会下降
操作系统、模型权重、KV cache、容器、文件处理、虚拟设备和用户会话共享同一统一内存。273 GB/s 带宽不是用户数量上限,但在解码密集型任务中可能成为重要约束。
Team AI Box 增加了什么
DGX Spark 提供本地计算层,Team AI Box 提供浏览器工作空间,包括本地 AI、图像生成、文字识别、语音转录、翻译、团队文件、消息、无线投屏,以及虚拟 Android、Windows 和 Linux 环境。查看 Team AI Box 功能
不要将 Team AI Box 描述为自动共享跨用户记忆、完整企业知识库、每用户 GPU 隔离、固定并发或完整审计系统。
如何测试团队容量
- 列出真实任务:文档处理、会议转录、OCR、翻译、图像生成和虚拟设备测试。
- 记录首次启动、首 token、任务完成、内存、排队和恢复时间。
- 用真实用户同时运行文本会话、PDF OCR、转录、翻译和虚拟设备。
- 规定高负载任务的优先级、可用模型、运行时间和恢复负责人。
一台还是多台 DGX Spark
一台 Spark 更适合小团队、异步任务和轻度并发。需要大量请求、严格延迟、独立 GPU 或正式 SLA 时,应考虑多台设备、GPU 服务器或混合架构。
NVIDIA 文档介绍了 2–4 台设备的引导式路径,也已介绍最多 8 台的扩展方案。超过 4 台应视为高级或手动配置,并确认 NVIDIA Sync 版本。多节点文档 NVIDIA 八节点技术文章
虚拟 Android、Windows 和 Linux 设备也会使用共享资源。Windows 和 Linux 需要 ARM64 安装介质及相应许可证。虚拟机指南
常见问题
一台 DGX Spark 能支持多少用户?
没有通用数字。请根据模型、上下文、任务、虚拟设备、首 token 延迟和内存余量测试实际容量。
多人可以共享一台 DGX Spark 吗?
可以。建议使用个人账户、团队文件和应用权限,不要共用管理员账户或直接使用 SSH。
结论
一台 DGX Spark 可以作为小团队本地 AI 工作流的起点,尤其适合异步或轻度并发任务。先用真实工作流测量用户数、内存、tokens/s、排队、任务完成和恢复,再决定是否扩容。
更多信息请参阅Team AI Box 部署指南和团队本地 AI 基础设施指南。