文章

一台 DGX Spark 能支援一個 AI 團隊嗎?

Weerocks LLC · 2026年11月16日

一台 DGX Spark 能支援一個 AI 團隊嗎?

一台 DGX Spark 可以作為小團隊的共享本機 AI 工作站,但不是無限並發的雲端伺服器。實際容量取決於模型、上下文長度、同時請求、虛擬裝置、統一記憶體、執行環境與可接受的回應速度。

本文聚焦並發使用者、工作負載、回應速度、記憶體餘量與擴充時機。帳戶、檔案、訊息與瀏覽器存取請參閱如何與團隊共用一台 DGX Spark。

硬體規格不等於使用者數量

DGX Spark 提供 20 核心 Arm CPU、128 GB 統一記憶體、Blackwell 架構與 273 GB/s 記憶體頻寬。NVIDIA DGX Spark 硬體規格 這些是硬體能力,不是固定使用者數、tokens/s 或 SLA 保證。模型能載入,也不代表還有足夠資源執行 OCR、轉錄、圖像生成與虛擬裝置。

並發測試參考

公開測試只能作為起點,不能視為 Team AI Box 容量保證。一項測試在 4–8 位使用者時回報約 37–47 tokens/s/使用者,在 16 位使用者時約 22–24 tokens/s/使用者。測試方法

約 15 tok/s/使用者可作為互動式文字工作的實用參考,但不是 NVIDIA 規格,也不是 Team AI Box 承諾。請同時測量首 token 延遲、排隊、任務完成時間與長上下文表現。相關分析

為什麼並發會下降

作業系統、模型權重、KV cache、容器、檔案處理、虛擬裝置與使用者工作階段共用統一記憶體。273 GB/s 頻寬不是使用者上限,但在解碼密集型工作中可能成為限制。

Team AI Box 的作用

DGX Spark 提供本機計算層,Team AI Box 提供瀏覽器工作空間,包括本機 AI、圖像生成、文字辨識、語音轉錄、翻譯、團隊檔案、訊息、無線投影,以及虛擬 Android、Windows 和 Linux 環境。查看 Team AI Box 功能

不要將 Team AI Box 描述為自動共享跨使用者記憶、完整企業知識庫、每位使用者 GPU 隔離、固定並發或完整稽核系統。

如何測試團隊容量

列出真實任務,記錄啟動、首 token、完成、記憶體、排隊與恢復時間,然後用真實使用者測試混合工作負載,設定高負載任務的優先級與恢復負責人。

一台還是多台 DGX Spark

一台 Spark 適合小團隊、非同步任務與輕度並發。需要大量請求、嚴格延遲、獨立 GPU 或 SLA 時,應評估多台設備、GPU 伺服器或混合架構。

NVIDIA 文件介紹了 2–4 台設備的引導式路徑,也已介紹最多 8 台的擴展方案。超過 4 台應視為進階或手動配置。多節點文件 NVIDIA 八節點文章

虛擬 Android、Windows 與 Linux 也會使用共享資源;Windows 和 Linux 需要 ARM64 安裝媒體與授權。虛擬機指南

結論

一台 DGX Spark 可以作為小團隊本機 AI 工作流的起點。先用真實工作流測量使用者數、記憶體、tokens/s、排隊、完成與恢復,再決定是否擴充。

參閱Team AI Box 部署指南和團隊本機 AI 基礎設施指南。