NVIDIA台式机 GPU当前在售

NVIDIA DGX Spark 运行本地大模型

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

作者： Jakub Rusinowski · 最后更新： 2026年7月21日

凭借 128 GB、273 GB/s 带宽，DGX Spark 可在 Q4_K_M、8K 上下文下运行目录中的 140 个模型。能放下的最大模型是 Qwen3.8-Flash-Next（约 109.7 GB），首选是 Qwen3.8-Flash-Next，速度 35–72 tok/s。

Compact AI development desktop built around the GB10 Grace Blackwell Superchip — a 20-core Grace ARM CPU plus a Blackwell GPU (6,144 CUDA cores) sharing 128 GB of unified LPDDR5x memory at 273 GB/s. Runs the full CUDA stack, unlike Apple Silicon, making it ideal for fine-tuning and inference of 70B-class models. Launched at $3,999 in October 2025; price raised to $4,699 in February 2026 due to memory supply constraints.

检测我的硬件 →完整基准测试表

可在 DGX Spark 上运行的模型

Q4_K_M，8K 上下文，可用 128 GB。按质量和速度排序。

模型	显存	速度	适配
Qwen3.8-Flash-Next Qwen3.8	109.7 GB	35–72 tok/s	可运行
Qwen 3.5 122B-A10B Qwen 3.5	74.5 GB	16–33 tok/s	可运行
Nemotron 3 Super 120B-A12B Nemotron 3 Super	73.3 GB	14–30 tok/s	可运行
GPT-OSS 120B GPT-OSS	71.9 GB	36–75 tok/s	可运行
Llama 4 Scout 17B Llama 4	68.2 GB	12–25 tok/s	可运行
Llama 4.5 Scout Llama 4.5	66.6 GB	11–23 tok/s	可运行
Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder	49.1 GB	31–65 tok/s	可运行
Kolibri 1 Kolibri	48.4 GB	54–113 tok/s	可运行
Nemotron 3.5 Bolt 74B Nemotron 3.5	45.6 GB	25–52 tok/s	可运行
K2 Horizon MoVA 36B-A4B K2 Horizon	25 GB	33–69 tok/s	可运行
Qwen 3.6 35B-A3B Qwen 3.6	22.1 GB	60–125 tok/s	可运行
Nex-N2.5 mini Nex-N2.5	21.9 GB	36–74 tok/s	可运行

显示 140 个中的 12 个

购买显卡，或租用同等显存

直接购买显卡，或按小时租用同等显存的 GPU，先试用模型。

购买此硬件 NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board power 立即云端部署 RunPod

或在 Vast.ai 比较

作为亚马逊联盟成员，我们从符合条件的购买中获得收入。云 GPU 链接为推荐链接——我们可能获得佣金，您无需额外付费。

联盟营销声明: 本页部分链接为联盟推广链接——如果你通过它们购买，LLM Configurator 可能会获得佣金，而你无需支付任何额外费用。作为亚马逊联盟成员（Amazon Associate），LLM Configurator 会从符合条件的购买中获得收益。

NVIDIA DGX Spark (128GB)

128 GB VRAM · 150 W board power

2026年价格波动较大——请以当前商品页价格为准。

在亚马逊查看价格

与其他 GPU 的速度对比

Llama 3.1 8B，Q4_K_M。估算区间。计算方法

H100 80GB (SXM)157–327 tok/s H100 80GB (PCIe)120–250 tok/s RTX 5090113–234 tok/s RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s A100 80GB (PCIe)102–196 tok/s RTX PRO 5000 Blackwell (48 GB)94–194 tok/s RTX PRO 5000 Blackwell (72 GB)94–194 tok/s DGX Spark26–53 tok/s

规格

规格更新于 2026-07-21。

显存: 128 GB
内存带宽: 273 GB/s
架构: GB10 Grace Blackwell Superchip
系列: AI Workstation
整卡功耗: 150 W
发布年份: 2025
首发价格: $4,699
模型可用: 128 GB

最适合70B modelslocal LLM developmentfine-tuningunified memory

推荐的第一个模型（Ollama）

相似 GPU

NVIDIA GB10 Grace Blackwell128 GB · 273 GB/s显存相同，带宽相同 AMD Ryzen AI Max+ 395128 GB · 256 GB/s显存相同，带宽 −6%NVIDIA RTX PRO 6000 Blackwell96 GB · 1,792 GB/s显存 −32 GB，带宽 +556% · $8,565

常见问题

NVIDIA DGX Spark 能运行本地大模型吗？

可以。它有 128 GB（模型可用 128 GB），在 Q4_K_M、8K 上下文下可运行目录中的 140 个模型；最大的是 Qwen3.8-Flash-Next，约需 109.7 GB。

NVIDIA DGX Spark 的 AI 推理速度有多快？

估计它在 Q4_K_M 下运行 Llama 3.1 8B 的速度为 26–53 tok/s。Llama 3.3 70B 的估算为 3.4–7.1 tok/s。这些是基于内存带宽的模型估算，并非实测；公式见方法说明页。

128 GB 能运行哪些大模型？

能放下的最佳模型包括：Qwen3.8-Flash-Next、Qwen 3.5 122B-A10B、Nemotron 3 Super 120B-A12B、GPT-OSS 120B、Llama 4 Scout 17B。最快的上手方式是 Ollama：ollama run llama3.3:70b。

能在 DGX Spark 上运行吗？

关于这张卡的更多内容

工具

指南