NVIDIA DGX Spark do lokalnych LLM
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Z 128 GB przy 273 GB/s DGX Spark uruchamia 140 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Qwen3.8-Flash-Next (~109.7 GB), a najlepszy wybór to Qwen3.8-Flash-Next przy 35–72 tok/s.
Kompaktowy desktop do rozwoju AI zbudowany wokół superchipa GB10 Grace Blackwell — 20-rdzeniowego CPU Grace ARM połączonego z GPU Blackwell (6144 rdzeni CUDA), dzielących 128 GB zunifikowanej pamięci LPDDR5x przy 273 GB/s. W przeciwieństwie do Apple Silicon obsługuje pełny stos CUDA, co czyni go idealnym do fine-tuningu i wnioskowania na modelach klasy 70B. Premiera w październiku 2025 w cenie 3999 USD; w lutym 2026 cena wzrosła do 4699 USD z powodu ograniczeń w dostawach pamięci.
Modele, które działają na DGX Spark
Q4_K_M, kontekst 8K, 128 GB do wykorzystania. Uszeregowane według jakości i szybkości.
| Model | Pamięć · znacznik = 128 GB | VRAM | Szybkość |
|---|---|---|---|
| Qwen3.8-Flash-Next Qwen3.8 | 109.7 GB | 35–72 tok/s | |
| Qwen 3.5 122B-A10B Qwen 3.5 | 74.5 GB | 16–33 tok/s | |
| Nemotron 3 Super 120B-A12B Nemotron 3 Super | 73.3 GB | 14–30 tok/s | |
| GPT-OSS 120B GPT-OSS | 71.9 GB | 36–75 tok/s | |
| Llama 4 Scout 17B Llama 4 | 68.2 GB | 12–25 tok/s | |
| Llama 4.5 Scout Llama 4.5 | 66.6 GB | 11–23 tok/s | |
| Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder | 49.1 GB | 31–65 tok/s | |
| Kolibri 1 Kolibri | 48.4 GB | 54–113 tok/s | |
| Nemotron 3.5 Bolt 74B Nemotron 3.5 | 45.6 GB | 25–52 tok/s | |
| K2 Horizon MoVA 36B-A4B K2 Horizon | 25 GB | 33–69 tok/s | |
| Qwen 3.6 35B-A3B Qwen 3.6 | 22.1 GB | 60–125 tok/s | |
| Nex-N2.5 mini Nex-N2.5 | 21.9 GB | 36–74 tok/s |
Kup kartę lub wynajmij tyle samo pamięci
Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.
Szybkość na tle innych GPU
Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy
Specyfikacja
Specyfikację zaktualizowano 2026-07-21.
- Pamięć
- 128 GB
- Przepustowość pamięci
- 273 GB/s
- Architektura
- GB10 Grace Blackwell Superchip
- Seria
- AI Workstation
- Pobór mocy
- 150 W
- Rok premiery
- 2025
- Cena premierowa
- $4,699
- Dostępne dla modeli
- 128 GB
Podobne GPU
Najczęstsze pytania
Czy NVIDIA DGX Spark uruchomi lokalne LLM?
Tak. Z 128 GB (128 GB dostępne dla modelu) uruchamia 140 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Qwen3.8-Flash-Next, potrzebuje około 109.7 GB.
Jak szybki jest NVIDIA DGX Spark w inferencji AI?
Szacujemy, że uruchamia Llama 3.1 8B z szybkością 26–53 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 3.4–7.1 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.
Jakie LLM uruchomię na 128 GB?
Wśród najlepszych, które się mieszczą: Qwen3.8-Flash-Next, Qwen 3.5 122B-A10B, Nemotron 3 Super 120B-A12B, GPT-OSS 120B, Llama 4 Scout 17B. Najszybszy start to Ollama: ollama run llama3.3:70b.
Co dalej
Czy uruchomię to na DGX Spark?
Więcej o tej karcie
Narzędzia