NVIDIADesktopowe GPUAktualna generacja

NVIDIA RTX PRO 6000 Blackwell (Max-Q Edition) do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Z 96 GB GDDR7 przy 1792 GB/s RTX PRO 6000 Blackwell (Max-Q Edition) uruchamia 139 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Mistral Medium 3.5 128B (~80.9 GB), a najlepszy wybór to Devstral-2 123B przy 12–26 tok/s.

System pamięci RTX PRO 6000 (96 GB, 1792 GB/s) w karcie 300 W z chłodzeniem typu blower, do stacji roboczych z wieloma GPU. Pobór mocy nie jest zapisany: podaje go tylko strona NVIDIA.

Modele, które działają na RTX PRO 6000 Blackwell (Max-Q Edition)

Q4_K_M, kontekst 8K, 96 GB do wykorzystania. Uszeregowane według jakości i szybkości.

ModelVRAMSzybkość
Devstral-2 123B
Devstral
75.1 GB12–26 tok/s
Qwen 3.5 122B-A10B
Qwen 3.5
74.5 GB80–167 tok/s
Nemotron 3 Super 120B-A12B
Nemotron 3 Super
73.3 GB73–152 tok/s
Mistral Small 4 119B-A6.5B
Mistral Small 4
72.6 GB51–105 tok/s
GPT-OSS 120B
GPT-OSS
71.9 GB139–289 tok/s
Llama 4.5 Scout
Llama 4.5
66.6 GB60–125 tok/s
Llama 4 Scout 17B
Llama 4
68.2 GB65–134 tok/s
Llama 3.2 Vision 90B
Llama 3.2 Vision
57.8 GB16–34 tok/s
Qwen3-Coder-Next (80B-A3B MoE)
Qwen3-Coder
49.1 GB128–267 tok/s
Kolibri 1
Kolibri
48.4 GB174–362 tok/s
Nemotron 3.5 Bolt 74B
Nemotron 3.5
45.6 GB111–230 tok/s
Llama 3.3 70B Instruct
Llama 3.3
45.7 GB20–43 tok/s
Pokazano 12 z 139

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board powerUruchom w chmurze RunPod

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

Specyfikacja

Specyfikację zaktualizowano 2026-10-07.

Pamięć
96 GB GDDR7
Przepustowość pamięci
1,792 GB/s
Szyna pamięci
512-bit
Architektura
Blackwell GB202
Seria
RTX PRO Blackwell
Rok premiery
2025
Backendy obliczeniowe
CUDA, VULKAN
Dostępne dla modeli
96 GB
Najlepsze do96 GB workstation AImulti-GPU workstations

Podobne GPU

Najczęstsze pytania

Czy NVIDIA RTX PRO 6000 Blackwell (Max-Q Edition) uruchomi lokalne LLM?

Tak. Z 96 GB (96 GB dostępne dla modelu) uruchamia 139 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Mistral Medium 3.5 128B, potrzebuje około 80.9 GB.

Jak szybki jest NVIDIA RTX PRO 6000 Blackwell (Max-Q Edition) w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 113–234 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 21–44 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 96 GB?

Wśród najlepszych, które się mieszczą: Devstral-2 123B, Qwen 3.5 122B-A10B, Nemotron 3 Super 120B-A12B, Mistral Small 4 119B-A6.5B, GPT-OSS 120B.