NVIDIA RTX PRO 6000 Blackwell (Max-Q Edition) do lokalnych LLM
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Z 96 GB GDDR7 przy 1792 GB/s RTX PRO 6000 Blackwell (Max-Q Edition) uruchamia 139 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Mistral Medium 3.5 128B (~80.9 GB), a najlepszy wybór to Devstral-2 123B przy 12–26 tok/s.
System pamięci RTX PRO 6000 (96 GB, 1792 GB/s) w karcie 300 W z chłodzeniem typu blower, do stacji roboczych z wieloma GPU. Pobór mocy nie jest zapisany: podaje go tylko strona NVIDIA.
Modele, które działają na RTX PRO 6000 Blackwell (Max-Q Edition)
Q4_K_M, kontekst 8K, 96 GB do wykorzystania. Uszeregowane według jakości i szybkości.
| Model | Pamięć · znacznik = 96 GB | VRAM | Szybkość |
|---|---|---|---|
| Devstral-2 123B Devstral | 75.1 GB | 12–26 tok/s | |
| Qwen 3.5 122B-A10B Qwen 3.5 | 74.5 GB | 80–167 tok/s | |
| Nemotron 3 Super 120B-A12B Nemotron 3 Super | 73.3 GB | 73–152 tok/s | |
| Mistral Small 4 119B-A6.5B Mistral Small 4 | 72.6 GB | 51–105 tok/s | |
| GPT-OSS 120B GPT-OSS | 71.9 GB | 139–289 tok/s | |
| Llama 4.5 Scout Llama 4.5 | 66.6 GB | 60–125 tok/s | |
| Llama 4 Scout 17B Llama 4 | 68.2 GB | 65–134 tok/s | |
| Llama 3.2 Vision 90B Llama 3.2 Vision | 57.8 GB | 16–34 tok/s | |
| Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder | 49.1 GB | 128–267 tok/s | |
| Kolibri 1 Kolibri | 48.4 GB | 174–362 tok/s | |
| Nemotron 3.5 Bolt 74B Nemotron 3.5 | 45.6 GB | 111–230 tok/s | |
| Llama 3.3 70B Instruct Llama 3.3 | 45.7 GB | 20–43 tok/s |
Kup kartę lub wynajmij tyle samo pamięci
Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.
Szybkość na tle innych GPU
Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy
Specyfikacja
Specyfikację zaktualizowano 2026-10-07.
- Pamięć
- 96 GB GDDR7
- Przepustowość pamięci
- 1,792 GB/s
- Szyna pamięci
- 512-bit
- Architektura
- Blackwell GB202
- Seria
- RTX PRO Blackwell
- Rok premiery
- 2025
- Backendy obliczeniowe
- CUDA, VULKAN
- Dostępne dla modeli
- 96 GB
Podobne GPU
Najczęstsze pytania
Czy NVIDIA RTX PRO 6000 Blackwell (Max-Q Edition) uruchomi lokalne LLM?
Tak. Z 96 GB (96 GB dostępne dla modelu) uruchamia 139 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Mistral Medium 3.5 128B, potrzebuje około 80.9 GB.
Jak szybki jest NVIDIA RTX PRO 6000 Blackwell (Max-Q Edition) w inferencji AI?
Szacujemy, że uruchamia Llama 3.1 8B z szybkością 113–234 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 21–44 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.
Jakie LLM uruchomię na 96 GB?
Wśród najlepszych, które się mieszczą: Devstral-2 123B, Qwen 3.5 122B-A10B, Nemotron 3 Super 120B-A12B, Mistral Small 4 119B-A6.5B, GPT-OSS 120B.
Co dalej
Więcej o tej karcie
Narzędzia