NVIDIADesktopowe GPUAktualna generacja

NVIDIA RTX PRO 6000 Blackwell do lokalnych LLM

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 21 lipca 2026

Z 96 GB przy 1792 GB/s RTX PRO 6000 Blackwell uruchamia 139 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Mistral Medium 3.5 128B (~80.9 GB), a najlepszy wybór to Devstral-2 123B przy 12–26 tok/s.

Flagowy GPU stacji roboczych generacji Blackwell: krzem RTX 5090 z 96 GB pamięci ECC GDDR7 przy 1,79 TB/s. Mieści Llama 3.3 70B w Q4 z zapasem na długie konteksty i równoległych użytkowników albo GPT-oss 120B na jednej karcie. Wersja Workstation Edition (600W) wymaga solidnego zasilacza; wariant Max-Q ogranicza się do 300W w cichszych zestawach.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na RTX PRO 6000 Blackwell

Q4_K_M, kontekst 8K, 96 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
Devstral-2 123B Devstral	75.1 GB	12–26 tok/s	Mieści się
Qwen 3.5 122B-A10B Qwen 3.5	74.5 GB	80–167 tok/s	Mieści się
Nemotron 3 Super 120B-A12B Nemotron 3 Super	73.3 GB	73–152 tok/s	Mieści się
Mistral Small 4 119B-A6.5B Mistral Small 4	72.6 GB	51–105 tok/s	Mieści się
GPT-OSS 120B GPT-OSS	71.9 GB	139–289 tok/s	Mieści się
Llama 4.5 Scout Llama 4.5	66.6 GB	60–125 tok/s	Mieści się
Llama 4 Scout 17B Llama 4	68.2 GB	65–134 tok/s	Mieści się
Llama 3.2 Vision 90B Llama 3.2 Vision	57.8 GB	16–34 tok/s	Mieści się
Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder	49.1 GB	128–267 tok/s	Mieści się
Kolibri 1 Kolibri	48.4 GB	174–362 tok/s	Mieści się
Nemotron 3.5 Bolt 74B Nemotron 3.5	45.6 GB	111–230 tok/s	Mieści się
Llama 3.3 70B Instruct Llama 3.3	45.7 GB	20–43 tok/s	Mieści się

Pokazano 12 z 139

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA RTX PRO 6000 Blackwell 96GB — 96 GB VRAM · 600 W board power Uruchom w chmurze RunPod

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.

NVIDIA RTX PRO 6000 Blackwell 96GB

96 GB VRAM · 600 W board power

Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Sprawdź cenę na Amazon

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

H100 80GB (SXM)157–327 tok/s H100 80GB (PCIe)120–250 tok/s RTX 5090113–234 tok/s RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s A100 80GB (PCIe)102–196 tok/s RTX PRO 5000 Blackwell (48 GB)94–194 tok/s RTX PRO 5000 Blackwell (72 GB)94–194 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-07-21.

Pamięć: 96 GB
Przepustowość pamięci: 1,792 GB/s
Architektura: Blackwell GB202
Seria: Pro Workstation
Pobór mocy: 600 W
Rok premiery: 2025
Cena premierowa: $8,565
Dostępne dla modeli: 96 GB

Najlepsze do70B models at speedMoE modelsdepartment-scale servingfine-tuning

Polecany pierwszy model (Ollama)

Podobne GPU

NVIDIA RTX PRO 6000 Blackwell (Max-Q Edition)96 GB · 1,792 GB/sTyle samo VRAM, taka sama przepustowość NVIDIA A100 80GB (PCIe)80 GB · 1,935 GB/s−16 GB VRAM, +8% przepustowości · $15,000 NVIDIA H100 80GB (PCIe)80 GB · 2,000 GB/s−16 GB VRAM, +12% przepustowości · $25,000

Najczęstsze pytania

Czy NVIDIA RTX PRO 6000 Blackwell uruchomi lokalne LLM?

Tak. Z 96 GB (96 GB dostępne dla modelu) uruchamia 139 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Mistral Medium 3.5 128B, potrzebuje około 80.9 GB.

Jak szybki jest NVIDIA RTX PRO 6000 Blackwell w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 113–234 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 21–44 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 96 GB?

Wśród najlepszych, które się mieszczą: Devstral-2 123B, Qwen 3.5 122B-A10B, Nemotron 3 Super 120B-A12B, Mistral Small 4 119B-A6.5B, GPT-OSS 120B. Najszybszy start to Ollama: ollama run llama3.3:70b.

Czy uruchomię to na RTX PRO 6000 Blackwell?

Więcej o tej karcie

Narzędzia

Poradniki