NVIDIADesktopowe GPUAktualna generacja

NVIDIA RTX PRO 5000 Blackwell (72 GB) do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 7 października 2026

Z 72 GB GDDR7 przy 1344 GB/s RTX PRO 5000 Blackwell (72 GB) uruchamia 134 modele z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to GPT-OSS 120B (~71.9 GB), a najlepszy wybór to Llama 3.2 Vision 90B przy 12–26 tok/s.

72 GB GDDR7 z ECC przy tych samych 1344 GB/s i 300 W co wersja 48 GB. Więcej pamięci, nie większa szybkość.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na RTX PRO 5000 Blackwell (72 GB)

Q4_K_M, kontekst 8K, 72 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
Llama 3.2 Vision 90B Llama 3.2 Vision	57.8 GB	12–26 tok/s	Mieści się
Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder	49.1 GB	108–225 tok/s	Mieści się
Kolibri 1 Kolibri	48.4 GB	154–320 tok/s	Mieści się
Nemotron 3.5 Bolt 74B Nemotron 3.5	45.6 GB	92–191 tok/s	Mieści się
Llama 3.3 70B Instruct Llama 3.3	45.7 GB	16–32 tok/s	Mieści się
Cogito v1 70B Cogito v1	45.7 GB	16–32 tok/s	Mieści się
Apertus 70B Apertus	43.1 GB	16–33 tok/s	Mieści się
Cosmos 3 Super Cosmos 3	39.4 GB	31–64 tok/s	Mieści się
K2 Horizon MoVA 36B-A4B K2 Horizon	25 GB	113–234 tok/s	Mieści się
Qwen 3.6 35B-A3B Qwen 3.6	22.1 GB	163–339 tok/s	Mieści się
Nex-N2.5 mini Nex-N2.5	21.9 GB	119–247 tok/s	Mieści się
Nex-N2 mini Nex-N2	21.9 GB	119–247 tok/s	Mieści się

Pokazano 12 z 134

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board power Uruchom w chmurze NVIDIA A100 80GB w RunPod — od $1.39/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai od $0.77/godz. (typical low · varies)

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

H100 80GB (SXM)157–327 tok/s H100 80GB (PCIe)120–250 tok/s RTX 5090113–234 tok/s RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s A100 80GB (PCIe)102–196 tok/s RTX PRO 5000 Blackwell (48 GB)94–194 tok/s RTX PRO 5000 Blackwell (72 GB)94–194 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-10-07.

Pamięć: 72 GB GDDR7
Przepustowość pamięci: 1,344 GB/s
Szyna pamięci: 384-bit
Architektura: Blackwell GB202
Seria: RTX PRO Blackwell
Pobór mocy: 300 W
Rok premiery: 2025
Backendy obliczeniowe: CUDA, VULKAN
Dostępne dla modeli: 72 GB

Najlepsze do72 GB workstation AI70B with long context

Podobne GPU

NVIDIA A100 80GB (PCIe)80 GB · 1,935 GB/s+8 GB VRAM, +44% przepustowości · $15,000 NVIDIA H100 80GB (PCIe)80 GB · 2,000 GB/s+8 GB VRAM, +49% przepustowości · $25,000 NVIDIA RTX PRO 6000 Blackwell96 GB · 1,792 GB/s+24 GB VRAM, +33% przepustowości · $8,565

Najczęstsze pytania

Czy NVIDIA RTX PRO 5000 Blackwell (72 GB) uruchomi lokalne LLM?

Tak. Z 72 GB (72 GB dostępne dla modelu) uruchamia 134 modele z katalogu przy Q4_K_M i kontekście 8K; największy to GPT-OSS 120B, potrzebuje około 71.9 GB.

Jak szybki jest NVIDIA RTX PRO 5000 Blackwell (72 GB) w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 94–194 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 16–33 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 72 GB?

Wśród najlepszych, które się mieszczą: Llama 3.2 Vision 90B, Qwen3-Coder-Next (80B-A3B MoE), Kolibri 1, Nemotron 3.5 Bolt 74B, Llama 3.3 70B Instruct.

Więcej o tej karcie

Narzędzia

Poradniki