NVIDIADesktopowe GPUAktualna generacja

NVIDIA RTX 5000 Ada Generation do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 7 października 2026

Z 32 GB GDDR6 przy 576 GB/s RTX 5000 Ada Generation uruchamia 120 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Gemma 3 27B Instruct (~25.4 GB), a najlepszy wybór to K2 Horizon MoVA 36B-A4B przy 70–134 tok/s.

32 GB GDDR6 z ECC, 576 GB/s, 250 W.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na RTX 5000 Ada Generation

Q4_K_M, kontekst 8K, 32 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
K2 Horizon MoVA 36B-A4B K2 Horizon	25 GB	70–134 tok/s	Mieści się
Qwen 3.6 35B-A3B Qwen 3.6	22.1 GB	115–221 tok/s	Mieści się
Nex-N2.5 mini Nex-N2.5	21.9 GB	75–144 tok/s	Mieści się
Nex-N2 mini Nex-N2	21.9 GB	75–144 tok/s	Mieści się
Qwen 3.5 35B-A3B Qwen 3.5	21.9 GB	75–144 tok/s	Mieści się
Laguna XS 2.1 33B-A3B Poolside Laguna XS 2.1	20.7 GB	75–145 tok/s	Mieści się
Qwen 3 32B Qwen 3	22.8 GB	16–30 tok/s	Mieści się
Aya Expanse 32B Aya Expanse	21.6 GB	17–32 tok/s	Mieści się
EXAONE 3.5 32B EXAONE 3.5	22.3 GB	16–31 tok/s	Mieści się
Cogito v1 32B Cogito v1	22.3 GB	16–31 tok/s	Mieści się
Granite 4.0 Small-H 32B-A9B IBM Granite 4.0	20.1 GB	43–83 tok/s	Mieści się
Olmo 3 32B Olmo 3	20.1 GB	16–31 tok/s	Mieści się

Pokazano 12 z 120

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA GeForce RTX 5090 32GB — 32 GB VRAM · 575 W board power Uruchom w chmurze NVIDIA A40 w RunPod — od $0.44/godz. · stawka sprawdzona 2026-08

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

H100 80GB (SXM)157–327 tok/s H100 80GB (PCIe)120–250 tok/s RTX 5090113–234 tok/s RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s A100 80GB (PCIe)102–196 tok/s RTX PRO 5000 Blackwell (48 GB)94–194 tok/s RTX PRO 5000 Blackwell (72 GB)94–194 tok/s RTX 5000 Ada Generation56–107 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-10-07.

Pamięć: 32 GB GDDR6
Przepustowość pamięci: 576 GB/s
Szyna pamięci: 256-bit
Architektura: Ada Lovelace AD102
Seria: RTX Ada Generation
Pobór mocy: 250 W
Rok premiery: 2023
Backendy obliczeniowe: CUDA, VULKAN
Dostępne dla modeli: 32 GB

Najlepsze do32 GB workstation AI

Podobne GPU

Intel Arc Pro B7032 GB · 608 GB/sTyle samo VRAM, +6% przepustowości · $949 Intel Arc Pro B6532 GB · 608 GB/sTyle samo VRAM, +6% przepustowości AMD Radeon AI PRO R970032 GB · 640 GB/sTyle samo VRAM, +11% przepustowości · $1,299

Najczęstsze pytania

Czy NVIDIA RTX 5000 Ada Generation uruchomi lokalne LLM?

Tak. Z 32 GB (32 GB dostępne dla modelu) uruchamia 120 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Gemma 3 27B Instruct, potrzebuje około 25.4 GB.

Jak szybki jest NVIDIA RTX 5000 Ada Generation w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 56–107 tok/s przy Q4_K_M. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 32 GB. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 32 GB?

Wśród najlepszych, które się mieszczą: K2 Horizon MoVA 36B-A4B, Qwen 3.6 35B-A3B, Nex-N2.5 mini, Nex-N2 mini, Qwen 3.5 35B-A3B.

Więcej o tej karcie

Narzędzia

Poradniki