NVIDIADesktopowe GPUAktualna generacja

NVIDIA GeForce RTX 5090 do lokalnych LLM

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 29 września 2026

Z 32 GB przy 1792 GB/s RTX 5090 uruchamia 120 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Gemma 3 27B Instruct (~25.4 GB), a najlepszy wybór to K2 Horizon MoVA 36B-A4B przy 133–276 tok/s.

Najszybszy konsumencki GPU do AI. 32 GB VRAM mieści modele klasy 32B, np. Qwen 3 32B w Q4_K_M, z zapasem na długi kontekst; Llama 3.3 70B nie mieści się na jednej karcie, nawet w Q3. Około 78% większa przepustowość pamięci niż RTX 4090.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na RTX 5090

Q4_K_M, kontekst 8K, 32 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
K2 Horizon MoVA 36B-A4B K2 Horizon	25 GB	133–276 tok/s	Mieści się
Qwen 3.6 35B-A3B Qwen 3.6	22.1 GB	183–381 tok/s	Mieści się
Nex-N2.5 mini Nex-N2.5	21.9 GB	139–289 tok/s	Mieści się
Nex-N2 mini Nex-N2	21.9 GB	139–289 tok/s	Mieści się
Qwen 3.5 35B-A3B Qwen 3.5	21.9 GB	139–289 tok/s	Mieści się
Laguna XS 2.1 33B-A3B Poolside Laguna XS 2.1	20.7 GB	140–291 tok/s	Mieści się
Qwen 3 32B Qwen 3	22.8 GB	39–81 tok/s	Mieści się
Aya Expanse 32B Aya Expanse	21.6 GB	41–85 tok/s	Mieści się
EXAONE 3.5 32B EXAONE 3.5	22.3 GB	40–83 tok/s	Mieści się
Cogito v1 32B Cogito v1	22.3 GB	40–83 tok/s	Mieści się
Granite 4.0 Small-H 32B-A9B IBM Granite 4.0	20.1 GB	93–192 tok/s	Mieści się
Olmo 3 32B Olmo 3	20.1 GB	40–84 tok/s	Mieści się

Pokazano 12 z 120

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA GeForce RTX 5090 32GB — 32 GB VRAM · 575 W board power Uruchom w chmurze RTX 5090 w RunPod

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.

NVIDIA GeForce RTX 5090 32GB

32 GB VRAM · 575 W board power

Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Sprawdź cenę na Amazon

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

H100 80GB (SXM)157–327 tok/s H100 80GB (PCIe)120–250 tok/s RTX 5090113–234 tok/s RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s A100 80GB (PCIe)102–196 tok/s RTX PRO 5000 Blackwell (48 GB)94–194 tok/s RTX PRO 5000 Blackwell (72 GB)94–194 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-09-29.

Pamięć: 32 GB
Przepustowość pamięci: 1,792 GB/s
Architektura: Blackwell GB202
Seria: RTX 50-series
Pobór mocy: 575 W
Rok premiery: 2025
Cena premierowa: $1,999
Dostępne dla modeli: 32 GB

Najlepsze do32B modelslong contextfastest inferenceproduction

Polecany pierwszy model (Ollama)

Podobne GPU

AMD Instinct MI50 32GB32 GB · 1,024 GB/sTyle samo VRAM, −43% przepustowości NVIDIA RTX PRO 4500 Blackwell (Workstation Edition)32 GB · 896 GB/sTyle samo VRAM, −50% przepustowości AMD Radeon AI PRO R970032 GB · 640 GB/sTyle samo VRAM, −64% przepustowości · $1,299

Najczęstsze pytania

Czy NVIDIA GeForce RTX 5090 uruchomi lokalne LLM?

Tak. Z 32 GB (32 GB dostępne dla modelu) uruchamia 120 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Gemma 3 27B Instruct, potrzebuje około 25.4 GB.

Jak szybki jest NVIDIA GeForce RTX 5090 w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 113–234 tok/s przy Q4_K_M. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 32 GB. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 32 GB?

Wśród najlepszych, które się mieszczą: K2 Horizon MoVA 36B-A4B, Qwen 3.6 35B-A3B, Nex-N2.5 mini, Nex-N2 mini, Qwen 3.5 35B-A3B. Najszybszy start to Ollama: ollama run llama4:scout.

Czy uruchomię to na RTX 5090?

Więcej o tej karcie

Narzędzia

Poradniki