Najlepsze lokalne LLM według VRAM

Najlepsze LLM dla 32 GB

Wybierz ilość pamięci. Szeregujemy każdy model z katalogu, który mieści się przy zalecanej kwantyzacji, według zadań, i pokazujemy, co odblokowuje kolejny poziom.

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Poziom pamięci32 GBNa przykład Intel Arc Pro B70, AI PRO R9700, RTX 5090
Modele, które się mieszczą137w całości w pamięci
Najlepszy ogólnie97Qwen 2.5 Coder 32B
Największy, który się mieści21.1 GBQwen 3.6 35B-A3B

Najlepsze przy 32 GB, według zadań

Wynik to ocena jakości dla zadania w skali 0–100; szybkość szacujemy dla Intel Arc Pro B70.

Najmocniejsze, które się mieszczą

Pierwsze 15 według logiki i kodu

ModelVRAMSzybkość na Intel Arc Pro B70 (szac.)Wynik
Qwen 2.5 Coder 32B
Qwen 2.5 Family · Q4_K_M
19.3 GB~17 tok/s97
Llama 3.3 70B Instruct
Llama 3.3 · Q2_K_XS (Tight)
20.2 GB~16 tok/s97
Qwen 3 32B
Qwen 3 · Q4_K_M
19.8 GB~16 tok/s97
DeepSeek R1 Distill Qwen 32B
DeepSeek R1 · Q4_K_M
19.3 GB~17 tok/s96
Qwen 2.5 14B Instruct
Qwen 2.5 Family · Q4_K_M
8.5 GB~34 tok/s95
Qwen 3 14B
Qwen 3 · Q4_K_M
8.9 GB~33 tok/s94
Codestral 22B
Codestral · Q4_K_M
13.4 GB~23 tok/s93
Qwen 3.6 35B-A3B
Qwen 3.6 · Q4_K_M
21.1 GB~107 tok/s93
DeepSeek R1 Distill Qwen 14B
DeepSeek R1 · Q4_K_M
8.5 GB~34 tok/s92
Phi-4 (14B)
Phi-4 Family · Q4_K_M
8.5 GB~34 tok/s92
Gemma 4 31B
Gemma 4 · Q4_K_M
18.7 GB~17 tok/s92
Gemma 3 27B Instruct
Gemma 3 · Q4_K_M
16.3 GB~19 tok/s92
GLM-Z1 32B (Reasoning)
GLM-4.7 / GLM-Z1 · Q4_K_M
19.3 GB~17 tok/s92
Qwen 3.5 35B-A3B
Qwen 3.5 · Q4_K_M
21.1 GB~87 tok/s92
Mistral Small 3.1 24B
Mistral Small 3.1 · Q4_K_M
14.2 GB~22 tok/s91

FAQ

What LLMs run well with 32 GB VRAM?

Qwen 2.5 Family, Llama 3.3, Qwen 3, DeepSeek R1, Qwen 2.5 Family all fit in 32 GB VRAM.

Which GPUs have 32 GB VRAM?

Intel Arc Pro B70, AMD Radeon AI PRO R9700, NVIDIA GeForce RTX 5090, Intel Arc Pro B65.

Wszystkie poziomy w skrócie

PamięćMieści sięNajlepszy ogólnie
4 GB35Shieldstral 1.0 3B
6 GB59Granite 3.0 8B Instruct
8 GB75Granite 3.0 8B Instruct
10 GB87Qwen 2.5 14B Instruct
12 GB89Qwen 2.5 14B Instruct
16 GB99Qwen 2.5 14B Instruct
20 GB116Qwen 2.5 14B Instruct
24 GB136Qwen 2.5 Coder 32B
32 GB137Qwen 2.5 Coder 32B
48 GB143Qwen 2.5 72B Instruct
64 GB148Qwen 2.5 72B Instruct
80 GB158Qwen 2.5 72B Instruct
Kup ten sprzęt NVIDIA GeForce RTX 5090 32GB — 32 GB VRAM · 575 W board powerUruchom w chmurze NVIDIA A40 w RunPod — od $0.44/godz. · stawka sprawdzona 2026-08

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.