Najlepsze lokalne LLM według VRAM

Najlepsze LLM dla 10 GB

Wybierz ilość pamięci. Szeregujemy każdy model z katalogu, który mieści się przy zalecanej kwantyzacji, według zadań, i pokazujemy, co odblokowuje kolejny poziom.

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Poziom pamięci10 GBNa przykład Intel Arc B570, RTX 3080 (10GB), GTX 1080 Ti
Modele, które się mieszczą87w całości w pamięci
Najlepszy ogólnie95Qwen 2.5 14B Instruct
Największy, który się mieści8.9 GBQwen 3 14B

Najlepsze przy 10 GB, według zadań

Wynik to ocena jakości dla zadania w skali 0–100; szybkość szacujemy dla Intel Arc B570.

Najmocniejsze, które się mieszczą

Pierwsze 15 według logiki i kodu

ModelVRAMSzybkość na Intel Arc B570 (szac.)Wynik
Qwen 2.5 14B Instruct
Qwen 2.5 Family · Q4_K_M
8.5 GB—95
Qwen 3 14B
Qwen 3 · Q4_K_M
8.9 GB—94
DeepSeek R1 Distill Qwen 14B
DeepSeek R1 · Q4_K_M
8.5 GB~23 tok/s92
Phi-4 (14B)
Phi-4 Family · Q4_K_M
8.5 GB—92
Granite 3.0 8B Instruct
Granite 3.0 · Q4_K_M
4.8 GB~36 tok/s90
Ternary Bonsai 27B
Bonsai 27B · Ternary (1.58-bit, ~1.71 bpw)
5.8 GB~30 tok/s90
Qwen 2.5 7B Instruct
Qwen 2.5 Family · Q4_K_M
4.6 GB~40 tok/s89
Qwen 3 8B
Qwen 3 · Q4_K_M
5 GB~35 tok/s89
DeepSeek R1 Distill Llama 8B
DeepSeek R1 · Q4_K_M
4.8 GB~36 tok/s89
Mistral NeMo 12B
Mistral Family · Q4_K_M
7.2 GB~26 tok/s88
Gemma 3 12B Instruct
Gemma 3 · Q4_K_M
7.2 GB~26 tok/s87
InternLM 3 8B Instruct
InternLM 3 · Q4_K_M
5.3 GB~35 tok/s86
Qwen 3.5 9B
Qwen 3.5 · Q4_K_M
5.4 GB~35 tok/s86
1-bit Bonsai 27B
Bonsai 27B · 1-bit (binary, ~1.125 bpw)
3.8 GB~41 tok/s86
Yi 1.5 9B Chat
Yi 1.5 Family · Q4_K_M
5.3 GB~34 tok/s85

Co odblokowuje 12 GB

Najmocniejsze modele, które potrzebują kolejnego poziomu.

FAQ

What LLMs run well with 10 GB VRAM?

Qwen 2.5 Family, Qwen 3, DeepSeek R1, Phi-4 Family, Granite 3.0 all fit in 10 GB VRAM.

Which GPUs have 10 GB VRAM?

Intel Arc B570, NVIDIA GeForce RTX 3080 (10GB), NVIDIA GeForce GTX 1080 Ti, NVIDIA GeForce RTX 2080 Ti.

Wszystkie poziomy w skrócie

PamięćMieści sięNajlepszy ogólnie
4 GB35Shieldstral 1.0 3B
6 GB59Granite 3.0 8B Instruct
8 GB75Granite 3.0 8B Instruct
10 GB87Qwen 2.5 14B Instruct
12 GB89Qwen 2.5 14B Instruct
16 GB99Qwen 2.5 14B Instruct
20 GB116Qwen 2.5 14B Instruct
24 GB136Qwen 2.5 Coder 32B
32 GB137Qwen 2.5 Coder 32B
48 GB143Qwen 2.5 72B Instruct
64 GB148Qwen 2.5 72B Instruct
80 GB158Qwen 2.5 72B Instruct
Kup ten sprzęt Intel Arc B570 10GB — 10 GB VRAM · 150 W board powerUruchom w chmurze RTX 4090 w RunPod — od $0.34/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai od $0.35/godz. (typical low · varies)

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.