Najlepsze LLM dla 8 GB
Wybierz ilość pamięci. Szeregujemy każdy model z katalogu, który mieści się przy zalecanej kwantyzacji, według zadań, i pokazujemy, co odblokowuje kolejny poziom.
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Najlepsze przy 8 GB, według zadań
Wynik to ocena jakości dla zadania w skali 0–100; szybkość szacujemy dla RTX 5050.
Najmocniejsze, które się mieszczą
Pierwsze 15 według logiki i kodu
| Model | Pamięć · znacznik = 8 GB | VRAM | Szybkość na RTX 5050 (szac.) | Wynik |
|---|---|---|---|---|
| Granite 3.0 8B Instruct Granite 3.0 · Q4_K_M | 4.8 GB | ~45 tok/s | 90 | |
| Ternary Bonsai 27B Bonsai 27B · Ternary (1.58-bit, ~1.71 bpw) | 5.8 GB | ~37 tok/s | 90 | |
| Qwen 2.5 7B Instruct Qwen 2.5 Family · Q4_K_M | 4.6 GB | ~50 tok/s | 89 | |
| Qwen 3 8B Qwen 3 · Q4_K_M | 5 GB | ~44 tok/s | 89 | |
| DeepSeek R1 Distill Llama 8B DeepSeek R1 · Q4_K_M | 4.8 GB | ~46 tok/s | 89 | |
| InternLM 3 8B Instruct InternLM 3 · Q4_K_M | 5.3 GB | ~44 tok/s | 86 | |
| Qwen 3.5 9B Qwen 3.5 · Q4_K_M | 5.4 GB | ~44 tok/s | 86 | |
| 1-bit Bonsai 27B Bonsai 27B · 1-bit (binary, ~1.125 bpw) | 3.8 GB | ~52 tok/s | 86 | |
| Yi 1.5 9B Chat Yi 1.5 Family · Q4_K_M | 5.3 GB | ~43 tok/s | 85 | |
| Falcon 3 10B Instruct Falcon 3 · Q4_K_M | 6.2 GB | ~36 tok/s | 85 | |
| GLM-4 9B GLM-4.7 / GLM-Z1 · Q4_K_M | 5.4 GB | ~41 tok/s | 85 | |
| Gemma 2 9B IT Gemma 2 Family · Q4_K_M | 5.4 GB | ~36 tok/s | 84 | |
| Llama 3.1 8B Instruct Llama 3.1 Family · Q4_K_M | 4.8 GB | ~46 tok/s | 83 | |
| Granite 4.1 8B IBM Granite 4.1 · Q4_K_M | 4.8 GB | ~45 tok/s | 83 | |
| Shieldstral 1.0 3B Shieldstral · Q4_K_M | 2.3 GB | ~81 tok/s | 83 |
Co odblokowuje 10 GB
Najmocniejsze modele, które potrzebują kolejnego poziomu.
FAQ
What LLMs run well with 8 GB VRAM?
Granite 3.0, Bonsai 27B, Qwen 2.5 Family, Qwen 3, DeepSeek R1 all fit in 8 GB VRAM.
Which GPUs have 8 GB VRAM?
NVIDIA GeForce RTX 5050, NVIDIA GeForce RTX 5060, NVIDIA GeForce RTX 4060, AMD Radeon RX 9060 XT 8GB.
Wszystkie poziomy w skrócie
| Pamięć | Mieści się | Najlepszy ogólnie | Największy, który się mieści |
|---|---|---|---|
| 4 GB | 35 | Shieldstral 1.0 3B | Gemma 3 4B Instruct · 2.4 GB |
| 6 GB | 59 | Granite 3.0 8B Instruct | Qwen 2.5 VL 7B Instruct · 5 GB |
| 8 GB | 75 | Granite 3.0 8B Instruct | Falcon 3 10B Instruct · 6.2 GB |
| 10 GB | 87 | Qwen 2.5 14B Instruct | Qwen 3 14B · 8.9 GB |
| 12 GB | 89 | Qwen 2.5 14B Instruct | StarCoder 2 15B · 9.4 GB |
| 16 GB | 99 | Qwen 2.5 14B Instruct | Mistral Small 3 (24B) · 14.5 GB |
| 20 GB | 116 | Qwen 2.5 14B Instruct | Gemma 4 31B · 18.7 GB |
| 24 GB | 136 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 32 GB | 137 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 48 GB | 143 | Qwen 2.5 72B Instruct | Qwen 2.5 VL 72B Instruct · 44.3 GB |
| 64 GB | 148 | Qwen 2.5 72B Instruct | Qwen3-Coder-Next (80B-A3B MoE) · 48.3 GB |
| 80 GB | 158 | Qwen 2.5 72B Instruct | Qwen 3.5 122B-A10B · 73.7 GB |
lub porównaj w Vast.ai od $0.35/godz. (typical low · varies)
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.
Can-I-Run Pages Near 8 GB
- BitNet b1.58 on NVIDIA GeForce RTX 5060 Ti 8GB
- BitNet b1.58 on NVIDIA GeForce RTX 5060
- BitNet b1.58 on NVIDIA GeForce RTX 4060
- DeepSeek R1 on NVIDIA GeForce RTX 5060 Ti 8GB
- DeepSeek R1 on NVIDIA GeForce RTX 5060
- DeepSeek R1 on NVIDIA GeForce RTX 4060
- DeepSeek R1 on NVIDIA GeForce RTX 3070 Ti
- DeepSeek R1 on NVIDIA GeForce RTX 3070