Najlepsze LLM dla 6 GB
Wybierz ilość pamięci. Szeregujemy każdy model z katalogu, który mieści się przy zalecanej kwantyzacji, według zadań, i pokazujemy, co odblokowuje kolejny poziom.
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Najlepsze przy 6 GB, według zadań
Wynik to ocena jakości dla zadania w skali 0–100; szybkość szacujemy dla RTX 5050.
Najmocniejsze, które się mieszczą
Pierwsze 15 według logiki i kodu
| Model | Pamięć · znacznik = 6 GB | VRAM | Szybkość na RTX 5050 (szac.) | Wynik |
|---|---|---|---|---|
| Granite 3.0 8B Instruct Granite 3.0 · Q4_K_M | 4.8 GB | ~45 tok/s | 90 | |
| Qwen 2.5 7B Instruct Qwen 2.5 Family · Q4_K_M | 4.6 GB | ~50 tok/s | 89 | |
| Qwen 3 8B Qwen 3 · Q4_K_M | 5 GB | ~44 tok/s | 89 | |
| DeepSeek R1 Distill Llama 8B DeepSeek R1 · Q4_K_M | 4.8 GB | ~46 tok/s | 89 | |
| 1-bit Bonsai 27B Bonsai 27B · 1-bit (binary, ~1.125 bpw) | 3.8 GB | ~52 tok/s | 86 | |
| Llama 3.1 8B Instruct Llama 3.1 Family · Q4_K_M | 4.8 GB | ~46 tok/s | 83 | |
| Granite 4.1 8B IBM Granite 4.1 · Q4_K_M | 4.8 GB | ~45 tok/s | 83 | |
| Shieldstral 1.0 3B Shieldstral · Q4_K_M | 2.3 GB | ~81 tok/s | 83 | |
| LFM3 1.7B Liquid LFM3 · Q4_K_M | 1 GB | ~159 tok/s | 83 | |
| LFM3-VL 2B Liquid LFM3 · Q4_K_M | 1.2 GB | ~149 tok/s | 83 | |
| EXAONE 3.5 7.8B EXAONE 3.5 · Q4_K_M | 4.7 GB | ~46 tok/s | 82 | |
| Ministral 8B Ministral · Q4_K_M | 4.8 GB | ~45 tok/s | 82 | |
| Qwen 2.5 VL 7B Instruct Qwen 2.5 VL · Q4_K_M | 5 GB | ~46 tok/s | 81 | |
| StarCoder 2 7B StarCoder 2 · Q4_K_M | 4.3 GB | ~52 tok/s | 81 | |
| Gemma 3 4B Instruct Gemma 3 · Q4_K_M | 2.4 GB | ~83 tok/s | 80 |
Co odblokowuje 8 GB
Najmocniejsze modele, które potrzebują kolejnego poziomu.
FAQ
What LLMs run well with 6 GB VRAM?
Granite 3.0, Qwen 2.5 Family, Qwen 3, DeepSeek R1, Bonsai 27B all fit in 6 GB VRAM.
Which GPUs have 6 GB VRAM?
NVIDIA GeForce RTX 5050, NVIDIA GeForce RTX 5060, NVIDIA GeForce RTX 4060, AMD Radeon RX 9060 XT 8GB.
Wszystkie poziomy w skrócie
| Pamięć | Mieści się | Najlepszy ogólnie | Największy, który się mieści |
|---|---|---|---|
| 4 GB | 35 | Shieldstral 1.0 3B | Gemma 3 4B Instruct · 2.4 GB |
| 6 GB | 59 | Granite 3.0 8B Instruct | Qwen 2.5 VL 7B Instruct · 5 GB |
| 8 GB | 75 | Granite 3.0 8B Instruct | Falcon 3 10B Instruct · 6.2 GB |
| 10 GB | 87 | Qwen 2.5 14B Instruct | Qwen 3 14B · 8.9 GB |
| 12 GB | 89 | Qwen 2.5 14B Instruct | StarCoder 2 15B · 9.4 GB |
| 16 GB | 99 | Qwen 2.5 14B Instruct | Mistral Small 3 (24B) · 14.5 GB |
| 20 GB | 116 | Qwen 2.5 14B Instruct | Gemma 4 31B · 18.7 GB |
| 24 GB | 136 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 32 GB | 137 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 48 GB | 143 | Qwen 2.5 72B Instruct | Qwen 2.5 VL 72B Instruct · 44.3 GB |
| 64 GB | 148 | Qwen 2.5 72B Instruct | Qwen3-Coder-Next (80B-A3B MoE) · 48.3 GB |
| 80 GB | 158 | Qwen 2.5 72B Instruct | Qwen 3.5 122B-A10B · 73.7 GB |
lub porównaj w Vast.ai od $0.35/godz. (typical low · varies)
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.
Can-I-Run Pages Near 6 GB
- BitNet b1.58 on NVIDIA GeForce RTX 5060 Ti 8GB
- BitNet b1.58 on NVIDIA GeForce RTX 5060
- BitNet b1.58 on NVIDIA GeForce RTX 4060
- DeepSeek R1 on NVIDIA GeForce RTX 5060 Ti 8GB
- DeepSeek R1 on NVIDIA GeForce RTX 5060
- DeepSeek R1 on NVIDIA GeForce RTX 4060
- DeepSeek R1 on NVIDIA GeForce RTX 3070 Ti
- DeepSeek R1 on NVIDIA GeForce RTX 3070