Najlepsze LLM dla 48 GB
Wybierz ilość pamięci. Szeregujemy każdy model z katalogu, który mieści się przy zalecanej kwantyzacji, według zadań, i pokazujemy, co odblokowuje kolejny poziom.
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Poziom pamięci48 GBNa przykład RTX A6000, RTX 6000 Ada Generation, L40S
Modele, które się mieszczą143w całości w pamięci
Najlepsze przy 48 GB, według zadań
Wynik to ocena jakości dla zadania w skali 0–100; szybkość szacujemy dla RTX A6000.
Najmocniejsze, które się mieszczą
Pierwsze 15 według logiki i kodu
| Model | Pamięć · znacznik = 48 GB | VRAM | Szybkość na RTX A6000 (szac.) | Wynik |
|---|---|---|---|---|
| Qwen 2.5 72B Instruct Qwen 2.5 Family · Q4_K_M | 43.5 GB | ~10 tok/s | 98 | |
| Qwen 2.5 Coder 32B Qwen 2.5 Family · Q4_K_M | 19.3 GB | ~22 tok/s | 97 | |
| Llama 3.3 70B Instruct Llama 3.3 · Q2_K_XS (Tight) | 20.2 GB | ~21 tok/s | 97 | |
| Qwen 3 32B Qwen 3 · Q4_K_M | 19.8 GB | ~22 tok/s | 97 | |
| DeepSeek R1 Distill Qwen 32B DeepSeek R1 · Q4_K_M | 19.3 GB | ~22 tok/s | 96 | |
| Qwen 2.5 14B Instruct Qwen 2.5 Family · Q4_K_M | 8.5 GB | ~46 tok/s | 95 | |
| Nemotron 70B Instruct Nemotron 70B · Q4_K_M | 42.6 GB | ~11 tok/s | 94 | |
| Qwen 3 14B Qwen 3 · Q4_K_M | 8.9 GB | ~45 tok/s | 94 | |
| Codestral 22B Codestral · Q4_K_M | 13.4 GB | ~31 tok/s | 93 | |
| Qwen 3.6 35B-A3B Qwen 3.6 · Q4_K_M | 21.1 GB | ~158 tok/s | 93 | |
| DeepSeek R1 Distill Qwen 14B DeepSeek R1 · Q4_K_M | 8.5 GB | ~47 tok/s | 92 | |
| Phi-4 (14B) Phi-4 Family · Q4_K_M | 8.5 GB | ~46 tok/s | 92 | |
| Gemma 4 31B Gemma 4 · Q4_K_M | 18.7 GB | ~22 tok/s | 92 | |
| Qwen 2.5 VL 72B Instruct Qwen 2.5 VL · Q4_K_M | 44.3 GB | ~10 tok/s | 92 | |
| Gemma 3 27B Instruct Gemma 3 · Q4_K_M | 16.3 GB | ~26 tok/s | 92 |
Co odblokowuje 64 GB
Najmocniejsze modele, które potrzebują kolejnego poziomu.
FAQ
What LLMs run well with 48 GB VRAM?
Qwen 2.5 Family, Qwen 2.5 Family, Llama 3.3, Qwen 3, DeepSeek R1 all fit in 48 GB VRAM.
Which GPUs have 48 GB VRAM?
NVIDIA RTX A6000, NVIDIA RTX 6000 Ada Generation, NVIDIA L40S, NVIDIA RTX PRO 5000 Blackwell (48 GB).
Wszystkie poziomy w skrócie
| Pamięć | Mieści się | Najlepszy ogólnie | Największy, który się mieści |
|---|---|---|---|
| 4 GB | 35 | Shieldstral 1.0 3B | Gemma 3 4B Instruct · 2.4 GB |
| 6 GB | 59 | Granite 3.0 8B Instruct | Qwen 2.5 VL 7B Instruct · 5 GB |
| 8 GB | 75 | Granite 3.0 8B Instruct | Falcon 3 10B Instruct · 6.2 GB |
| 10 GB | 87 | Qwen 2.5 14B Instruct | Qwen 3 14B · 8.9 GB |
| 12 GB | 89 | Qwen 2.5 14B Instruct | StarCoder 2 15B · 9.4 GB |
| 16 GB | 99 | Qwen 2.5 14B Instruct | Mistral Small 3 (24B) · 14.5 GB |
| 20 GB | 116 | Qwen 2.5 14B Instruct | Gemma 4 31B · 18.7 GB |
| 24 GB | 136 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 32 GB | 137 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 48 GB | 143 | Qwen 2.5 72B Instruct | Qwen 2.5 VL 72B Instruct · 44.3 GB |
| 64 GB | 148 | Qwen 2.5 72B Instruct | Qwen3-Coder-Next (80B-A3B MoE) · 48.3 GB |
| 80 GB | 158 | Qwen 2.5 72B Instruct | Qwen 3.5 122B-A10B · 73.7 GB |
Kup ten sprzęt NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board powerUruchom w chmurze NVIDIA A40 w RunPod — od $0.44/godz. · stawka sprawdzona 2026-08
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.