Najlepsze lokalne LLM według VRAM

Najlepsze LLM dla 4 GB

Wybierz ilość pamięci. Szeregujemy każdy model z katalogu, który mieści się przy zalecanej kwantyzacji, według zadań, i pokazujemy, co odblokowuje kolejny poziom.

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Poziom pamięci4 GBNa przykład RTX 5050, RTX 5060, RTX 4060
Modele, które się mieszczą35w całości w pamięci
Najlepszy ogólnie83Shieldstral 1.0 3B
Największy, który się mieści2.4 GBGemma 3 4B Instruct

Najlepsze przy 4 GB, według zadań

Wynik to ocena jakości dla zadania w skali 0–100; szybkość szacujemy dla RTX 5050.

Najmocniejsze, które się mieszczą

Pierwsze 15 według logiki i kodu

ModelVRAMSzybkość na RTX 5050 (szac.)Wynik
Shieldstral 1.0 3B
Shieldstral · Q4_K_M
2.3 GB~81 tok/s83
LFM3 1.7B
Liquid LFM3 · Q4_K_M
1 GB~159 tok/s83
LFM3-VL 2B
Liquid LFM3 · Q4_K_M
1.2 GB~149 tok/s83
Gemma 3 4B Instruct
Gemma 3 · Q4_K_M
2.4 GB~83 tok/s80
Phi-4 Mini (3.8B)
Phi-4 Mini · Q4_K_M
2.3 GB~79 tok/s79
Qwen 3.5 4B
Qwen 3.5 · Q4_K_M
2.4 GB~86 tok/s79
VibeThinker 3B
VibeThinker · Q4_K_M
1.9 GB~94 tok/s79
Phi 3.5 Mini
Phi 3.5 Family · Q4_K_M
2.3 GB~82 tok/s79
BitNet b1.58 3B
BitNet b1.58 · 1.58-bit
0.7 GB~160 tok/s74
StarCoder 2 3B
StarCoder 2 · Q4_K_M
1.8 GB~107 tok/s74
EXAONE 3.5 2.4B
EXAONE 3.5 · Q4_K_M
1.4 GB~115 tok/s73
Aya 3B
Aya 3B (Tiny Aya) · Q4_K_M
1.8 GB~96 tok/s72
Qwen 3.5 2B
Qwen 3.5 · Q4_K_M
1.2 GB~124 tok/s72
Granite 4.1 3B
IBM Granite 4.1 · Q4_K_M
1.8 GB~96 tok/s71
Ministral 3B
Ministral · Q4_K_M
2.2 GB~84 tok/s71

FAQ

What LLMs run well with 4 GB VRAM?

Shieldstral, Liquid LFM3, Liquid LFM3, Gemma 3, Phi-4 Mini all fit in 4 GB VRAM.

Which GPUs have 4 GB VRAM?

NVIDIA GeForce RTX 5050, NVIDIA GeForce RTX 5060, NVIDIA GeForce RTX 4060, AMD Radeon RX 9060 XT 8GB.

Wszystkie poziomy w skrócie

PamięćMieści sięNajlepszy ogólnie
4 GB35Shieldstral 1.0 3B
6 GB59Granite 3.0 8B Instruct
8 GB75Granite 3.0 8B Instruct
10 GB87Qwen 2.5 14B Instruct
12 GB89Qwen 2.5 14B Instruct
16 GB99Qwen 2.5 14B Instruct
20 GB116Qwen 2.5 14B Instruct
24 GB136Qwen 2.5 Coder 32B
32 GB137Qwen 2.5 Coder 32B
48 GB143Qwen 2.5 72B Instruct
64 GB148Qwen 2.5 72B Instruct
80 GB158Qwen 2.5 72B Instruct
Kup ten sprzęt Intel Arc B570 10GB — 10 GB VRAM · 150 W board powerUruchom w chmurze RTX 4090 w RunPod — od $0.34/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai od $0.35/godz. (typical low · varies)

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.