Nie wiesz, który model uruchomić? Ten przewodnik przecina szum. Rekomendujemy jeden najlepszy model na poziom VRAM — ten, od którego większość użytkowników powinna zacząć.
4 GB VRAM (budżetowe GPU / iGPU)
Najlepszy wybór: Phi-4 Mini (3.8B, Q4_K_M)
- Potrzebny VRAM: 3,2 GB
- Szybkość: ~35–50 t/s na RTX 4060, ~20 t/s na grafice zintegrowanej
- Ollama:
ollama run phi4-mini - Dlaczego: Phi-4 Mini firmy Microsoft przewyższa modele dwa razy większe w zadaniach rozumowania i kodowania. Mieści się w 3,2 GB, zostawiając zapas na kontekst.
Wicelider: Gemma 3 4B (ollama run gemma3:4b) — lepsza do pisania kreatywnego, 3,5 GB.
Czego oczekiwać: Kompetentny asystent do codziennego czatu, pomocy w kodowaniu i pisania. Nie oczekuj rozumowania na poziomie 70B, ale jak na 4 GB, to imponujące.
8 GB VRAM (RTX 4060, RX 7600, laptopowe GPU)
Najlepszy wybór: Llama 3.1 8B (Q4_K_M)
- Potrzebny VRAM: 5,8 GB
- Szybkość: 55–90 t/s na RTX 4060 / 4070
- Ollama:
ollama run llama3.1:8b - Dlaczego: Llama 3.1 8B firmy Meta to najszerzej testowany model 8B. Mocny we wszystkich zadaniach, rozległe wsparcie społeczności, szybki na kartach 8 GB.
Wicelider do kodowania: Qwen 2.5 Coder 7B (ollama run qwen2.5-coder:7b) — najlepszy czysto kodujący model 8B.
Wicelider do rozumowania: DeepSeek R1 8B Distill (ollama run deepseek-r1:8b) — rozumowanie zbliżone do GPT-4 w 8B.
12 GB VRAM (RTX 4070, RTX 3060 12GB, RX 7700 XT)
Najlepszy wybór: Qwen 3 8B (Q8_0) — uruchom w wyższej jakości, bo masz zapas
- Potrzebny VRAM: 9,5 GB
- Szybkość: 60–95 t/s
- Ollama:
ollama run qwen3:8b - Dlaczego: Z 12 GB VRAM możesz uruchomić modele 8B w jakości Q8_0 (niemal bezstratnej) zamiast Q4, znacząco poprawiając wyniki.
Lub wypróbuj: Gemma 3 12B Q4 (ollama run gemma3:12b) — najlepszy średni model Google.
16 GB VRAM (RTX 4060 Ti 16GB, RTX 4070 Ti, RX 7800 XT)
Najlepszy wybór: Qwen 3 14B (Q4_K_M)
- Potrzebny VRAM: 9,8 GB (zostawia 6 GB na kontekst)
- Szybkość: 64–98 t/s
- Ollama:
ollama run qwen3:14b - Dlaczego: Modele 14B trafiają w jakościowy złoty środek. Qwen 3 14B jest state-of-the-art w tym rozmiarze — bije GPT-3.5 w większości zadań.
Wicelider do kodowania: Qwen 2.5 Coder 14B (ollama run qwen2.5-coder:14b)
Najlepszy do długich dokumentów: Mistral Small 3.1 (ollama run mistral-small) — okno kontekstu 128K.
24 GB VRAM (RTX 4090, RTX 3090, RX 7900 XTX)
Najlepszy wybór: DeepSeek R1 32B (Q4_K_M)
- Potrzebny VRAM: 19,5 GB
- Szybkość: 45–55 t/s
- Ollama:
ollama run deepseek-r1:32b - Dlaczego: DeepSeek R1 32B to potęga rozumowania, która mieści się w 24 GB i rywalizuje z GPT-4o w matematyce, kodowaniu i logice. Przełom dla właścicieli GPU 24 GB.
Alternatywa: Qwen 3 32B (ollama run qwen3:32b) — też się mieści, mocniejszy w zadaniach ogólnych.
32 GB+ VRAM (RTX 5090, Apple M4 Max, profesjonalne GPU)
Najlepszy wybór: Llama 4 Scout (Q4_K_M)
- Potrzebny VRAM: 12–14 GB (zostawia 18+ GB na ogromne okno kontekstu)
- Szybkość: 175 t/s na RTX 5090
- Ollama:
ollama run llama4:scout - Dlaczego: Z 32 GB VRAM możesz uruchomić Llamę 4 Scout (17B aktywnych parametrów, kontekst 10M) z zawrotną szybkością i ogromnym kontekstem — przydatne przy długich dokumentach, bazach kodu lub rozmowach wieloturowych.
Dla modeli 70B: Llama 3.3 70B Q4_K_M potrzebuje 42 GB — działa na Apple M2/M4 Ultra (128–192 GB pamięci zunifikowanej) lub zestawach dwóch RTX 4090/5090.
Tabela szybkiego odniesienia
| VRAM | Najlepszy model | Komenda Ollama | Szybkość |
|---|---|---|---|
| 4 GB | Phi-4 Mini | ollama run phi4-mini | ~40 t/s |
| 8 GB | Llama 3.1 8B | ollama run llama3.1:8b | ~70 t/s |
| 12 GB | Qwen 3 8B Q8 | ollama run qwen3:8b | ~80 t/s |
| 16 GB | Qwen 3 14B | ollama run qwen3:14b | ~85 t/s |
| 24 GB | DeepSeek R1 32B | ollama run deepseek-r1:32b | ~50 t/s |
| 32 GB+ | Llama 4 Scout | ollama run llama4:scout | 175 t/s |
Aby sprawdzić konkretny model, użyj kalkulatora VRAM: pokazuje pamięć potrzebną przy każdej kwantyzacji i długości kontekstu.