Wymagania VRAM dla LLM-ów do kodowania: co naprawdę uciągnie każdy próg
8 GB VRAM uciągnie StarCoder 2 7B razem z modelem do autouzupełniania — to sensowny punkt wejścia. 16 GB uciągnie Devstral Small 2 24B, czyli pierwszy próg naprawdę zdatny do pracy agentowej. 24 GB uruchomi Qwen 3.6 27B albo Qwen 2.5 Coder 32B — złoty środek. Wyżej, około 49 GB (2×24 GB albo Mac z 96 GB i więcej) odblokowuje Qwen3-Coder 80B-A3B. Agenty kodujące potrzebują zapasu na kontekst ponad same wagi, więc planuj o oczko luźniej niż przy konfiguracji do samego czatu.
Autor: Jakub Rusinowski · Ostatnia aktualizacja 4 sierpnia 2026 · Wartości sprzętowe wyliczone naszym silnikiem VRAM
Kodowanie to najtrudniejsze obciążenie do wymiarowania VRAM-u, bo o tę samą pamięć biją się trzy rzeczy: wagi modelu, cache KV (rosnący razem z długością kontekstu — a narzędzia agentowe rutynowo pchają konteksty rzędu 16–32 tys. tokenów) i każdy drugi model, którego trzymasz do autouzupełniania. Ogólne tabelki w rodzaju „7B potrzebuje 5 GB” pomijają dwie ostatnie pozycje i tak właśnie kończy się agentem, który wysypuje się w chwili, gdy Cline wczyta duży plik.
Każda liczba poniżej to zapotrzebowanie przy Q4_K_M policzone tym samym silnikiem, co nasz kalkulator zgodności — wagi plus cache KV plus narzut, a nie przepisana wartość z karty katalogowej. Dla konkretnej pary GPU i modelu, razem z opcjami kwantyzacji i kontekstu, kalkulator poda dokładny werdykt.
8 GB VRAM — uczciwy punkt wejścia
Karty klasy RTX 3060/4060 i Maki z 16 GB. Jeden mały koder z bieżącej generacji albo koder plus autouzupełnianie, jeśli utrzymasz konteksty w ryzach.
| Model | VRAM (Q4) | Uruchomi się na | Kontekst | Licencja |
|---|---|---|---|---|
| Qwen3-Coder 8B Model na co dzień Bieżąca generacja, dostrojony pod FIM, zostawia na karcie 8 GB jakieś 2 GB zapasu na rosnący kontekst. ollama pull qwen3-coder:8b | 5.6 GB | 8 GB GPU (RTX 3060/4060) Mac: 16 GB pamięci zunifikowanej | 125K | Apache-2.0 |
| StarCoder 2 3B Pomocnik do autouzupełniania Na tyle mały, żeby chodzić obok modelu 8B — natychmiastowy ghost text, podczas gdy większy model zajmuje się czatem. ollama pull starcoder2:3b | 2.6 GB | 8 GB GPU (RTX 3060/4060) Mac: 16 GB pamięci zunifikowanej | 16K | BigCode OpenRAIL-M |
12–16 GB VRAM — pierwszy próg agentowy
RTX 3060 12GB, RTX 4060 Ti 16GB i 5060 Ti 16GB, karty klasy RX 7800 XT, Maki z 24 GB. Tutaj dedykowane agenty do kodowania robią się niezawodne.
| Model | VRAM (Q4) | Uruchomi się na | Kontekst | Licencja |
|---|---|---|---|---|
| Devstral 2 22B Najlepszy agent poniżej 24 GB Zbudowany specjalnie pod pętle agentowe na wielu plikach; na karcie 16 GB mieści się z zapasem na kontekst. ollama pull devstral:22b | 14.1 GB | 16 GB GPU (RTX 4060 Ti 16GB / 5060 Ti) Mac: 24 GB pamięci zunifikowanej | 125K | Apache-2.0 |
| Codestral 22B Specjalista od FIM (bez zastosowań komercyjnych) Świetne podpowiedzi, ale licencja MNPL — wyłącznie projekty prywatne. ollama pull codestral:22b | 14.2 GB | 16 GB GPU (RTX 4060 Ti 16GB / 5060 Ti) Mac: 24 GB pamięci zunifikowanej | 32K | MNPL-0.1 (non-production) |
| StarCoder 2 15B Opcja z poprzedniej generacji Mieści się na karcie 12 GB; sięgaj po niego tylko wtedy, gdy nowsze 8B i 22B nie obsługują twojego języka. ollama pull starcoder2:15b | 10.2 GB | 12 GB GPU (RTX 3060 12GB / 4070) Mac: 16 GB pamięci zunifikowanej | 16K | BigCode OpenRAIL-M |
24 GB VRAM — złoty środek
RTX 3090/4090, RX 7900 XTX, Maki z 32 GB. To próg, w który ten dział radzi celować, jeśli kupujesz sprzęt pod kodowanie.
| Model | VRAM (Q4) | Uruchomi się na | Kontekst | Licencja |
|---|---|---|---|---|
| Qwen 3.6 27B Najlepszy ogółem Na karcie 24 GB zostaje jakieś 6 GB zapasu — wystarczy na konteksty 32K albo na pomocnika do autouzupełniania. ollama pull qwen3.6:27b | 17.6 GB | 24 GB GPU (RTX 3090/4090) Mac: 24 GB pamięci zunifikowanej | 256K | Apache-2.0 |
| Qwen 2.5 Coder 32B Dedykowany koder Ciaśniej (około 4 GB zapasu) — jakość znakomita, ale trzymaj konteksty w ryzach albo zrezygnuj z pomocnika. ollama pull qwen2.5-coder:32b | 20.1 GB | 24 GB GPU (RTX 3090/4090) Mac: 32 GB pamięci zunifikowanej | 128K | Apache-2.0 |
| Qwen 3.6 35B-A3B Szybka alternatywa MoE Zaledwie 3B aktywnych parametrów — wyraźnie szybsze tokeny niż gęsty 27B przy zbliżonej jakości. ollama pull qwen3.6:35b-a3b | 21.9 GB | 24 GB GPU (RTX 3090/4090) Mac: 32 GB pamięci zunifikowanej | 256K | Apache-2.0 |
48 GB i więcej — teren stacji roboczych i Maców
Dwie karty po 24 GB, jedna karta 48 GB albo 64–128 GB pamięci zunifikowanej Apple (z czego dla modeli użyteczne jest jakieś 75%).
| Model | VRAM (Q4) | Uruchomi się na | Kontekst | Licencja |
|---|---|---|---|---|
| Qwen3-Coder-Next (80B-A3B MoE) Nagroda główna stacji roboczej Około 96% jakości kodowania otwartego flagowca; 3B aktywnych parametrów trzyma go szybkim nawet przy tym rozmiarze. ollama pull qwen3-coder:80b-a3b-q4 | 49.1 GB | 2×48 GB GPUs / big unified memory Mac: 96 GB pamięci zunifikowanej | 256K | Apache-2.0 |
| Devstral-2 123B Agentowy maksymalista 71,6% na SWE-bench Verified — najmocniejszy otwarty agent, jakiego postawisz u siebie bez serwerowni. ollama pull devstral:123b | 75.1 GB | 2×48 GB GPUs / big unified memory Mac: 128 GB pamięci zunifikowanej | 256K | Apache-2.0 |
Dwie zasady VRAM specyficzne dla kodowania
Na Apple Silicon licz jakieś 75% pamięci zunifikowanej jako użyteczne dla modeli — Mac z 48 GB to na potrzeby planowania „karta 36 GB”.
Zmieniasz próg?
Jeśli ta strona przesunęła twój cel z 8 GB na 16 albo 24, to są karty, wokół których wyceniony jest każdy z progów — 4060 Ti 16GB jako wybór za rozsądne pieniądze, 3090 i 4090 na złoty środek.
Nie masz sprzętu? Najpierw wynajmij kartę
Albo daruj sobie zakup: wynajmij dokładnie ten próg VRAM na godzinę i podejrzyj faktyczne zużycie pamięci na swoim własnym obciążeniu, zanim wydasz choćby złotówkę.
- RunPod — RTX 4090 ≈ $0.3–0.7/hr, A100/H100 by the hour; serverless per-second billing available
- Vast.ai — Marketplace of hosted GPUs — often the cheapest per hour (interruptible options)
- Lambda — On-demand A100/H100/B200 instances and clusters, per-hour billing
Affiliate links — we may earn a commission if you sign up, at no extra cost to you.
Pełna lista w katalogu chmurowej AI.
Najczęstsze pytania
Ile VRAM potrzebuje lokalny LLM do kodowania?
Praktyczne minima przy Q4: 8 GB na StarCoder 2 7B (sensowny punkt wejścia), 16 GB na Devstral Small 2 24B (pierwszy próg niezawodnie agentowy), 24 GB na Qwen 3.6 27B albo Qwen 2.5 Coder 32B (złoty środek). Do wartości modelu doliczaj jakieś 15% zapasu na konteksty o długości agentowej.
Jaki LLM do kodowania jest najlepszy przy 16 GB VRAM?
Devstral Small 2 24B — jakieś 14 GB przy Q4_K_M, zbudowany specjalnie pod kodowanie agentowe, Apache 2.0. Jeśli potrzebujesz większego zapasu na kontekst albo drugiego modelu do autouzupełniania, elastyczną alternatywą jest StarCoder 2 7B przy około 6 GB.
Dlaczego przy długich plikach mojemu modelowi do kodowania kończy się VRAM?
Przez cache KV. Wartości z kart katalogowych zakładają krótkie konteksty, a cache rośnie z każdym tokenem kontekstu — agenty kodujące zaś upychają w nim pliki, diffy i plany. Model 20 GB na karcie 24 GB potrafi wysypać się z OOM przy kontekście 32K. Rozwiązania: niższa kwantyzacja, ograniczenie kontekstu albo kwantyzacja cache'u KV. Zajrzyj do naszego przewodnika po błędzie CUDA out of memory.
Czy 8 GB VRAM wystarczy do lokalnego asystenta kodowania?
Tak, przy właściwie ustawionych oczekiwaniach: StarCoder 2 7B plus StarCoder2 3B do autouzupełniania to naprawdę użyteczny zestaw na co dzień do podpowiedzi, wyjaśnień i drobnych edycji. Czego 8 GB nie obsłuży dobrze, to autonomiczna praca agentowa na wielu plikach — ta zaczyna być godna zaufania przy 16 GB, a wygodna przy 24 GB.
Ile pamięci zunifikowanej potrzebuje Mac do modeli kodujących?
Licz mniej więcej 75% pamięci zunifikowanej jako dostępne dla modeli. Mac 16 GB → StarCoder 2 7B; 24–32 GB → Devstral Small 2 24B; 32–48 GB → Qwen 3.6 27B; 96–128 GB → Qwen3-Coder 80B-A3B. Przepustowość pamięci układów serii M sprawia, że do kodowania są bardzo użyteczne, zwłaszcza z modelami MoE.
Co dalej
- Wszystko, co uciągnie karta 16 GB — pełna strona progu VRAM
- Indeks „czy uruchomię” — sprawdź konkretną parę GPU i modelu
- CUDA out of memory — diagnoza i rozwiązania
Więcej z tego działu
- Najlepszy LLM do kodowania na 8, 16 i 24 GB VRAM
- Najlepsze GPU do lokalnego kodowania z AI w 2026: pięć sensownych wyborów
- Context engineering dla lokalnych agentów kodujących: budżetowanie okna, za które płacisz
- Dlaczego twój lokalny agent kodujący wlecze się w miejscu — i sześć poprawek, które działają
- Lokalny asystent kodowania — cały dział