Koszt prądu przy uruchamianiu lokalnego LLM 24/7

Autor: Jakub RusinowskiOstatnia aktualizacja 7 min czytaniaPodstawowy
Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.

Uruchamianie lokalnego LLM w trybie 24/7 kosztuje od 1 do 30 dolarów miesięcznie w prądzie, zależąc niemal wyłącznie od Twojego sprzętu: zawsze włączony Mac Mini kosztuje mniej niż lampka nocna, podczas gdy wieża z dwoma GPU zbliża się do budżetu na serwis streamingowy. Ten przewodnik podaje realny pobór mocy na biegu jałowym i pod obciążeniem według poziomu GPU, wzór do wypełnienia własną stawką oraz dwa ustawienia, które najbardziej tną rachunek.

Ostatnia aktualizacja: lipiec 2026

Wzór (30 sekund matematyki)

shell
Monthly cost = watts ÷ 1000 × hours per day × 30 × your rate per kWh

Przykład: PC, który na biegu jałowym pobiera 80W przez całą dobę, przy średniej amerykańskiej z 2026 roku ~0,17 USD/kWh: 80 ÷ 1000 × 24 × 30 × 0,17 = 9,79 USD/miesiąc — zanim GPU wykona jakąkolwiek rzeczywistą pracę.

Twoja stawka za prąd liczy się bardziej niż jakikolwiek wybór sprzętu w obrębie poziomu: średnia amerykańska to ~0,17 USD/kWh, Niemcy to mniej więcej dwa razy tyle, a taryfy strefowe potrafią wahać się 2x między południem a nocą. Sprawdź swój rachunek, a nie średnią krajową.

Zużycie energii lokalnej AI według poziomu sprzętu

Wartości mierzone na gniazdku (cały system, nie samo GPU):

SystemBieg jałowyWnioskowanie LLMUwagi
Mac Mini M44–7 W20–35 WMistrz wydajności 24/7
Mac Studio M4 Max10–14 W55–90 WZdolny do 70B przy mocy laptopa
PC + RTX 3060 12GB45–60 W220–280 WTypowa budżetowa wieża
PC + RTX 309060–85 W380–450 WWysoki bieg jałowy to ukryty koszt
PC + RTX 409055–75 W400–500 WSzybkie zrywy, duże skoki przejściowe
PC + 2× RTX 309090–130 W700–850 WNajpierw przeczytaj przewodnik multi-GPU

Liczba, którą ludzie mylą: bieg jałowy. Osobisty serwer LLM spędza 95%+ dnia bezczynnie — model siedzi w pamięci, czekając. Bieg jałowy 70W wieży gamingowej kosztuje ~8,60 USD/miesiąc przy 0,17 USD/kWh, nie robiąc nic, podczas gdy bieg jałowy 5W Mac Mini kosztuje 0,61 USD. Zrywy wnioskowania ledwo się rejestrują w porównaniu: nawet dwie pełne godziny generowania dziennie na 4090 przy 450W dodają tylko ~4,60 USD/miesiąc.

Ile kosztuje miesięcznie serwer LLM 24/7

Zakładając realistyczny cykl pracy osobistego asystenta (22h bieg jałowy + 2h aktywnego wnioskowania dziennie):

System@ $0,12/kWh@ $0,17/kWh (śr. USA)@ $0,30/kWh (mniej więcej UE)
Mac Mini M4$0,60$0,85$1,50
Mac Studio M4 Max$1,30$1,85$3,25
PC + RTX 3060$3,90$5,50$9,70
PC + RTX 3090$6,80$9,60$17,00
PC + RTX 4090$6,40$9,10$16,00
PC + 2× 3090$11,60$16,40$29,00

Przelicz liczby dla własnego modelu i GPU w kalkulatorze kosztów. Dwa uczciwe wnioski: do pracy zawsze-włączonej Apple Silicon lub mini PC jest dramatycznie tańszy niż jakakolwiek wieża; a nawet „drogi" box z 4090 kosztuje miesięcznie mniej niż pojedyncze miejsce ChatGPT Plus — analiza lokalnie vs chmura ma pełną matematykę progu opłacalności wraz z amortyzacją sprzętu.

Dwa ustawienia, które najbardziej tną rachunek

Na laptopie te same dźwignie objawiają się ciepłem, nie kosztem: długotrwałe wnioskowanie to powód, dla którego MacBook jest szybki przez dwie minuty, a po dziesięciu o połowę wolniejszy.

1. Ogranicz moc GPU (największa wygrana, niemal zerowy minus)

Wnioskowanie LLM jest ograniczone przepustowością pamięci, nie mocą obliczeniową — najwyższe pasmo mocy GPU jest głównie marnowane. Ograniczenie RTX 4090 z 450W do 300W zwykle kosztuje tylko ~5–10% tokenów/s; 3090 ograniczony z 350W do 250W zachowuje się tak samo:

bash
# Cap the GPU at 300W (resets at reboot; persist via a startup script)
sudo nvidia-smi -pl 300

# Verify under load
nvidia-smi --query-gpu=power.draw,power.limit --format=csv -l 5

Ta jedna komenda oszczędza intensywnemu użytkownikowi 24/7 3–8 USD/miesiąc i proporcjonalnie tnie ciepło oraz hałas wentylatorów.

2. Nie trzymaj modeli załadowanych na energochłonnych kartach

Ollama domyślnie wyładowuje modele po 5 minutach (OLLAMA_KEEP_ALIVE), pozwalając GPU wpaść w głęboki bieg jałowy. Jeśli ustawisz OLLAMA_KEEP_ALIVE=-1 dla natychmiastowych odpowiedzi, poznaj cenę: 3090 trzymający model pobiera na biegu jałowym 20–30W więcej niż pusty. Trzymaj modele rezydentne na wydajnym sprzęcie; pozwól im się wyładowywać na dużych kartach NVIDIA.

Warto też sprawdzić na bezgłowych serwerach Linux: jeśli nvidia-smi pokazuje 40W+ na biegu jałowym bez niczego załadowanego, karta utknęła w wysokim P-state — poszukaj trybu persistence i poprawek P-state dla swojej wersji sterownika.

Mierz, nie zgaduj

  • Cały system: miernik gniazdkowy za 15–25 dolarów (typu Kill A Watt) to jedyna liczba obejmująca straty PSU, wentylatory i dyski.
  • Samo GPU: nvidia-smi --query-gpu=power.draw --format=csv -l 1 — dokładny dla trendów, choć pomija milisekundowe skoki przejściowe.

Dobór PSU do skrzynki AI

Nowoczesne GPU pobierają ostre milisekundowe skoki znacznie powyżej mocy znamionowej — 4090 potrafi przejściowo ciągnąć 600W+. Za mały PSU produkuje klasyczną awarię „PC restartuje się w chwili załadowania modelu":

  • Klasa RTX 3060/4060: dobra jednostka 550–650W
  • Pojedynczy 3090/4090: 850W (1000W dla wczesnych 3090 podatnych na skoki)
  • Podwójne GPU: 1200W+, najlepiej ATX 3.x z natywnymi złączami 12V-2x6

Jednostka 80+ Gold lub Platinum marnuje też mniej watów jako ciepło — przy pracy 24/7 premia za wydajność zwraca się w ciągu życia PSU.

be quiet! 1000W 80+ Platinum PSU
Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Najczęściej zadawane pytania

Ile prądu zużywa lokalny LLM na zapytanie?

Prawie nic. 4090 generujący odpowiedź 500-tokenową przez 15 sekund przy 450W zużywa około 1,9 watogodziny — trzy setne centa. Koszt na zapytanie to błąd zaokrąglenia; godziny biegu jałowego to cały rachunek maszyny 24/7.

Czy drogo jest zostawić Ollamę działającą 24/7?

Na Macu lub mini PC nie — 1–3 USD/miesiąc all-in. Na wieży gamingowej z dużym GPU własny pobór wieży na biegu jałowym kosztuje 8–17 USD/miesiąc w zależności od stawki. Jeśli maszyna jest głównie serwerem, wydajny sprzęt oszczędza więcej niż jakakolwiek programowa modyfikacja.

Czy uruchamianie lokalnego LLM nagrzewa pokój?

Każdy wat staje się ciepłem. Obciążenie wnioskowaniem 450W to grzejnik na niskim biegu; latem z klimatyzacją płacisz za te waty dwa razy — raz, by wytworzyć ciepło, raz, by je usunąć. Ograniczanie mocy GPU pomaga, tak samo jak darmowa wentylacja.

Czy lokalna AI jest wciąż tańsza niż API w chmurze, gdy policzyć prąd?

Przy stałym użyciu osobistym zwykle tak: nawet ~10 USD/miesiąc prądu skrzynki z 4090 podcina równoważne wydatki na API dla intensywnych użytkowników, a sprzęt amortyzuje się przez lata. Pełne porównanie — z kosztem sprzętu — jest w przewodniku Lokalna AI vs koszt chmury.

Powiązane przewodniki

Aby sprawdzić konkretny model, użyj kalkulatora VRAM: pokazuje pamięć potrzebną przy każdej kwantyzacji i długości kontekstu.