Uruchom AI na własnym komputerze.
Wybierz ścieżkę, skopiuj polecenie i działasz. W każdym poradniku znajdziesz dokładnie to polecenie ollama run którego potrzebujesz.
Pierwsze kroki13 plików
Zainstaluj, uruchom pierwszy model i zacznij używać go do prawdziwej pracy.
- Lokalna AI od zera — kompletny przewodnik
- Instalacja Ollama
- Jak wybrać odpowiedni model LLM
- Webowe aplikacje do czatu
- Ollama, LM Studio czy Jan?
- LLM w codziennej produktywności
- LLM w nauce
- Lokalny LLM do maili i pisania
- System prompty i persony — podstawy
- Przeniesienie konfiguracji na nowy komputer
- LLM na telefonie
- LM Studio na telefonie (LM Link)
- Open WebUI i Ollama — konfiguracja
Sprzęt i VRAM15 plików
Co kupić, co zmieści się w pamięci, którą już masz, i ile kosztuje utrzymanie tego w ruchu.
- Ile VRAM naprawdę potrzebujesz
- Najlepszy model na Twoją ilość VRAM
- Jaką kartę graficzną kupić w 2026 roku
- RTX 5090 kontra RTX 4090 w lokalnej AI
- Używana karta graficzna do lokalnej AI
- Składanie komputera: od 500 do 2000 USD
- Mini PC do lokalnej AI
- Który Mac do lokalnych modeli LLM
- LLM na laptopie i Raspberry Pi
- Wnioskowanie na kilku GPU — czy warto?
- Ile prądu zużywa LLM działający całą dobę
- Lokalna AI kontra chmura — rachunek kosztów
- Wynajem GPU w chmurze
- Jak korzystać z RunPod
- Jak korzystać z Vast.ai
Modele i kwantyzacja7 plików
Wybór kwantyzacji, okna kontekstu i konwersja wag.
Fine-tuning i zbiory danych4 plików
Uczenie modelu Twojego zadania — kiedy wygrywa z promptowaniem i na jakich danych.
RAG i agenty6 plików
Dajesz modelowi swoje dokumenty, swoje narzędzia i swobodę działania. Agenty do kodowania mają własny dział poniżej.
Firma i prywatność7 plików
Self-hosting, serwowanie na dużą skalę i argumenty za trzymaniem danych na własnych maszynach.
Zacznij tutajNajlepszy LLM do kodowania na 8, 16 i 24 GB VRAMLokalny agent kodujący od zera do działania: Ollama + Qwen3-Coder + VS CodeLokalne alternatywy dla GitHub Copilota: co naprawdę go zastępuje offlineContinue, Cline, Aider czy Tabby: macierz lokalnych narzędzi do kodowania
Sprzęt, szybkość i kosztyWymagania VRAM dla LLM-ów do kodowania: co naprawdę uciągnie każdy prógNajlepsze GPU do lokalnego kodowania z AI w 2026: pięć sensownych wyborówLokalny agent kodujący, Copilot czy Cursor: ile każde z nich naprawdę kosztujeDlaczego twój lokalny agent kodujący wlecze się w miejscu — i sześć poprawek, które działają
Inżynieria agentaLoop engineering na lokalnym LLM-ie: pętle agenta, które same sprawdzają swoją pracęAgent harness: co właściwie zamienia lokalny model w agenta kodującegoContext engineering dla lokalnych agentów kodujących: budżetowanie okna, za które płaciszTool calling przy lokalnych modelach: jak sprawić, by agenty przestały się wykładać na popsutym JSON-ieAGENTS.md dla lokalnych agentów kodujących: najtańsza poprawa jakości, jaką możesz wprowadzićMCP przy lokalnych agentach kodujących: które serwery zarabiają na swoje tokeny
Uruchom bezpiecznie, udowodnij, że działaSandbox dla lokalnego agenta kodującego: autonomia bez promienia rażeniaOcena lokalnego agenta kodującego: benchmarki kłamią, twoje repozytorium nieLokalny agent do przeglądu kodu: zastosowanie, w którym małe modele są naprawdę dobre
W praktyce: konkretne modele i narzędziaQwen3-Coder lokalnie: 8B, 80B-A3B i pytanie o 480BAider z lokalnymi modelami: konfiguracja i modele, które naprawdę działająCline z lokalnymi modelami: co naprawdę działa (i co nie)Terminalowe agenty kodujące na lokalnych modelach: OpenCode, Qwen Code, Aider i spółka
Modele w stylu Jev (System One) odpowiadają na typowane pytania prawdopodobieństwem dla każdej opcji zamiast tekstu. Co da się uruchomić lokalnie, na jakim sprzęcie i jak to skonfigurować.
Wklej błąd, który widzisz. Pogrupowane według systemu, bo to on decyduje o rozwiązaniu.
Windows · 20CUDA out of memoryOllama: „model requires more system memory than is available”Model się ładuje, ale działa boleśnie wolnoLM Studio: „Failed to load model” (za mało pamięci)„No CUDA-capable device is detected”Brak pamięci przy długim kontekście (winny jest cache KV, nie wagi)GPU AMD niewykrywane / ROCm nieobsługiwany (Ollama i llama.cpp)Którą kwantyzację GGUF pobrać? (Q4, Q5 czy Q8)Brak miejsca na dysku / nieudane pobieranie GGUF przy dużych modelachLokalny LLM powtarza się albo utknął w pętliOllama „connection refused”Lokalny LLM wypisuje bełkot? Zły szablon czatu, nie brak VRAM-uOllama liczy na CPU na Windowsie mimo karty NVIDIACUDA działa na Windowsie, ale nie w WSL2Współdzielona pamięć GPU na Windowsie każe modelowi pełznąć, zamiast go zatrzymać„ollama is not recognized as an internal or external command”Przenieś modele poza dysk C:Nie mogę połączyć się z Ollamą z innego urządzeniaLaptop liczy model na karcie zintegrowanej, a nie na RTX-ieSmartScreen i antywirus blokują instalację lokalnej AI
Linux · 21CUDA out of memoryOllama: „model requires more system memory than is available”Model się ładuje, ale działa boleśnie wolnoLM Studio: „Failed to load model” (za mało pamięci)„No CUDA-capable device is detected”Brak pamięci przy długim kontekście (winny jest cache KV, nie wagi)GPU AMD niewykrywane / ROCm nieobsługiwany (Ollama i llama.cpp)Którą kwantyzację GGUF pobrać? (Q4, Q5 czy Q8)Brak miejsca na dysku / nieudane pobieranie GGUF przy dużych modelachLokalny LLM powtarza się albo utknął w pętliOllama „connection refused”Lokalny LLM wypisuje bełkot? Zły szablon czatu, nie brak VRAM-uCUDA działa na Windowsie, ale nie w WSL2nvidia-smi przestało działać po aktualizacji jądra„Failed to initialize NVML: Driver/library version mismatch”Secure Boot blokuje moduł sterownika GPUTwoje zmienne środowiskowe Ollamy są na Linuksie ignorowaneTwój kontener Dockera nie widzi GPUROCm nie obsługuje twojej karty AMD„Permission denied” na /dev/kfdOllama na serwerze linuksowym bez monitora
Apple · 18Ollama: „model requires more system memory than is available”Model się ładuje, ale działa boleśnie wolnoLM Studio: „Failed to load model” (za mało pamięci)Apple Silicon: model nie chce korzystać z GPU / Metal nieaktywnyBrak pamięci przy długim kontekście (winny jest cache KV, nie wagi)Którą kwantyzację GGUF pobrać? (Q4, Q5 czy Q8)Brak miejsca na dysku / nieudane pobieranie GGUF przy dużych modelachLokalny LLM powtarza się albo utknął w pętliOllama „connection refused”Lokalny LLM wypisuje bełkot? Zły szablon czatu, nie brak VRAM-uTwój Mac swapuje na dysk, zamiast uruchomić modelPodnoszenie limitu VRAM Metala na Apple Silicon„App is damaged and can't be opened”Lokalne modele LLM na Macu z IntelemMLX nie chce się zainstalować albo liczy na CPUTwój MacBook jest szybki przez dwie minuty, potem o połowę wolniejszyModel wywala aplikację na iPhonie albo zrzuca ją do mniejszegoPobrania modeli na iPhonie, które zawodzą, zapychają pamięć albo się zatrzymują