Poradnik 2: Instalacja Ollama

Ollama to najprostsze narzędzie do rozpoczęcia pracy z lokalnymi modelami LLM. Pakuje wagi modelu, konfigurację i silnik uruchomieniowy w jeden plik wykonywalny.

1. Pobieranie i instalacja

Windows

1. Pobierz Ollama dla Windows.
2. Uruchom instalator .exe.
3. Po instalacji Ollama działa w tle (sprawdź zasobnik systemowy).

macOS

1. Pobierz Ollama dla macOS.
2. Rozpakuj plik i przenieś Ollama do folderu Aplikacje.
3. Otwórz aplikację. Może być konieczne zatwierdzenie jej w ustawieniach „Ochrona i prywatność”, jeśli pojawi się monit.

Linux

Uruchom w terminalu następujące polecenie:

2. Uruchomienie pierwszego modelu

Ollama działa z poziomu wiersza poleceń (Terminal na Mac/Linux, PowerShell/CMD na Windows).

Aby pobrać i uruchomić popularny model Llama 3.1 8B, po prostu wpisz:

Ollama wykona kolejno:

1. Pobranie manifestu modelu.
2. Pobranie warstw modelu (ok. 4,7 GB).
3. Weryfikację sumy kontrolnej (hash).
4. Przejście do znaku zachęty czatu >>>.

Możesz już rozmawiać! Wpisz „Dlaczego niebo jest niebieskie?” i naciśnij Enter.

3. Przydatne polecenia

4. Nowości w Ollama v0.32: tryb agenta, tool calling i MLX

Ollama v0.32 to duża aktualizacja pod pracę agentową i Apple Silicon. Instalator aktualizuje wersję w miejscu, więc uruchom go ponownie i potwierdź numer:

Wbudowany tryb agenta

v0.32 dodaje interaktywny tryb agenta: model obsługujący wywoływanie narzędzi może teraz planować, wywoływać narzędzia i łączyć kroki w pętlę wprost z wiersza poleceń — bez zewnętrznego frameworka agentowego. Uruchom model z obsługą tool callingu i daj mu zadanie:

W trybie agenta model może sięgać po zarejestrowane narzędzia (polecenia powłoki, odczyt i zapis plików, pobieranie z sieci) i iterować, dopóki zadanie nie zostanie wykonane. Wszystko dzieje się na twojej maszynie, więc kod źródłowy i dokumenty nigdy jej nie opuszczają — czyli dokładnie po to uruchamia się agenta lokalnie, a nie w chmurze. Jak podpiąć własne narzędzia, opisuje Budowanie autonomicznych agentów na lokalnych LLM-ach.

Pewniejsze wywoływanie narzędzi

Wywoływanie narzędzi (funkcji) jest w v0.32 dużo bardziej konsekwentne, a Ollama mówi formatem tools zgodnym z OpenAI na swoim endpoincie /v1/chat/completions — więc istniejący kod na SDK OpenAI zadziała po samym przestawieniu adresu bazowego na http://localhost:11434/v1. Modele z mocną obsługą narzędzi to dziś między innymi Qwen3-Coder, Devstral Small 2, GLM-5, Kimi K2.x i Llama 4. Ustrukturyzowane wyjście JSON (format ze schematem JSON) też jest stabilniejsze — szczegóły w Niezawodny JSON z lokalnych LLM-ów i Postawienie lokalnego serwera API.

Akceleracja MLX na Apple Silicon

Na Macach z układami serii M v0.32 potrafi uruchamiać obsługiwane modele przez backend MLX (framework tablicowy Apple) obok domyślnego silnika llama.cpp. MLX korzysta z architektury pamięci zunifikowanej bardziej bezpośrednio i daje zauważalnie szybsze przetwarzanie promptu oraz generowanie tokenów na sprzęcie M3 i M4. Włącza się automatycznie dla obsługiwanych modeli na Apple Silicon, a przy modelu jeszcze nieprzygotowanym pod MLX wraca do standardowego silnika — nie ma tu czego konfigurować. Na Macu pilnuj pamięci: duże modele wciąż potrzebują pamięci zunifikowanej, żeby pomieścić wagi.

5. Rozwiązywanie problemów

• Błąd: could not connect to ollama app: upewnij się, że aplikacja Ollama działa w zasobniku systemowym (Windows/Mac) lub że usługa jest aktywna (Linux: sudo systemctl start ollama).
• Niska wydajność: sprawdź, czy model mieści się w VRAM. Jeśli przelewa się do pamięci systemowej, będzie działać bardzo wolno.

6. Kolejne kroki

Skoro Ollama już działa, zajrzyj do Biblioteki modeli, aby znaleźć modele do pobrania.