Ollama działa w terminalu, ale większość użytkowników woli interfejs graficzny (GUI) podobny do ChatGPT. Oto najlepsze narzędzia, które nadadzą Twojemu lokalnemu modelowi LLM przyjazną twarz.

1. Open WebUI (dawniej Ollama WebUI)

Najbliższy klon interfejsu ChatGPT. Łączy się bezpośrednio z Ollama.

Funkcje: historia czatu, podświetlanie składni kodu, wprowadzanie głosowe i obsługa generowania obrazów.
Instalacja (wymagany Docker):

bash

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

Dostęp: otwórz http://localhost:3000 w przeglądarce.

2. LM Studio

Aplikacja „wszystko w jednym”, która pozwala pobierać modele i z nimi rozmawiać. Świetna, jeśli w ogóle nie chcesz używać wiersza poleceń.

Zalety: łatwe wyszukiwanie modeli, wizualna konfiguracja odciążania GPU.
Wady: zamknięty kod źródłowy (ale darmowa w użyciu).
Pobieranie: lmstudio.ai

3. Text-Generation-WebUI (Oobabooga)

„Scyzoryk szwajcarski” dla zaawansowanych użytkowników. Obsługuje każdy loader (ExLlamaV2, AutoGPTQ, GGUF).

Najlepsze do: testowania różnych formatów kwantyzacji i rozszerzeń.
Instalacja: sklonuj repozytorium z GitHuba i uruchom skrypt start_windows.bat lub start_linux.sh.

4. Jan.ai

Przejrzysta, natywna aplikacja desktopowa działająca offline. Otwartoźródłowa i bardzo przyjazna początkującym.

Pobieranie: jan.ai

← PoprzedniJak wybrać odpowiedni model LLM Następny →Ollama, LM Studio czy Jan?