Autor: Jakub Rusinowski · Ostatnia aktualizacja: 10 lipca 2026
Twój smartfon jest potężniejszy, niż myślisz. Nowoczesne flagowe telefony uruchamiają modele LLM o 1B–3B parametrów całkowicie na urządzeniu, bez internetu, bez kluczy API i z pełną prywatnością. Ten
Twój smartfon jest potężniejszy, niż myślisz. Nowoczesne flagowe telefony uruchamiają modele LLM o 1B–3B parametrów całkowicie na urządzeniu, bez internetu, bez kluczy API i z pełną prywatnością. Ten przewodnik obejmuje wszystko, czego potrzebujesz, aby zacząć.
| RAM telefonu | Modele, które uruchomisz | Praktyczna szybkość |
|---|---|---|
| 6GB | SmolLM2 1.7B, Phi-3 Mini (ograniczony) | 5–10 tokenów/s |
| 8GB | Llama 3.2 1B, SmolLM2 1.7B, Gemma 3 1B | 8–15 tokenów/s |
| 12GB | Llama 3.2 3B, Phi-3 Mini 3.8B, Gemma 2 2B | 10–20 tokenów/s |
| 16GB | Llama 3.2 3B (Q8), Phi-3.5 Mini, Qwen2.5 3B | 12–25 tokenów/s |
> Realistyczne oczekiwania: telefony uruchamiają małe (1B–4B) modele z szybkością rozmowy. Nie dorównają desktopowi z RTX 4090, ale są naprawdę przydatne do zadań w drodze — i działają w 100% offline.
| Aplikacja | Darmowa? | Najlepsza do | Obsługiwane modele |
|---|---|---|---|
| PocketPal AI | Darmowa | Ogólny czat, różnorodność modeli | GGUF (Llama, Phi, Gemma, Qwen) |
| LLM Farm | Darmowa | Nastawiona na prywatność, local-first | Format GGUF |
| Enchanted | Darmowa | Czysty interfejs, Ollama zdalnie lub lokalnie | Llama, Mistral, Gemma |
| AI Chat — Local Models | Darmowa/IAP | Przyjazna początkującym | Wyselekcjonowana lista modeli |
| Aplikacja | Darmowa? | Najlepsza do | Obsługiwane modele |
|---|---|---|---|
| PocketPal AI | Darmowa | Wieloplatformowa, najlepsza biblioteka modeli | GGUF (wszystkie popularne modele) |
| MLC Chat | Darmowa | Akceleracja GPU (Vulkan), najszybsza | Modele przekonwertowane w MLC |
| Ollama (beta na Android) | Darmowa | Power userzy, dostęp do API | Wszystkie modele Ollama |
| Jan Mobile | Darmowa | Otwartoźródłowa, API zgodne z OpenAI | Format GGUF |
Rekomendacja: zacznij od PocketPal AI na obu platformach — jest darmowa, wieloplatformowa, aktywnie rozwijana i ma największą zgodność modeli.
| Model | Rozmiar | Min. RAM | Najlepszy do | Pobieranie |
|---|---|---|---|---|
| Llama 3.2 1B Instruct | ~0.8GB | 4GB | Szybki czat, proste zadania | Wbudowany w PocketPal |
| Llama 3.2 3B Instruct | ~2GB | 8GB | Najlepsza równowaga na telefonach | Wbudowany w PocketPal |
| Gemma 3 1B Instruct | ~0.7GB | 4GB | Wielojęzyczny, jakość Google | Wbudowany w PocketPal |
| Phi-3 Mini 3.8B | ~2.4GB | 8GB | Rozumowanie, zadania z kodem | PocketPal / MLC |
| SmolLM2 1.7B Instruct | ~1GB | 4GB | Ultraszybki, wydajny | Wbudowany w PocketPal |
| Qwen2.5 3B Instruct | ~2GB | 8GB | Wielojęzyczny, kod | PocketPal / MLC |
PocketPal AI to najłatwiejsza i najbardziej wszechstronna aplikacja lokalnej AI na obie platformy.
Krok 1: Instalacja
Krok 2: Pobierz model 1. Otwórz PocketPal → dotknij zakładki Models 2. Zobaczysz wyselekcjonowaną listę modeli zoptymalizowanych pod telefony 3. Dla początkujących: dotknij Llama 3.2 3B Instruct Q4 → Download 4. Poczekaj na pobranie (zwykle 2–4GB przez WiFi)
Krok 3: Zacznij rozmowę 1. Dotknij Chat → wybierz pobrany model 2. Poczekaj ~5 sekund, aż model załaduje się do RAM 3. Wpisz wiadomość i wyślij
Krok 4: (Opcjonalnie) Załaduj własne modele GGUF 1. Pobierz dowolny plik .gguf z Hugging Face do aplikacji Pliki (iOS) lub Pobrane (Android) 2. W PocketPal → Models → Add Custom Model → wskaż plik 3. Ustaw rozmiar kontekstu (zalecane 512–2048 dla telefonów)
LLM Farm to nastawiona na prywatność, otwartoźródłowa aplikacja z precyzyjną kontrolą.
Instalacja: GitHub — LLM Farm lub wyszukaj „LLM Farm” w App Store
Konfiguracja: 1. Otwórz LLM Farm → dotknij +, aby dodać model 2. Wybierz Download from HuggingFace lub Import from Files 3. Zalecany ciąg modelu dla początkujących: `` https://huggingface.co/bartowski/Llama-3.2-3B-Instruct-GGUF/resolve/main/Llama-3.2-3B-Instruct-Q4_K_M.gguf `` 4. Ustaw Context Size: 2048 (bezpieczne dla telefonów 8GB), 4096 (telefony 12GB+) 5. Ustaw Threads: 4–6 (dopasuj do liczby rdzeni CPU) 6. Dotknij Save → wybierz model → Chat
MLC Chat używa akceleracji GPU Vulkan, dzięki czemu jest 2–3x szybszy niż aplikacje tylko-CPU na Androidzie.
Instalacja: GitHub — MLC-LLM Android (APK z wydań GitHub)
Konfiguracja: 1. Zainstaluj APK (włącz „Instaluj nieznane aplikacje” w ustawieniach Androida) 2. Otwórz MLC Chat → dotknij +, aby przeglądać wbudowane modele 3. Wybierz Llama-3.2-3B-Instruct-q4f16_1 (najlepszy dla większości telefonów z Androidem) 4. Pobierz model (~2GB) → dotknij, aby załadować → Chat
Dlaczego MLC jest szybszy: MLC prekompiluje modele z TVM do kodu natywnego GPU, używając Twojego GPU Adreno lub Mali przez Vulkan zamiast CPU. Na Snapdragon 8 Elite spodziewaj się 15–25 tokenów/s wobec 8–12 w aplikacjach tylko-CPU.
iPhone'y mają dedykowany Neural Engine o mocy do 38 TOPS (A18 Pro). Aplikacje takie jak PocketPal i LLM Farm automatycznie go używają przez framework Core ML firmy Apple:
Telefony Snapdragon 8 Gen 3 / 8 Elite mają znakomitą akcelerację AI przez NPU Hexagon:
| Telefon | Aplikacja | Model | Szybkość | Zużycie baterii |
|---|---|---|---|---|
| iPhone 16 Pro | PocketPal | Llama 3.2 3B Q4 | ~15 t/s | ~6%/godz |
| iPhone 15 Pro | LLM Farm | Phi-3 Mini Q4 | ~12 t/s | ~8%/godz |
| Samsung S25 Ultra | MLC Chat | Llama 3.2 3B | ~22 t/s | ~10%/godz |
| Pixel 9 Pro XL | PocketPal | Llama 3.2 3B Q4 | ~14 t/s | ~9%/godz |
| OnePlus 13 | MLC Chat | Phi-3 Mini | ~20 t/s | ~10%/godz |
Zrozumienie, czego telefony nie potrafią, pomaga ustawić właściwe oczekiwania:
→ Sprawdź zgodność swojego telefonu w Analizatorze sprzętu | → Przeglądaj maleńkie modele na telefony