Apple M4 Pro do lokalnych LLM
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Z 24 GB przy 273 GB/s M4 Pro uruchamia 93 modele z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Qwen 3.6 27B (~17.6 GB), a najlepszy wybór to LFM2.5-24B-A2B przy 46–96 tok/s.
24–48 GB zunifikowanej pamięci pokrywa większość codziennych zadań AI. Całkowite zużycie systemu 30W. Idealny dla użytkowników laptopów chcących poważnego AI bez karty graficznej.
Modele, które działają na M4 Pro
Q4_K_M, kontekst 8K, 18 GB do wykorzystania. Uszeregowane według jakości i szybkości.
| Model | Pamięć · znacznik = 18 GB | VRAM | Szybkość |
|---|---|---|---|
| LFM2.5-24B-A2B LFM2.5 | 15.5 GB | 46–96 tok/s | |
| GPT-OSS 20B GPT-OSS | 13.8 GB | 32–67 tok/s | |
| Cosmos 3 Nano Cosmos 3 | 10.5 GB | 14–30 tok/s | |
| Mellum2.1 12B Thinking Mellum2.1 | 9 GB | 47–97 tok/s | |
| Bielik PL 11B v3.0 Instruct Bielik | 7.4 GB | 12–24 tok/s | |
| Llama 3.2 Vision 11B Llama 3.2 Vision | 8.5 GB | 12–25 tok/s | |
| Falcon 3 10B Instruct Falcon 3 | 8.4 GB | 12–25 tok/s | |
| Qwen 3.5 9B Qwen 3.5 | 6.5 GB | 16–33 tok/s | |
| Gemma 4 12B (Unified) Gemma 4 | 8 GB | 11–22 tok/s | |
| Gemma 4 E2B Gemma 4 | 3.9 GB | 21–45 tok/s | |
| Gemma 4 E4B Gemma 4 | 5.6 GB | 15–31 tok/s | |
| Qwen 3 8B Qwen 3 | 7 GB | 15–31 tok/s |
Kup kartę lub wynajmij tyle samo pamięci
Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.
lub porównaj w Vast.ai od $0.35/godz. (typical low · varies)
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.
Szybkość na tle innych GPU
Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy
Specyfikacja
Specyfikację zaktualizowano 2026-07-12.
- Pamięć
- 24 GB
- Przepustowość pamięci
- 273 GB/s
- Architektura
- ARM, 3nm TSMC
- Seria
- Apple Silicon
- Pobór mocy
- 30 W
- Rok premiery
- 2024
- Dostępne dla modeli
- 18 GB (~75% pamięci zunifikowanej)
Podobne GPU
Najczęstsze pytania
Czy Apple M4 Pro uruchomi lokalne LLM?
Tak. Z 24 GB (18 GB dostępne dla modelu) uruchamia 93 modele z katalogu przy Q4_K_M i kontekście 8K; największy to Qwen 3.6 27B, potrzebuje około 17.6 GB.
Jak szybki jest Apple M4 Pro w inferencji AI?
Szacujemy, że uruchamia Llama 3.1 8B z szybkością 17–35 tok/s przy Q4_K_M. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 18 GB. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.
Jakie LLM uruchomię na 24 GB?
Wśród najlepszych, które się mieszczą: LFM2.5-24B-A2B, GPT-OSS 20B, Cosmos 3 Nano, Mellum2.1 12B Thinking, Bielik PL 11B v3.0 Instruct. Najszybszy start to Ollama: ollama run qwen3:14b.
Co dalej
Czy uruchomię to na M4 Pro?
Więcej o tej karcie
Narzędzia