AppleMac / pamięć zunifikowanaAktualna generacja

Apple M4 do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Z 32 GB przy 120 GB/s M4 uruchamia 121 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Qwen 3 32B (~22.8 GB), a najlepszy wybór to Laguna XS 2.1 33B-A3B przy 11–23 tok/s.

Do 32 GB pamięci zunifikowanej przy 120 GB/s. Mieści modele 7–8B z zapasem na większe okna kontekstu, a przy agresywnej kwantyzacji poradzi sobie z częścią modeli 13–14B. Montowany w MacBooku Air, Macu mini, iMacu i iPadzie Pro.

Modele, które działają na M4

Q4_K_M, kontekst 8K, 24 GB do wykorzystania. Uszeregowane według jakości i szybkości.

ModelVRAMSzybkość
Laguna XS 2.1 33B-A3B
Poolside Laguna XS 2.1
20.7 GB11–23 tok/s
Nemotron-Cascade 2 30B-A3B
Nemotron Cascade 2
19.9 GB10–22 tok/s
Qwen 3 30B-A3B (MoE)
Qwen 3
20 GB14–30 tok/s
Qwen3-Coder 30B-A3B (MoE)
Qwen3-Coder
20 GB14–30 tok/s
GLM-4.7-Flash 30B-A3B
GLM-4.7 / GLM-Z1
18.9 GB11–23 tok/s
Nemotron 3 Nano Omni 30B-A3B
Nemotron 3 Nano Omni
18.9 GB11–23 tok/s
North Mini Code 1.0 30B-A3B
North Mini Code
18.9 GB11–23 tok/s
Nemotron 3.5 Lightning 30B-A3B
Nemotron 3.5
18.9 GB11–23 tok/s
Trinity Mini
Trinity
16.9 GB20–41 tok/s
Gemma 4 26B-A4B
Gemma 4
17 GB14–29 tok/s
LFM2.5-24B-A2B
LFM2.5
15.5 GB23–48 tok/s
GPT-OSS 20B
GPT-OSS
13.6 GB17–34 tok/s
Pokazano 12 z 121

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt Apple Mac mini M4 (16GB) — 16 GB unified memory · 120 GB/sUruchom w chmurze NVIDIA A40 w RunPod — od $0.44/godz. · stawka sprawdzona 2026-08

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.
Apple Mac mini M4 (16GB)
16 GB unified memory · 120 GB/s
Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

Specyfikacja

Specyfikację zaktualizowano 2026-07-12.

Pamięć
32 GB
Przepustowość pamięci
120 GB/s
Architektura
ARM, 3nm TSMC
Seria
Apple Silicon
Pobór mocy
22 W
Rok premiery
2024
Dostępne dla modeli
24 GB (~75% pamięci zunifikowanej)
Najlepsze do8B–14B models (Q4)MacBook AirMac miniiPad Pro
Polecany pierwszy model (Ollama)

Podobne GPU

Najczęstsze pytania

Czy Apple M4 uruchomi lokalne LLM?

Tak. Z 32 GB (24 GB dostępne dla modelu) uruchamia 121 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Qwen 3 32B, potrzebuje około 22.8 GB.

Jak szybki jest Apple M4 w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 7.7–16 tok/s przy Q4_K_M. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 24 GB. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 32 GB?

Wśród najlepszych, które się mieszczą: Laguna XS 2.1 33B-A3B, Nemotron-Cascade 2 30B-A3B, Qwen 3 30B-A3B (MoE), Qwen3-Coder 30B-A3B (MoE), GLM-4.7-Flash 30B-A3B. Najszybszy start to Ollama: ollama run llama3.1:8b.