AppleMac / pamięć zunifikowanaAktualna generacja

Apple M5 do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Z 32 GB przy 153 GB/s M5 uruchamia 121 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Qwen 3 32B (~22.8 GB), a najlepszy wybór to Laguna XS 2.1 33B-A3B przy 14–29 tok/s.

Pierwszy układ Mac z akceleratorem neuronowym w każdym rdzeniu GPU. Do 32 GB pamięci zunifikowanej przy 153 GB/s — o 28% wyższa przepustowość niż w M4. Premiera w październiku 2025 w MacBooku Pro 14".

Modele, które działają na M5

Q4_K_M, kontekst 8K, 24 GB do wykorzystania. Uszeregowane według jakości i szybkości.

ModelVRAMSzybkość
Laguna XS 2.1 33B-A3B
Poolside Laguna XS 2.1
20.7 GB14–29 tok/s
Nemotron-Cascade 2 30B-A3B
Nemotron Cascade 2
19.9 GB13–27 tok/s
Qwen 3 30B-A3B (MoE)
Qwen 3
20 GB18–37 tok/s
Qwen3-Coder 30B-A3B (MoE)
Qwen3-Coder
20 GB18–37 tok/s
GLM-4.7-Flash 30B-A3B
GLM-4.7 / GLM-Z1
18.9 GB14–29 tok/s
Nemotron 3 Nano Omni 30B-A3B
Nemotron 3 Nano Omni
18.9 GB14–29 tok/s
North Mini Code 1.0 30B-A3B
North Mini Code
18.9 GB14–29 tok/s
Nemotron 3.5 Lightning 30B-A3B
Nemotron 3.5
18.9 GB14–29 tok/s
Trinity Mini
Trinity
16.9 GB25–52 tok/s
Gemma 4 26B-A4B
Gemma 4
17 GB17–36 tok/s
LFM2.5-24B-A2B
LFM2.5
15.5 GB29–60 tok/s
GPT-OSS 20B
GPT-OSS
13.6 GB21–43 tok/s
Pokazano 12 z 121

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt Apple MacBook Air M5 — 24 GB unified memory · 153 GB/sUruchom w chmurze NVIDIA A40 w RunPod — od $0.44/godz. · stawka sprawdzona 2026-08

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.
Apple MacBook Air M5
24 GB unified memory · 153 GB/s
Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

Specyfikacja

Specyfikację zaktualizowano 2026-07-12.

Pamięć
32 GB
Przepustowość pamięci
153 GB/s
Architektura
ARM, 3nm TSMC
Seria
Apple Silicon
Pobór mocy
23 W
Rok premiery
2025
Dostępne dla modeli
24 GB (~75% pamięci zunifikowanej)
Najlepsze do8B–14B modelsMacBook Pro 14"on-device AI
Polecany pierwszy model (Ollama)

Podobne GPU

Najczęstsze pytania

Czy Apple M5 uruchomi lokalne LLM?

Tak. Z 32 GB (24 GB dostępne dla modelu) uruchamia 121 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Qwen 3 32B, potrzebuje około 22.8 GB.

Jak szybki jest Apple M5 w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 9.7–20 tok/s przy Q4_K_M. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 24 GB. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 32 GB?

Wśród najlepszych, które się mieszczą: Laguna XS 2.1 33B-A3B, Nemotron-Cascade 2 30B-A3B, Qwen 3 30B-A3B (MoE), Qwen3-Coder 30B-A3B (MoE), GLM-4.7-Flash 30B-A3B. Najszybszy start to Ollama: ollama run qwen3:14b.