AppleMac / pamięć zunifikowanaAktualna generacja

Apple M4 Max (32-core GPU) do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Z 36 GB przy 410 GB/s M4 Max (32-core GPU) uruchamia 120 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Gemma 3 27B Instruct (~25.4 GB), a najlepszy wybór to Qwen 3.6 35B-A3B przy 55–114 tok/s.

M4 Max w wersji 14-rdzeniowy CPU / 32-rdzeniowy GPU: 410 GB/s zamiast 546 GB/s w wariancie 40-rdzeniowym i konfiguracja 36 GB. Podanie szybszego wariantu właścicielowi maszyny 36 GB zawyża każdą prędkość na stronie.

Modele, które działają na M4 Max (32-core GPU)

Q4_K_M, kontekst 8K, 27 GB do wykorzystania. Uszeregowane według jakości i szybkości.

ModelVRAMSzybkość
Qwen 3.6 35B-A3B
Qwen 3.6
22.1 GB55–114 tok/s
Nex-N2.5 mini
Nex-N2.5
21.9 GB33–70 tok/s
Nex-N2 mini
Nex-N2
21.9 GB33–70 tok/s
Qwen 3.5 35B-A3B
Qwen 3.5
21.9 GB33–70 tok/s
Laguna XS 2.1 33B-A3B
Poolside Laguna XS 2.1
20.7 GB34–70 tok/s
Granite 4.0 Small-H 32B-A9B
IBM Granite 4.0
20.1 GB18–38 tok/s
Nemotron-Cascade 2 30B-A3B
Nemotron Cascade 2
19.9 GB32–66 tok/s
Qwen 3 30B-A3B (MoE)
Qwen 3
20 GB42–87 tok/s
Qwen3-Coder 30B-A3B (MoE)
Qwen3-Coder
20 GB42–87 tok/s
GLM-4.7-Flash 30B-A3B
GLM-4.7 / GLM-Z1
18.9 GB34–71 tok/s
Nemotron 3 Nano Omni 30B-A3B
Nemotron 3 Nano Omni
18.9 GB34–71 tok/s
North Mini Code 1.0 30B-A3B
North Mini Code
18.9 GB34–71 tok/s
Pokazano 12 z 120

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board powerUruchom w chmurze NVIDIA A40 w RunPod — od $0.44/godz. · stawka sprawdzona 2026-08

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

Specyfikacja

Specyfikację zaktualizowano 2026-09-30.

Pamięć
36 GB
Przepustowość pamięci
410 GB/s
Architektura
ARM, 3nm TSMC
Seria
Apple Silicon
Pobór mocy
35 W
Rok premiery
2024
Backendy obliczeniowe
METAL
Dostępne dla modeli
27 GB (~75% pamięci zunifikowanej)
Najlepsze doMacBook Pro 14"/16"32B modelssilent operation

Podobne GPU

Najczęstsze pytania

Czy Apple M4 Max (32-core GPU) uruchomi lokalne LLM?

Tak. Z 36 GB (27 GB dostępne dla modelu) uruchamia 120 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Gemma 3 27B Instruct, potrzebuje około 25.4 GB.

Jak szybki jest Apple M4 Max (32-core GPU) w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 24–50 tok/s przy Q4_K_M. Llama 3.3 70B się nie mieści: potrzebuje około 44 GB, a dostępne jest 27 GB. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 36 GB?

Wśród najlepszych, które się mieszczą: Qwen 3.6 35B-A3B, Nex-N2.5 mini, Nex-N2 mini, Qwen 3.5 35B-A3B, Laguna XS 2.1 33B-A3B.