AppleMac / pamięć zunifikowanaAktualna generacja

Apple M2 Max do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Z 96 GB przy 400 GB/s M2 Max uruchamia 134 modele z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to GPT-OSS 120B (~71.9 GB), a najlepszy wybór to Qwen3-Coder-Next (80B-A3B MoE) przy 29–60 tok/s.

Do 96 GB pamięci zunifikowanej — wystarczy na modele klasy 70B w Q4_K_M. Popularny w konfiguracjach Mac Studio. Cichy, 40W poboru systemowego. Mocna okazja na rynku wtórnym za 1500–2000 USD.

Modele, które działają na M2 Max

Q4_K_M, kontekst 8K, 72 GB do wykorzystania. Uszeregowane według jakości i szybkości.

ModelVRAMSzybkość
Qwen3-Coder-Next (80B-A3B MoE)
Qwen3-Coder
49.1 GB29–60 tok/s
Kolibri 1
Kolibri
48.4 GB49–102 tok/s
Nemotron 3.5 Bolt 74B
Nemotron 3.5
45.6 GB23–48 tok/s
K2 Horizon MoVA 36B-A4B
K2 Horizon
25 GB30–63 tok/s
Qwen 3.6 35B-A3B
Qwen 3.6
22.1 GB54–112 tok/s
Nex-N2.5 mini
Nex-N2.5
21.9 GB33–68 tok/s
Nex-N2 mini
Nex-N2
21.9 GB33–68 tok/s
Qwen 3.5 35B-A3B
Qwen 3.5
21.9 GB33–68 tok/s
Laguna XS 2.1 33B-A3B
Poolside Laguna XS 2.1
20.7 GB33–69 tok/s
Granite 4.0 Small-H 32B-A9B
IBM Granite 4.0
20.1 GB18–37 tok/s
Nemotron-Cascade 2 30B-A3B
Nemotron Cascade 2
19.9 GB31–65 tok/s
Qwen 3 30B-A3B (MoE)
Qwen 3
20 GB41–86 tok/s
Pokazano 12 z 134

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt Apple Mac Studio M2 Max — 96 GB VRAM · 40 W board powerUruchom w chmurze RunPod

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.
Apple Mac Studio M2 Max
96 GB VRAM · 40 W board power
Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

Specyfikacja

Specyfikację zaktualizowano 2026-09-29.

Pamięć
96 GB
Przepustowość pamięci
400 GB/s
Architektura
ARM, 5nm TSMC
Seria
Apple Silicon
Pobór mocy
40 W
Rok premiery
2023
Dostępne dla modeli
72 GB (~75% pamięci zunifikowanej)
Najlepsze do70B modelsMac Studiodevelopers
Polecany pierwszy model (Ollama)

Podobne GPU

Najczęstsze pytania

Czy Apple M2 Max uruchomi lokalne LLM?

Tak. Z 96 GB (72 GB dostępne dla modelu) uruchamia 134 modele z katalogu przy Q4_K_M i kontekście 8K; największy to GPT-OSS 120B, potrzebuje około 71.9 GB.

Jak szybki jest Apple M2 Max w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 24–49 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 3.2–6.7 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 96 GB?

Wśród najlepszych, które się mieszczą: Qwen3-Coder-Next (80B-A3B MoE), Kolibri 1, Nemotron 3.5 Bolt 74B, K2 Horizon MoVA 36B-A4B, Qwen 3.6 35B-A3B. Najszybszy start to Ollama: ollama run llama3.3:70b.