AppleMac / pamięć zunifikowanaAktualna generacja

Apple M3 Max (30-core GPU) do lokalnych LLM

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 19 września 2026

Z 96 GB przy 300 GB/s M3 Max (30-core GPU) uruchamia 134 modele z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to GPT-OSS 120B (~71.9 GB), a najlepszy wybór to Qwen3-Coder-Next (80B-A3B MoE) przy 22–46 tok/s.

M3 Max w wersji 14-rdzeniowy CPU / 30-rdzeniowy GPU. Mniej kontrolerów pamięci niż w wariancie 40-rdzeniowym: 300 GB/s zamiast 400 i tylko konfiguracje 36 GB lub 96 GB. Modelowanie maszyny 36 GB na rekordzie 40-rdzeniowym zawyża jej przepustowość o jedną trzecią.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na M3 Max (30-core GPU)

Q4_K_M, kontekst 8K, 72 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder	49.1 GB	22–46 tok/s	Mieści się
Kolibri 1 Kolibri	48.4 GB	39–81 tok/s	Mieści się
Nemotron 3.5 Bolt 74B Nemotron 3.5	45.6 GB	18–37 tok/s	Mieści się
K2 Horizon MoVA 36B-A4B K2 Horizon	25 GB	24–49 tok/s	Mieści się
Qwen 3.6 35B-A3B Qwen 3.6	22.1 GB	43–90 tok/s	Mieści się
Nex-N2.5 mini Nex-N2.5	21.9 GB	26–53 tok/s	Mieści się
Nex-N2 mini Nex-N2	21.9 GB	26–53 tok/s	Mieści się
Qwen 3.5 35B-A3B Qwen 3.5	21.9 GB	26–53 tok/s	Mieści się
Laguna XS 2.1 33B-A3B Poolside Laguna XS 2.1	20.7 GB	26–53 tok/s	Mieści się
Granite 4.0 Small-H 32B-A9B IBM Granite 4.0	20.1 GB	14–29 tok/s	Mieści się
Nemotron-Cascade 2 30B-A3B Nemotron Cascade 2	19.9 GB	24–50 tok/s	Mieści się
Qwen 3 30B-A3B (MoE) Qwen 3	20 GB	32–67 tok/s	Mieści się

Pokazano 12 z 134

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board power Uruchom w chmurze RunPod

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

RTX PRO 6000 Blackwell113–234 tok/s RTX PRO 6000 Blackwell (Max-Q Edition)113–234 tok/s M5 Ultra59–123 tok/s M3 Ultra43–90 tok/s M1 Ultra43–89 tok/s M2 Ultra43–89 tok/s M5 Max34–71 tok/s M4 Max31–64 tok/s M3 Max (30-core GPU)18–38 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-09-19.

Pamięć: 96 GB
Przepustowość pamięci: 300 GB/s
Architektura: ARM, 3nm TSMC
Seria: Apple Silicon
Pobór mocy: 35 W
Rok premiery: 2023
Backendy obliczeniowe: METAL
Dostępne dla modeli: 72 GB (~75% pamięci zunifikowanej)

Najlepsze doMacBook Pro32B modelssilent operation

Podobne GPU

Apple M2 Max96 GB · 400 GB/sTyle samo VRAM, +33% przepustowości Apple M3 Max128 GB · 400 GB/s+32 GB VRAM, +33% przepustowości Apple M5 Pro64 GB · 307 GB/s−32 GB VRAM, +2% przepustowości

Najczęstsze pytania

Czy Apple M3 Max (30-core GPU) uruchomi lokalne LLM?

Tak. Z 96 GB (72 GB dostępne dla modelu) uruchamia 134 modele z katalogu przy Q4_K_M i kontekście 8K; największy to GPT-OSS 120B, potrzebuje około 71.9 GB.

Jak szybki jest Apple M3 Max (30-core GPU) w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 18–38 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 2.4–5.0 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 96 GB?

Wśród najlepszych, które się mieszczą: Qwen3-Coder-Next (80B-A3B MoE), Kolibri 1, Nemotron 3.5 Bolt 74B, K2 Horizon MoVA 36B-A4B, Qwen 3.6 35B-A3B.

Więcej o tej karcie

Narzędzia

Poradniki