AppleMac / pamięć zunifikowanaAktualna generacja

Apple M2 Ultra do lokalnych LLM

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Z 192 GB przy 800 GB/s M2 Ultra uruchamia 143 modele z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to MiniMax M2.7 230B-A10B (~139.7 GB), a najlepszy wybór to Qwen3.8-Flash-Next przy 55–115 tok/s.

Do 192 GB pamięci zunifikowanej przy 800 GB/s — jeden z największych zasobów pamięci dostępnych na sprzęcie konsumenckim. Uruchamia modele 70B z dużym zapasem. Dostępny w Mac Studio i Mac Pro.

Modele, które działają na M2 Ultra

Q4_K_M, kontekst 8K, 144 GB do wykorzystania. Uszeregowane według jakości i szybkości.

ModelVRAMSzybkość
Qwen3.8-Flash-Next
Qwen3.8
109.7 GB55–115 tok/s
Qwen 3.5 122B-A10B
Qwen 3.5
74.5 GB28–58 tok/s
Nemotron 3 Super 120B-A12B
Nemotron 3 Super
73.3 GB25–52 tok/s
Nemotron 3.5 Super VL 120B-A12B
Nemotron 3.5
73.3 GB25–52 tok/s
Mistral Small 4 119B-A6.5B
Mistral Small 4
72.6 GB16–34 tok/s
GPT-OSS 120B
GPT-OSS
71.6 GB60–125 tok/s
Llama 4.5 Scout
Llama 4.5
66.6 GB20–41 tok/s
Llama 4 Scout 17B
Llama 4
68.2 GB22–45 tok/s
Qwen3-Coder-Next (80B-A3B MoE)
Qwen3-Coder
49.4 GB84–174 tok/s
Kolibri 1
Kolibri
48.5 GB78–161 tok/s
Nemotron 3.5 Bolt 74B
Nemotron 3.5
45.6 GB42–87 tok/s
Cosmos 3 Super
Cosmos 3
39.4 GB12–26 tok/s
Pokazano 12 z 143

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt Apple Mac Studio M2 Ultra — 192 GB VRAM · 60 W board powerUruchom w chmurze RunPod

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.
Apple Mac Studio M2 Ultra
192 GB VRAM · 60 W board power
Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

Specyfikacja

Specyfikację zaktualizowano 2026-07-12.

Pamięć
192 GB
Przepustowość pamięci
800 GB/s
Architektura
ARM, 5nm TSMC
Seria
Apple Silicon
Pobór mocy
60 W
Rok premiery
2023
Dostępne dla modeli
144 GB (~75% pamięci zunifikowanej)
Najlepsze do70B modelslargest local modelsMac StudioMac Pro
Polecany pierwszy model (Ollama)

Podobne GPU

Najczęstsze pytania

Czy Apple M2 Ultra uruchomi lokalne LLM?

Tak. Z 192 GB (144 GB dostępne dla modelu) uruchamia 143 modele z katalogu przy Q4_K_M i kontekście 8K; największy to MiniMax M2.7 230B-A10B, potrzebuje około 139.7 GB.

Jak szybki jest Apple M2 Ultra w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 43–89 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 6.3–13 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 192 GB?

Wśród najlepszych, które się mieszczą: Qwen3.8-Flash-Next, Qwen 3.5 122B-A10B, Nemotron 3 Super 120B-A12B, Nemotron 3.5 Super VL 120B-A12B, Mistral Small 4 119B-A6.5B. Najszybszy start to Ollama: ollama run llama3.3:70b.