Apple M2 Ultra do lokalnych LLM
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Z 192 GB przy 800 GB/s M2 Ultra uruchamia 143 modele z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to MiniMax M2.7 230B-A10B (~139.7 GB), a najlepszy wybór to Qwen3.8-Flash-Next przy 55–115 tok/s.
Do 192 GB pamięci zunifikowanej przy 800 GB/s — jeden z największych zasobów pamięci dostępnych na sprzęcie konsumenckim. Uruchamia modele 70B z dużym zapasem. Dostępny w Mac Studio i Mac Pro.
Modele, które działają na M2 Ultra
Q4_K_M, kontekst 8K, 144 GB do wykorzystania. Uszeregowane według jakości i szybkości.
| Model | Pamięć · znacznik = 144 GB | VRAM | Szybkość |
|---|---|---|---|
| Qwen3.8-Flash-Next Qwen3.8 | 109.7 GB | 55–115 tok/s | |
| Qwen 3.5 122B-A10B Qwen 3.5 | 74.5 GB | 28–58 tok/s | |
| Nemotron 3 Super 120B-A12B Nemotron 3 Super | 73.3 GB | 25–52 tok/s | |
| Nemotron 3.5 Super VL 120B-A12B Nemotron 3.5 | 73.3 GB | 25–52 tok/s | |
| Mistral Small 4 119B-A6.5B Mistral Small 4 | 72.6 GB | 16–34 tok/s | |
| GPT-OSS 120B GPT-OSS | 71.6 GB | 60–125 tok/s | |
| Llama 4.5 Scout Llama 4.5 | 66.6 GB | 20–41 tok/s | |
| Llama 4 Scout 17B Llama 4 | 68.2 GB | 22–45 tok/s | |
| Qwen3-Coder-Next (80B-A3B MoE) Qwen3-Coder | 49.4 GB | 84–174 tok/s | |
| Kolibri 1 Kolibri | 48.5 GB | 78–161 tok/s | |
| Nemotron 3.5 Bolt 74B Nemotron 3.5 | 45.6 GB | 42–87 tok/s | |
| Cosmos 3 Super Cosmos 3 | 39.4 GB | 12–26 tok/s |
Kup kartę lub wynajmij tyle samo pamięci
Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.
Szybkość na tle innych GPU
Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy
Specyfikacja
Specyfikację zaktualizowano 2026-07-12.
- Pamięć
- 192 GB
- Przepustowość pamięci
- 800 GB/s
- Architektura
- ARM, 5nm TSMC
- Seria
- Apple Silicon
- Pobór mocy
- 60 W
- Rok premiery
- 2023
- Dostępne dla modeli
- 144 GB (~75% pamięci zunifikowanej)
Podobne GPU
Najczęstsze pytania
Czy Apple M2 Ultra uruchomi lokalne LLM?
Tak. Z 192 GB (144 GB dostępne dla modelu) uruchamia 143 modele z katalogu przy Q4_K_M i kontekście 8K; największy to MiniMax M2.7 230B-A10B, potrzebuje około 139.7 GB.
Jak szybki jest Apple M2 Ultra w inferencji AI?
Szacujemy, że uruchamia Llama 3.1 8B z szybkością 43–89 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 6.3–13 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.
Jakie LLM uruchomię na 192 GB?
Wśród najlepszych, które się mieszczą: Qwen3.8-Flash-Next, Qwen 3.5 122B-A10B, Nemotron 3 Super 120B-A12B, Nemotron 3.5 Super VL 120B-A12B, Mistral Small 4 119B-A6.5B. Najszybszy start to Ollama: ollama run llama3.3:70b.
Co dalej
Czy uruchomię to na M2 Ultra?
Więcej o tej karcie
Narzędzia