Apple M3 Ultra do lokalnych LLM
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Z 512 GB przy 819 GB/s M3 Ultra uruchamia 159 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Nemotron 3 Ultra 550B (~339.3 GB), a najlepszy wybór to Beam 1.0 501B-A23B przy 15–30 tok/s.
Najwyższa konfiguracja Mac Studio od Apple, w premierze z pamięcią zunifikowaną do 512 GB przy 819 GB/s — dość na modele 70B+ oraz część modeli klasy 100B+ w Q4/Q5. Uwaga: w marcu 2026 Apple obniżyło maksymalną dostępną w sprzedaży konfigurację do 256 GB z powodu niedoborów DRAM; egzemplarze 512 GB będące już w użyciu zachowują pełne możliwości.
Modele, które działają na M3 Ultra
Q4_K_M, kontekst 8K, 384 GB do wykorzystania. Uszeregowane według jakości i szybkości.
| Model | Pamięć · znacznik = 384 GB | VRAM | Szybkość |
|---|---|---|---|
| Beam 1.0 501B-A23B Reflection Beam | 303.5 GB | 15–30 tok/s | |
| Qwen3-Coder 480B-A35B (MoE) Qwen3-Coder | 291.6 GB | 12–26 tok/s | |
| MiniMax M3 428B-A23B MiniMax M3 | 259.2 GB | 15–31 tok/s | |
| MiniMax M3.1 Flash 428B-A23B MiniMax M3 | 259.2 GB | 15–31 tok/s | |
| Llama 4 Maverick 17B Llama 4 | 243.9 GB | 22–46 tok/s | |
| Trinity-Large-Thinking Trinity | 242 GB | 30–62 tok/s | |
| Qwen 3.5 397B-A17B Qwen 3.5 | 240.5 GB | 18–38 tok/s | |
| Nex-N2.5 Pro Nex-N2.5 | 240.5 GB | 18–38 tok/s | |
| Nex-N2 Pro Nex-N2 | 240.5 GB | 18–38 tok/s | |
| K2 Horizon 375B-A23B K2 Horizon | 231.8 GB | 17–35 tok/s | |
| GLM-5.3-Flash 320B-A18B GLM-5.3-Flash | 194 GB | 18–37 tok/s | |
| MiMo-V2.5 310B MiMo-V2.5 | 188 GB | 20–42 tok/s |
Kup kartę lub wynajmij tyle samo pamięci
Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.
Szybkość na tle innych GPU
Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy
Specyfikacja
Specyfikację zaktualizowano 2026-07-12.
- Pamięć
- 512 GB
- Przepustowość pamięci
- 819 GB/s
- Architektura
- ARM, 3nm TSMC
- Seria
- Apple Silicon
- Pobór mocy
- 60 W
- Rok premiery
- 2025
- Dostępne dla modeli
- 384 GB (~75% pamięci zunifikowanej)
Podobne GPU
Najczęstsze pytania
Czy Apple M3 Ultra uruchomi lokalne LLM?
Tak. Z 512 GB (384 GB dostępne dla modelu) uruchamia 159 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Nemotron 3 Ultra 550B, potrzebuje około 339.3 GB.
Jak szybki jest Apple M3 Ultra w inferencji AI?
Szacujemy, że uruchamia Llama 3.1 8B z szybkością 43–90 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 6.5–13 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.
Jakie LLM uruchomię na 512 GB?
Wśród najlepszych, które się mieszczą: Beam 1.0 501B-A23B, Qwen3-Coder 480B-A35B (MoE), MiniMax M3 428B-A23B, MiniMax M3.1 Flash 428B-A23B, Llama 4 Maverick 17B. Najszybszy start to Ollama: ollama run llama3.3:70b.
Co dalej
Czy uruchomię to na M3 Ultra?
Więcej o tej karcie
Narzędzia