AppleMac / pamięć zunifikowanaAktualna generacja

Apple M5 Ultra do lokalnych LLM

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

Autor: Jakub Rusinowski · Ostatnia aktualizacja: 19 września 2026

Z 512 GB LPDDR5X przy 1229 GB/s M5 Ultra uruchamia 156 modeli z katalogu przy Q4_K_M i kontekście 8K. Największy, który się mieści, to Nemotron 3 Ultra 550B (~339.3 GB), a najlepszy wybór to Nemotron 3 Ultra 550B przy 12–26 tok/s.

Czterokostkowy układ Ultra od Apple: do 36 rdzeni CPU, 80 rdzeni GPU i 512 GB pamięci zunifikowanej przy około 1,2 TB/s — największa przepustowość pamięci w maszynie dostępnej od ręki i pojemność wystarczająca, by pomieścić modele wymagające inaczej wynajętego serwera.

Sprawdź mój sprzęt →Pełna tabela benchmarków

Modele, które działają na M5 Ultra

Q4_K_M, kontekst 8K, 384 GB do wykorzystania. Uszeregowane według jakości i szybkości.

Model	VRAM	Szybkość	Zmieści się?
Nemotron 3 Ultra 550B Nemotron 3 Ultra	339.3 GB	12–26 tok/s	Mieści się
Qwen3-Coder 480B-A35B (MoE) Qwen3-Coder	291.6 GB	18–38 tok/s	Mieści się
MiniMax M3 428B-A23B MiniMax M3	259.2 GB	22–45 tok/s	Mieści się
Llama 4 Maverick 17B Llama 4	243.9 GB	32–65 tok/s	Mieści się
Trinity-Large-Thinking Trinity	242 GB	42–88 tok/s	Mieści się
Qwen 3.5 397B-A17B Qwen 3.5	240.5 GB	27–55 tok/s	Mieści się
Nex-N2.5 Pro Nex-N2.5	240.5 GB	27–55 tok/s	Mieści się
Nex-N2 Pro Nex-N2	240.5 GB	27–55 tok/s	Mieści się
K2 Horizon 375B-A23B K2 Horizon	231.8 GB	24–51 tok/s	Mieści się
GLM-5.3-Flash 320B-A18B GLM-5.3-Flash	194 GB	26–54 tok/s	Mieści się
MiMo-V2.5 310B MiMo-V2.5	188 GB	29–61 tok/s	Mieści się
MiMo-V2.6-Flash MiMo-V2.6	188.6 GB	39–80 tok/s	Mieści się

Pokazano 12 z 156

Kup kartę lub wynajmij tyle samo pamięci

Kup kartę albo wynajmij na godziny GPU z taką samą pamięcią, by najpierw wypróbować modele.

Kup ten sprzęt Apple Mac Studio M3 Ultra — 512 GB VRAM · 60 W board power Uruchom w chmurze RunPod

lub porównaj w Vast.ai

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Szybkość na tle innych GPU

Llama 3.1 8B, Q4_K_M. Szacowane zakresy. Jak to liczymy

M5 Ultra59–123 tok/s M3 Ultra43–90 tok/s M1 Ultra43–89 tok/s M2 Ultra43–89 tok/s M5 Max34–71 tok/s M4 Max31–64 tok/s M5 Max (32-core GPU)27–56 tok/s M4 Max (32-core GPU)24–50 tok/s

Specyfikacja

Specyfikację zaktualizowano 2026-09-19.

Pamięć: 512 GB LPDDR5X
Przepustowość pamięci: 1,229 GB/s
Szyna pamięci: 1024-bit
Architektura: ARM, 3nm TSMC
Seria: Apple Silicon
Pobór mocy: 120 W
Rok premiery: 2026
Backendy obliczeniowe: METAL
Dostępne dla modeli: 384 GB (~75% pamięci zunifikowanej)

Najlepsze do512 GB unified memoryfrontier models locallyMac Studio

Podobne GPU

Apple M3 Ultra512 GB · 819 GB/sTyle samo VRAM, −33% przepustowości Apple M2 Ultra192 GB · 800 GB/s−320 GB VRAM, −35% przepustowości Apple M1 Ultra128 GB · 800 GB/s−384 GB VRAM, −35% przepustowości

Najczęstsze pytania

Czy Apple M5 Ultra uruchomi lokalne LLM?

Tak. Z 512 GB (384 GB dostępne dla modelu) uruchamia 156 modeli z katalogu przy Q4_K_M i kontekście 8K; największy to Nemotron 3 Ultra 550B, potrzebuje około 339.3 GB.

Jak szybki jest Apple M5 Ultra w inferencji AI?

Szacujemy, że uruchamia Llama 3.1 8B z szybkością 59–123 tok/s przy Q4_K_M. Dla Llama 3.3 70B szacunek wynosi 9.6–20 tok/s. To szacunki z modelu przepustowości pamięci, nie pomiary; wzór jest na stronie metodologii.

Jakie LLM uruchomię na 512 GB?

Wśród najlepszych, które się mieszczą: Nemotron 3 Ultra 550B, Qwen3-Coder 480B-A35B (MoE), MiniMax M3 428B-A23B, Llama 4 Maverick 17B, Trinity-Large-Thinking.

Więcej o tej karcie

Narzędzia

Poradniki