Muse Spark Open 816B — VRAM, szybkość i lokalna konfiguracja
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
816B parametrów (822B w opublikowanych tensorach, licząc koder percepcji 1,8B i niewiązane embeddingi) z 42B aktywnymi na token: 256 ekspertów, 8 na token, 62 warstwy z uwagą grouped-query (16 głów KV o wymiarze 64). Kontekst 1 048 576 tokenów. Karta Meta wymienia SGLang, vLLM, Transformers, TensorRT-LLM, Unsloth i llama.cpp oraz podaje, że model zoptymalizowano pod dwa Maki Studio z M5 Ultra w MLX. Repozytorium jest bramkowane: Meta prosi o pełne imię i nazwisko, datę urodzenia i organizację przed przyznaniem dostępu.
Muse Spark Open 816B potrzebuje około 497 GB VRAM przy Q4_K_M — skwantyzowane wagi plus narzut frameworka, bez pamięci podręcznej KV. Na Apple Silicon ta wartość pochodzi z pamięci zunifikowanej.
VRAM i szybkość według kwantyzacji
Liczone dla NVIDIA RTX 4090 (24 GB). Obejmuje pamięć podręczną KV przy kontekście 8K, więc wartości są wyższe niż główna liczba.
| Kwant. | Pamięć | VRAM | Szybkość (szac.) | Dopasowanie |
|---|---|---|---|---|
| Q2_K 2.63 bpw | 273.1 GB | — | Za duży | |
| Q3_K_M 3.41 bpw | 353.3 GB | — | Za duży | |
| Q4_K_M 4.83 bpw | 499.2 GB | — | Za duży | |
| Q5_K_M 5.67 bpw | 585.5 GB | — | Za duży | |
| Q6_K 6.56 bpw | 677 GB | — | Za duży | |
| Q8_0 8.50 bpw | 876.3 GB | — | Za duży | |
| F16 16.00 bpw | 1647 GB | — | Za duży |
Czarny znacznik = dostępna pamięć na NVIDIA RTX 4090 (24 GB). Szacunki z modelu przepustowości pamięci opisanego na stronie metodologii. Kalkulator VRAM dla Muse Spark Open 816B →
Uruchom Muse Spark Open 816B
Muse Spark Open 816B is not practical on a single consumer GPU: it needs about 497.1 GB at Q4_K_M, more than any single device in our catalogue holds with headroom. How multi-GPU inference works, or rent a multi-GPU server by the hour:
Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.
Jak uruchomić Muse Spark Open 816B
No local Ollama tag. Ollama lists muse-spark-open only as a cloud-hosted ':cloud' tag, which runs on Ollama's servers, not your machine.
Specyfikacja
Verified — Checked against the primary source — the model card or the vendor spec page — and corroborated by a second independent source.
- Parametry
- 816 Billion (42B active)
- Okno kontekstu
- 1,048,576
- Architektura
- Mixture-of-Experts (256 experts, 8 active), GQA, perception encoder
- Dostawca
- Meta
- Licencja
- Muse Model License
- Availability
- Weights downloadable
- Access
- Gated: request access on Hugging Face and accept the licence first
- Practical deployment
- Multi-GPU server
- Określono przy
- Q4_K_M
- RAM systemowy
- 1024 GB
- Rekord zaktualizowany
- 2026-10-15
Weights are downloadable and commercial use is permitted, subject to the licence’s acceptable-use terms.
Model-as-a-service operators above $20M gross revenue in any 12 months must notify Meta and sign a separate agreement; products must display "Built with Muse Spark Open".
Ograniczenia i zastrzeżenia
- Gated repository: access is granted per request, and the form asks for legal name, date of birth and organisation.
- Muse Model License, not an OSI licence: products must display "Built with Muse Spark Open", and model-as-a-service operators above $20M revenue need a separate agreement with Meta.
- Not practical on any single consumer device: Meta's own minimum is 700 GB of GPU memory for the NVFP4 checkpoint and about 2 TB for BF16.
- The NVFP4 checkpoint needs Blackwell-class GPUs under vLLM.
Zobacz też Muse Glimmer 30B
Jakość i zastosowania
Wyniki opublikowane przez autorów modelu lub niezależnego oceniającego — jakość, nie przepustowość, i nie mierzone przez nas.
Czy uruchomię Muse Spark Open 816B na moim GPU?
Muse Spark Open 816B — najczęściej zadawane pytania
How much VRAM does Muse Spark Open 816B need?
About 497 GB at Q4_K_M — quantized weights plus framework overhead, before any KV cache. The cache grows with context length and is added on top; the table above folds it in. Apple Silicon counts unified memory toward the same figure.
Does Muse Spark Open 816B run on an RTX 4090 (24 GB)?
No. Muse Spark Open 816B needs about 497 GB at Q4_K_M, more than a single RTX 4090's 24 GB. It needs a larger card, several GPUs, or Apple Silicon with enough unified memory — or it runs with part of the weights offloaded to system RAM, which is much slower.
How do I run Muse Spark Open 816B locally?
No local Ollama tag. Ollama lists muse-spark-open only as a cloud-hosted ':cloud' tag, which runs on Ollama's servers, not your machine. Running the published tag would send your prompts to a hosted GPU rather than your own machine.