Meta109B (17B active)~67 GB VRAM przy Q4_K_M

Llama 4.5 Scout — VRAM, szybkość i lokalna konfiguracja

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Llama 4.5 Scout, reported as a June 2026 mid-cycle refresh of Llama 4 Scout retaining the 10M-token context. UNVERIFIED: the specs here are carried from Llama 4 Scout and no primary source has been read. Secondary sources disagree on whether this release happened at all, so treat every figure as provisional until the model card is checked.

Llama 4.5 Scout potrzebuje około 67 GB VRAM przy Q4_K_M — skwantyzowane wagi plus narzut frameworka, bez pamięci podręcznej KV. Na Apple Silicon ta wartość pochodzi z pamięci zunifikowanej.

Logika89
Kreatywność86
Kod88

VRAM i szybkość według kwantyzacji

Liczone dla NVIDIA RTX 4090 (24 GB). Tylko wagi i narzut: architektura tego modelu nie jest opublikowana, więc nie doliczamy pamięci KV.

Kwant.VRAMSzybkość (szac.)Dopasowanie
Q2_K
2.63 bpw
36.6 GB~13 tok/sCzęściowo w RAM
Q3_K_M
3.41 bpw
47.3 GB~11 tok/sCzęściowo w RAM
Q4_K_M
4.83 bpw
66.6 GB—Za duży
Q5_K_M
5.67 bpw
78.1 GB—Za duży
Q6_K
6.56 bpw
90.2 GB—Za duży
Q8_0
8.50 bpw
116.6 GB—Za duży
F16
16.00 bpw
218.8 GB—Za duży

Czarny znacznik = dostępna pamięć na NVIDIA RTX 4090 (24 GB). Szacunki z modelu przepustowości pamięci opisanego na stronie metodologii. Kalkulator VRAM dla Llama 4.5 Scout →

Uruchom Llama 4.5 Scout

Najtańsze GPU z naszego katalogu, które uruchomi Llama 4.5 Scout, to NVIDIA DGX Spark (128 GB).

Kup ten sprzęt NVIDIA DGX Spark (128GB) — 128 GB VRAM · 150 W board powerUruchom w chmurze NVIDIA A100 80GB w RunPod — od $1.39/godz. · stawka sprawdzona 2026-07

lub porównaj w Vast.ai od $0.77/godz. (typical low · varies)

Jako partner Amazon zarabiamy na kwalifikujących się zakupach. Linki do chmurowych GPU są linkami polecającymi — możemy otrzymać prowizję bez dodatkowych kosztów dla Ciebie.

Ujawnienie afiliacyjne: Niektóre odnośniki na tej stronie to linki afiliacyjne — jeśli dokonasz zakupu za ich pośrednictwem, LLM Configurator może otrzymać prowizję bez dodatkowych kosztów dla Ciebie. Jako uczestnik programu Amazon Associates, LLM Configurator zarabia na kwalifikujących się zakupach.
NVIDIA DGX Spark (128GB)
128 GB VRAM · 150 W board power
Ceny w 2026 są niestabilne — sprawdź aktualną ofertę.

Jak uruchomić Llama 4.5 Scout

Zainstaluj Ollama, a potem uruchom:

ollama run llama-4-5
Wagi na Hugging Face: meta-llama/Llama-4.5-Scout ↗

Specyfikacja

Preview — The model is released, but these specs are thin or rest on a single source. Individual fields may be wrong. Jeszcze niepotwierdzone: existence, params_b_total, params_b_active, context, releaseDate.

Preview — The model is released, but these specs are thin or rest on a single source. Individual fields may be wrong. Jeszcze niepotwierdzone: existence, params_b_total, params_b_active, context, releaseDate.

Parametry
109 Billion (17B active)
Okno kontekstu
10,000,000
Architektura
Mixture-of-Experts
Dostawca
Meta
Licencja
Llama Community
Practical deployment
Workstation (large unified memory or pro GPU)
Określono przy
Q4_K_M
RAM systemowy
128 GB
Rekord zaktualizowany
2026-06-26
LicencjaLlama CommunityUżycie komercyjne dozwolone

Weights are downloadable and commercial use is permitted, subject to the licence’s acceptable-use terms.

Jakość i zastosowania

Wyniki opublikowane przez autorów modelu lub niezależnego oceniającego — jakość, nie przepustowość, i nie mierzone przez nas.

Najlepszy dolong contextreasoningcodingworkstation

Czy uruchomię Llama 4.5 Scout na moim GPU?

Llama 4.5 Scout — najczęściej zadawane pytania

How much VRAM does Llama 4.5 Scout need?

About 67 GB at Q4_K_M — quantized weights plus framework overhead, before any KV cache. The cache grows with context length and is added on top; the table above folds it in. Apple Silicon counts unified memory toward the same figure.

Does Llama 4.5 Scout run on an RTX 4090 (24 GB)?

No. Llama 4.5 Scout needs about 67 GB at Q4_K_M, more than a single RTX 4090's 24 GB. It needs a larger card, several GPUs, or Apple Silicon with enough unified memory — or it runs with part of the weights offloaded to system RAM, which is much slower.

How do I run Llama 4.5 Scout locally?

Install Ollama and run `ollama run llama-4-5`. That pulls the weights and starts a local OpenAI-compatible endpoint; after the download nothing leaves the machine.