GLM-5.3 — lokalny model AI od Zhipu AI (Z.ai)

Autor: Jakub Rusinowski · Ostatnia aktualizacja:

Flagowiec Z.ai o 753 mld parametrów z sierpnia 2026. Dzieli model bazowy z GLM-5.2, więc cały postęp pochodzi z dostrajania; karta modelu eksponuje agentowe kodowanie i cyberbezpieczeństwo. Tylko tekst, kontekst 1M tokenów i własna licencja: w stylu MIT, ale operator usługi Model-as-a-Service z rocznym przychodem powyżej 10 mld USD musi przejść przegląd bezpieczeństwa Z.ai przed użyciem komercyjnym. Multimodalny model 320B to GLM-5.3-Flash.

Warianty

Najmniejszy wariant GLM-5.3 potrzebuje około 456 GB VRAM przy Q4_K_M — skwantyzowane wagi plus narzut frameworka, bez pamięci podręcznej KV.

ModelVRAM
GLM-5.3 →
753B (40B active)
~455.6 GB

Pamięć to skwantyzowane wagi plus narzut przy Q4_K_M, liczone tym samym silnikiem co sprawdzarka GPU i VRAM.

Jak uruchomić GLM-5.3 lokalnie

Zainstaluj Ollama, a potem pobierz tag.

No local Ollama tag. Ollama lists glm-5.3 only as a cloud-hosted ':cloud' tag, which runs on Ollama's servers, not your machine.

Wybierz rozmiar powyżej, aby zobaczyć jego VRAM, szacowaną szybkość i polecenie instalacji.

Licencja

Custom Open-WeightUżycie komercyjne dozwolone

Weights are downloadable and commercial use is permitted, subject to the licence’s acceptable-use terms.

Dotyczy: GLM-5.3

GLM-5.3 — najczęściej zadawane pytania

How much VRAM does GLM-5.3 need?

GLM-5.3 needs about 456 GB VRAM at Q4_K_M quantization for its smallest variant. Variants: GLM-5.3 (456 GB, Q4_K_M). On Apple Silicon, unified memory counts toward this requirement.

Can I run GLM-5.3 on an RTX 4090 (24 GB)?

GLM-5.3's smallest variant needs about 456 GB, which exceeds a single RTX 4090 (24 GB). Use multiple GPUs, a higher-VRAM card, or Apple Silicon with large unified memory.

What quantization should I use for GLM-5.3?

Q4_K_M is the best balance of quality and VRAM for GLM-5.3 in most cases. Choose Q8_0 for near-lossless quality if you have spare VRAM, or smaller quants (Q3/Q2) only when memory is tight.

How do I run GLM-5.3 with Ollama?

GLM-5.3 has no local Ollama tag — the published tag is cloud-hosted, so running it sends your prompts to a hosted GPU rather than your own machine.