Qwen 3.5 (Withdrawn Listings) — lokalny model AI od Alibaba Cloud
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Najambitniejsze wydanie modelu o otwartych wagach od Alibaby. Qwen 3.5 (397B) jest natywnie multimodalny — w jednej architekturze obsługuje rozumienie tekstu, obrazu i wideo. Plasuje się w pierwszej trójce modeli o otwartych wagach na świecie i konkuruje bezpośrednio z GPT-4o oraz Gemini 2.0 Pro w benchmarkach multimodalnych.
Warianty
Najmniejszy wariant Qwen 3.5 (Withdrawn Listings) potrzebuje około 9 GB VRAM przy Q4_K_M — skwantyzowane wagi plus narzut frameworka, bez pamięci podręcznej KV.
| Model | VRAM przy Q4 | VRAM | Kontekst | Uruchom |
|---|---|---|---|---|
| Qwen 3.5 14B 14B | ~9.3 GB | 128,000 | ollama run qwen-3-5-legacy | |
| Qwen 3.5 72B 72B | ~44.3 GB | 128,000 | ollama run qwen3.5:72b | |
| Qwen 3.5 397B 397B | ~240.5 GB | 128,000 | ollama run qwen3.5:397b |
Pamięć to skwantyzowane wagi plus narzut przy Q4_K_M, liczone tym samym silnikiem co sprawdzarka GPU i VRAM.
Jak uruchomić Qwen 3.5 (Withdrawn Listings) lokalnie
Zainstaluj Ollama, a potem pobierz tag.
ollama run qwen-3-5-legacyWybierz rozmiar powyżej, aby zobaczyć jego VRAM, szacowaną szybkość i polecenie instalacji.
Licencja
Commercial use permitted. No usage restrictions beyond attribution.
Dotyczy: Qwen 3.5 14B, Qwen 3.5 72B, Qwen 3.5 397BPolecane GPU
Najtańsze GPU z naszego katalogu, które uruchomi Qwen 3.5 (Withdrawn Listings) lokalnie (min. 9 GB VRAM), to Intel Arc B570 (10 GB).
Qwen 3.5 (Withdrawn Listings) — najczęściej zadawane pytania
How much VRAM does Qwen 3.5 (Withdrawn Listings) need?
Qwen 3.5 (Withdrawn Listings) needs about 9 GB VRAM at Q4_K_M quantization for its smallest variant. Variants: Qwen 3.5 14B (9 GB, Q4_K_M); Qwen 3.5 72B (44 GB, Q4_K_M); Qwen 3.5 397B (240 GB, Q4_K_M). On Apple Silicon, unified memory counts toward this requirement.
Can I run Qwen 3.5 (Withdrawn Listings) on an RTX 4090 (24 GB)?
Yes — Qwen 3.5 (Withdrawn Listings) runs on an RTX 4090 (24 GB) and other 24 GB cards such as the RTX 3090. Smaller variants also fit comfortably on 8–16 GB GPUs at Q4_K_M.
What quantization should I use for Qwen 3.5 (Withdrawn Listings)?
Q4_K_M is the best balance of quality and VRAM for Qwen 3.5 (Withdrawn Listings) in most cases. Choose Q8_0 for near-lossless quality if you have spare VRAM, or smaller quants (Q3/Q2) only when memory is tight.
How do I run Qwen 3.5 (Withdrawn Listings) with Ollama?
Qwen 3.5 (Withdrawn Listings) has no local Ollama tag — the published tag is cloud-hosted, so running it sends your prompts to a hosted GPU rather than your own machine.