Kolibri — lokalny model AI od Aleph Alpha
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Kolibri 1 to model rozumowania typu mixture-of-experts od Aleph Alpha, przeznaczony do niemieckiego i angielskiego, wydany w październiku 2026 z wagami na licencji Apache-2.0. Został wytrenowany od zera, obsługuje regulowany poziom rozumowania i wywoływanie narzędzi, a jego głównie okienkowa (sliding-window) uwaga ogranicza koszt pamięci podręcznej przy długim kontekście. Kompromis pamięciowy jest realny: każdy ekspert musi być w pamięci, więc to model dla serwerów i stacji roboczych z dużą pamięcią, a nie dla laptopa.
Warianty
Najmniejszy wariant Kolibri potrzebuje około 48 GB VRAM przy Q4_K_M — skwantyzowane wagi plus narzut frameworka, bez pamięci podręcznej KV.
| Model | VRAM przy Q4 | VRAM | Kontekst | Uruchom |
|---|---|---|---|---|
| Kolibri 1 → 78B (3.5B active) | ~48.3 GB | 262,144 | tag hostowany w chmurze |
Pamięć to skwantyzowane wagi plus narzut przy Q4_K_M, liczone tym samym silnikiem co sprawdzarka GPU i VRAM.
Jak uruchomić Kolibri lokalnie
Zainstaluj Ollama, a potem pobierz tag.
Obecnie brak ścieżki w Ollama i LM Studio: standardowe llama.cpp nie obsługuje tej architektury. Trasa oficjalna: vLLM z wtyczką aleph-alpha-inference od Aleph Alpha, która przypina jedną wersję minor vLLM. Trasy społeczności: eksperymentalny GGUF wymagający załatanego llama.cpp oraz nieoficjalne konwersje MLX potrzebujące około 64 GB pamięci zunifikowanej.
Wybierz rozmiar powyżej, aby zobaczyć jego VRAM, szacowaną szybkość i polecenie instalacji.
Licencja
Commercial use permitted. No usage restrictions beyond attribution.
Dotyczy: Kolibri 1Polecane GPU
Najtańsze GPU z naszego katalogu, które uruchomi Kolibri lokalnie (min. 48 GB VRAM), to NVIDIA DGX Spark (128 GB).
Kolibri — najczęściej zadawane pytania
How much VRAM does Kolibri need?
Kolibri needs about 48 GB VRAM at Q4_K_M quantization for its smallest variant. Variants: Kolibri 1 (48 GB, Q4_K_M). On Apple Silicon, unified memory counts toward this requirement.
Can I run Kolibri on an RTX 4090 (24 GB)?
Kolibri's smallest variant needs about 48 GB, which exceeds a single RTX 4090 (24 GB). Use multiple GPUs, a higher-VRAM card, or Apple Silicon with large unified memory.
What quantization should I use for Kolibri?
Q4_K_M is the best balance of quality and VRAM for Kolibri in most cases. Choose Q8_0 for near-lossless quality if you have spare VRAM, or smaller quants (Q3/Q2) only when memory is tight.
How do I run Kolibri with Ollama?
Kolibri has no local Ollama tag — the published tag is cloud-hosted, so running it sends your prompts to a hosted GPU rather than your own machine.