Trinity — lokalny model AI od Arcee AI
Autor: Jakub Rusinowski · Ostatnia aktualizacja:
Trinity to rodzina rzadkich modeli mixture-of-experts od Arcee AI z otwartymi wagami. Trinity Mini (26B łącznie, około 3B aktywnych) to praktyczny wariant do uruchamiania lokalnie, z oficjalnym GGUF; Trinity-Large-Thinking (około 398B łącznie, około 13B aktywnych) to model rozumowania i agentów dla serwerów wielo-GPU. Cała rodzina przeszła z Apache-2.0 na OpenMDW-1.1 dnia 29 maja 2026, więc starsze wzmianki o Apache są nieaktualne.
Warianty
Najmniejszy wariant Trinity potrzebuje około 17 GB VRAM przy Q4_K_M — skwantyzowane wagi plus narzut frameworka, bez pamięci podręcznej KV.
| Model | VRAM przy Q4 | VRAM | Kontekst | Uruchom |
|---|---|---|---|---|
| Trinity Mini → 26B (3B active) | ~16.7 GB | 131,072 | tag hostowany w chmurze | |
| Trinity-Large-Thinking → 398B (13B active) | ~241.5 GB | 262,144 | tag hostowany w chmurze |
Pamięć to skwantyzowane wagi plus narzut przy Q4_K_M, liczone tym samym silnikiem co sprawdzarka GPU i VRAM.
Jak uruchomić Trinity lokalnie
Zainstaluj Ollama, a potem pobierz tag.
Brak zweryfikowanego tagu w bibliotece Ollama. Arcee publikuje oficjalne pliki GGUF działające z llama.cpp (b7061 lub nowszy) i LM Studio.
Wybierz rozmiar powyżej, aby zobaczyć jego VRAM, szacowaną szybkość i polecenie instalacji.
Licencja
Commercial use permitted. No usage restrictions beyond attribution.
Dotyczy: Trinity Mini, Trinity-Large-ThinkingPolecane GPU
Najtańsze GPU z naszego katalogu, które uruchomi Trinity lokalnie (min. 17 GB VRAM), to AMD Radeon RX 7900 XT (20 GB).
Trinity — najczęściej zadawane pytania
How much VRAM does Trinity need?
Trinity needs about 17 GB VRAM at Q4_K_M quantization for its smallest variant. Variants: Trinity Mini (17 GB, Q4_K_M); Trinity-Large-Thinking (241 GB, Q4_K_M). On Apple Silicon, unified memory counts toward this requirement.
Can I run Trinity on an RTX 4090 (24 GB)?
Yes — Trinity runs on an RTX 4090 (24 GB) and other 24 GB cards such as the RTX 3090. Smaller variants also fit comfortably on 8–16 GB GPUs at Q4_K_M.
What quantization should I use for Trinity?
Q4_K_M is the best balance of quality and VRAM for Trinity in most cases. Choose Q8_0 for near-lossless quality if you have spare VRAM, or smaller quants (Q3/Q2) only when memory is tight.
How do I run Trinity with Ollama?
Trinity has no local Ollama tag — the published tag is cloud-hosted, so running it sends your prompts to a hosted GPU rather than your own machine.