Porównaj lokalne modele

Wybierz do 4 modeli i sprawdź ich wydajność na Twoim sprzęcie dla każdego poziomu kwantyzacji.

Wybierz modele powyżej, aby porównać

Użyj list rozwijanych, aby wybrać 2–4 modele, a następnie wybierz sprzęt.

VRAM · Dysk · tok/s · Dopasowanie · Komenda Ollama pull

Jak to szacujemy

VRAM = skwantyzowane wagi + pamięć KV przy Twoim kontekście + narzut środowiska. Wagi liczymy z CAŁKOWITEJ liczby parametrów: każdy ekspert modelu Mixture-of-Experts musi być w pamięci.

Szybkość modelujemy z przepustowości pamięci na podstawie AKTYWNYCH parametrów (tylko eksperci czytani na token), ze sprawnością dopasowaną do architektury GPU. To szacunki, nie pomiary.

Opublikowane wzory i stałe →

Sekcja modeli

Rankingi

Przeglądaj

Narzędzia

Poradniki