Eksploruj lokalne modele

Wykres punktowy i tabela wszystkich lokalnych modeli z uwzględnieniem sprzętu. Kliknij dowolny model, aby porównać.

Oś X · Oś Y

  • Wymagany VRAM
  • Rozmiar na dysku
  • Rozmiar modelu
  • Szac. tok/s
  • Indeks jakości
  • Kontekst

Filtry

Najlepszy stosunek · Najszybsze · Mieści się w moim sprzęcie

tok/s to szacunki na podstawie przepustowości pamięci, nie pomiary. Kontekst 8,192 tokenów, pamięć KV f16.

Indeks jakości z Artificial Analysis, jeśli jest dostępny.

Kliknij punkt lub wiersz, aby otworzyć go w porównaniu.