Laptopy do lokalnej AI

Szybkość to Llama 3.1 8B przy Q4_K_M: szacunek z modelu przepustowości pamięci, podany jako zakres, chyba że strona urządzenia oznacza go jako zmierzony. Pamięć Maca to cała pula zunifikowana; model może użyć około 75%. „Mieści” liczy warianty modeli z katalogu, których wagi przy Q4_K_M wraz z narzutem środowiska mieszczą się w pamięci dostępnej dla modelu, jeszcze bez kontekstu. Metodologia