95 urządzeń · 4 marki
Baza GPU
Każde GPU, układ laptopowy i Mac, które śledzimy, z liczbami decydującymi o wydajności lokalnych LLM: VRAM określa, które modele się zmieszczą, a przepustowość pamięci — jak szybko generują.
Specyfikacje sprawdzone 2026-10-07 · Ceny sprawdzone 2026-09-29
Śledzone954 marki
Rekomendacja miesiącawrzesień 2026
NVIDIA GeForce RTX 3090 24 GB (używana)
Za 600–750 $ z drugiej ręki to wciąż najtańszy sposób na 24 GB VRAM. Uruchamia te same modele 27–32B co RTX 4090 przy Q4 za mniej więcej połowę ceny używanej (1200–1500 $), z przepustowością 936 GB/s wobec 1,008 GB/s w RTX 4090. Przed zakupem sprawdź stan VRAM i temperatury.
- VRAM
- 24 GB
- Przepustowość
- 936 GB/s
- Uczciwa cena używana
- $600–750
- Mieszczące się modele
- 132
| Urządzenie | VRAM | Przepustowość | 8B przy Q4 | Mieści | Cena |
|---|---|---|---|---|---|
| Apple M3 Ultra | 512 GB (zunifikowana) | 819 GB/s | 43–90 tok/s | 169 | — |
| Apple M5 Ultra | 512 GB (zunifikowana) | 1,229 GB/s | 59–123 tok/s | 169 | — |
| Apple M2 Ultra | 192 GB (zunifikowana) | 800 GB/s | 43–89 tok/s | 156 | — |
| Apple M1 Ultra | 128 GB (zunifikowana) | 800 GB/s | 43–89 tok/s | 152 | — |
| Apple M3 Max | 128 GB (zunifikowana) | 400 GB/s | 24–49 tok/s | 152 | — |
| Apple M4 Max | 128 GB (zunifikowana) | 546 GB/s | 31–64 tok/s | 152 | — |
| Apple M5 Max | 128 GB (zunifikowana) | 614 GB/s | 34–71 tok/s | 152 | — |
| Apple M2 Max | 96 GB (zunifikowana) | 400 GB/s | 24–49 tok/s | 147 | — |
| Apple M3 Max (30-core GPU) | 96 GB (zunifikowana) | 300 GB/s | 18–38 tok/s | 147 | — |
| NVIDIA RTX PRO 6000 Blackwell | 96 GB | 1,792 GB/s | 113–234 tok/s | 152 | $8,565 |
| NVIDIA RTX PRO 6000 Blackwell (Max-Q Edition) | 96 GB | 1,792 GB/s | 113–234 tok/s | 152 | — |
| NVIDIA A100 80GB (PCIe) | 80 GB | 1,935 GB/s | 102–196 tok/s | 152 | $15,000 |
| NVIDIA H100 80GB (PCIe) | 80 GB | 2,000 GB/s | 120–250 tok/s | 152 | $25,000 |
| NVIDIA H100 80GB (SXM) | 80 GB | 3,350 GB/s | 157–327 tok/s | 152 | — |
| NVIDIA RTX PRO 5000 Blackwell (72 GB) | 72 GB | 1,344 GB/s | 94–194 tok/s | 147 | — |
| Apple M1 Max | 64 GB (zunifikowana) | 400 GB/s | 24–49 tok/s | 139 | — |
| Apple M5 Pro | 64 GB (zunifikowana) | 307 GB/s | 19–39 tok/s | 139 | — |
| NVIDIA L40 | 48 GB | 864 GB/s | 77–147 tok/s | 139 | — |
| NVIDIA L40S | 48 GB | 864 GB/s | 77–147 tok/s | 139 | $7,499 |
| AMD Radeon PRO W7900 | 48 GB | 864 GB/s | 50–103 tok/s | 139 | — |
| NVIDIA RTX 6000 Ada Generation | 48 GB | 960 GB/s | 83–159 tok/s | 139 | $6,799 |
| NVIDIA RTX A6000 | 48 GB | 768 GB/s | 51–98 tok/s | 139 | $4,649 |
| NVIDIA RTX PRO 5000 Blackwell (48 GB) | 48 GB | 1,344 GB/s | 94–194 tok/s | 139 | — |
| Apple M3 Pro | 36 GB (zunifikowana) | 153 GB/s | 9.7–20 tok/s | 132 | — |
| Apple M4 Max (32-core GPU) | 36 GB (zunifikowana) | 410 GB/s | 24–50 tok/s | 132 | — |
| Apple M5 Max (32-core GPU) | 36 GB (zunifikowana) | 460 GB/s | 27–56 tok/s | 132 | — |
| AMD Instinct MI50 32GB | 32 GB | 1,024 GB/s | — | 132 | — |
| Apple M1 Pro | 32 GB (zunifikowana) | 200 GB/s | 13–26 tok/s | 132 | — |
| Apple M2 Pro | 32 GB (zunifikowana) | 200 GB/s | 13–26 tok/s | 132 | — |
| Apple M4 | 32 GB (zunifikowana) | 120 GB/s | 7.7–16 tok/s | 132 | — |
| Apple M5 | 32 GB (zunifikowana) | 153 GB/s | 9.7–20 tok/s | 132 | — |
| Apple M6 | 32 GB (zunifikowana) | 170 GB/s | 11–22 tok/s | 132 | — |
| Intel Arc Pro B65 | 32 GB | 608 GB/s | 35–72 tok/s | 132 | — |
| Intel Arc Pro B70 | 32 GB | 608 GB/s | 35–72 tok/s | 132 | $949 |
| AMD Radeon AI PRO R9700 | 32 GB | 640 GB/s | 42–87 tok/s | 132 | $1,299 |
| NVIDIA RTX 5000 Ada Generation | 32 GB | 576 GB/s | 56–107 tok/s | 132 | — |
| NVIDIA GeForce RTX 5090 | 32 GB | 1,792 GB/s | 113–234 tok/s | 132 | $4,700 |
| NVIDIA RTX PRO 4500 Blackwell (Workstation Edition) | 32 GB | 896 GB/s | 70–145 tok/s | 132 | — |
| Apple M2 | 24 GB (zunifikowana) | 100 GB/s | 6.4–13 tok/s | 102 | — |
| Apple M3 | 24 GB (zunifikowana) | 100 GB/s | 6.4–13 tok/s | 102 | — |
| Apple M4 Pro | 24 GB (zunifikowana) | 273 GB/s | 17–35 tok/s | 102 | — |
| Intel Arc Pro B60 | 24 GB | 456 GB/s | 28–57 tok/s | 132 | — |
| NVIDIA A10 | 24 GB | 600 GB/s | 41–79 tok/s | 132 | — |
| NVIDIA L4 | 24 GB | 300 GB/s | 32–61 tok/s | 132 | — |
| NVIDIA GeForce RTX 3090 | 24 GB | 936 GB/s | 60–115 tok/s | 132 | $1,499 |
| NVIDIA GeForce RTX 3090 Ti | 24 GB | 1,008 GB/s | 63–122 tok/s | 132 | $1,999 |
| NVIDIA GeForce RTX 4090 | 24 GB | 1,008 GB/s | 86–165 tok/s | 132 | $1,599 |
| NVIDIA RTX A5000 | 24 GB | 768 GB/s | 51–98 tok/s | 132 | — |
| NVIDIA RTX PRO 4000 Blackwell | 24 GB | 672 GB/s | 56–116 tok/s | 132 | — |
| AMD Radeon RX 7900 XTX | 24 GB | 960 GB/s | 54–112 tok/s | 132 | $999 |
| NVIDIA Tesla P40 | 24 GB | 346 GB/s | — | 132 | — |
| AMD Radeon RX 7900 XT | 20 GB | 800 GB/s | 47–98 tok/s | 113 | $899 |
| Apple M1 | 16 GB (zunifikowana) | 68 GB/s | 4.4–9.2 tok/s | 85 | — |
| Intel Arc Pro B50 | 16 GB | 224 GB/s | 15–31 tok/s | 96 | $349 |
| NVIDIA GeForce RTX 4060 Ti 16GB | 16 GB | 288 GB/s | 31–59 tok/s | 96 | $499 |
| NVIDIA GeForce RTX 4070 Ti Super | 16 GB | 672 GB/s | 63–121 tok/s | 96 | $799 |
| NVIDIA GeForce RTX 4080 | 16 GB | 717 GB/s | 66–127 tok/s | 96 | $1,199 |
| NVIDIA GeForce RTX 4080 Super | 16 GB | 736 GB/s | 68–130 tok/s | 96 | $999 |
| NVIDIA GeForce RTX 5060 Ti 16GB | 16 GB | 448 GB/s | 40–83 tok/s | 96 | $805 |
| NVIDIA GeForce RTX 5070 Ti | 16 GB | 896 GB/s | 70–145 tok/s | 96 | $749 |
| NVIDIA GeForce RTX 5080 | 16 GB | 960 GB/s | 74–153 tok/s | 96 | $999 |
| NVIDIA RTX PRO 2000 Blackwell | 16 GB | 288 GB/s | 27–56 tok/s | 96 | — |
| AMD Radeon RX 6800 XT | 16 GB | 512 GB/s | — | 96 | — |
| AMD Radeon RX 6900 XT | 16 GB | 512 GB/s | — | 96 | — |
| AMD Radeon RX 7600 XT | 16 GB | 288 GB/s | 20–42 tok/s | 96 | — |
| AMD Radeon RX 7800 XT | 16 GB | 624 GB/s | 39–81 tok/s | 96 | $499 |
| AMD Radeon RX 7900 GRE | 16 GB | 576 GB/s | 36–76 tok/s | 96 | — |
| AMD Radeon RX 9060 XT 16GB | 16 GB | 320 GB/s | 24–49 tok/s | 96 | $349 |
| AMD Radeon RX 9070 | 16 GB | 640 GB/s | 42–87 tok/s | 96 | $549 |
| AMD Radeon RX 9070 XT | 16 GB | 640 GB/s | 42–87 tok/s | 96 | $599 |
| Intel Arc B580 | 12 GB | 456 GB/s | 28–57 tok/s | 85 | $249 |
| NVIDIA GeForce RTX 3060 (12GB) | 12 GB | 360 GB/s | 26–50 tok/s | 85 | $329 |
| NVIDIA GeForce RTX 3080 12GB | 12 GB | 912 GB/s | 59–112 tok/s | 85 | — |
| NVIDIA GeForce RTX 3080 Ti | 12 GB | 912 GB/s | 59–112 tok/s | 85 | $1,199 |
| NVIDIA GeForce RTX 4070 | 12 GB | 504 GB/s | 50–96 tok/s | 85 | $599 |
| NVIDIA GeForce RTX 4070 Super | 12 GB | 504 GB/s | 50–96 tok/s | 85 | $599 |
| NVIDIA GeForce RTX 4070 Ti | 12 GB | 504 GB/s | 50–96 tok/s | 85 | $799 |
| NVIDIA GeForce RTX 5070 | 12 GB | 672 GB/s | 56–116 tok/s | 85 | $549 |
| AMD Radeon RX 6700 XT | 12 GB | 384 GB/s | — | 85 | — |
| AMD Radeon RX 7700 XT | 12 GB | 432 GB/s | 29–60 tok/s | 85 | $449 |
| AMD Radeon RX 9070 GRE | 12 GB | 432 GB/s | 31–64 tok/s | 85 | — |
| NVIDIA GeForce GTX 1080 Ti | 11 GB | 484 GB/s | — | 85 | $699 |
| NVIDIA GeForce RTX 2080 Ti | 11 GB | 616 GB/s | — | 85 | $999 |
| Intel Arc B570 | 10 GB | 380 GB/s | 24–49 tok/s | 83 | $219 |
| NVIDIA GeForce RTX 3080 (10GB) | 10 GB | 760 GB/s | 50–97 tok/s | 83 | $699 |
| NVIDIA GeForce RTX 3060 Ti | 8 GB | 448 GB/s | 32–61 tok/s | 72 | $399 |
| NVIDIA GeForce RTX 3070 | 8 GB | 448 GB/s | 32–61 tok/s | 72 | $499 |
| NVIDIA GeForce RTX 3070 Ti | 8 GB | 608 GB/s | 42–80 tok/s | 72 | $599 |
| NVIDIA GeForce RTX 4060 | 8 GB | 272 GB/s | 29–56 tok/s | 72 | $299 |
| NVIDIA GeForce RTX 4060 Ti 8GB | 8 GB | 288 GB/s | 31–59 tok/s | 72 | $399 |
| NVIDIA GeForce RTX 5050 | 8 GB | 320 GB/s | 30–61 tok/s | 72 | $249 |
| NVIDIA GeForce RTX 5060 | 8 GB | 448 GB/s | 40–83 tok/s | 72 | $299 |
| NVIDIA GeForce RTX 5060 Ti 8GB | 8 GB | 448 GB/s | 40–83 tok/s | 72 | $379 |
| AMD Radeon RX 7600 | 8 GB | 288 GB/s | 20–42 tok/s | 72 | — |
| AMD Radeon RX 9060 XT 8GB | 8 GB | 320 GB/s | 24–49 tok/s | 72 | $299 |
Szybki poradnik zakupowy
- Poniżej 300 $
- RTX 3060 12GB12 GB VRAM, uruchamia wszystkie modele 7–8B
- Poniżej 500 $
- RTX 4060 Ti 16GBnajlepsza budżetowa karta z 16 GB
- 500–700 $
- RTX 4070 Super lub AMD RX 9070 XT
- 1000–1600 $
- RTX 4090 24GBnajszybsza pojedyncza karta konsumencka; modele klasy 32B przy Q4_K_M
- Laptop Mac
- M3 Pro 36GB lub M4 Procichy i energooszczędny
- Mac stacjonarny
- M4 Max 128GB~96 GB do wykorzystania: modele klasy 70B przy Q4_K_M
Szybkość to Llama 3.1 8B przy Q4_K_M: szacunek z modelu przepustowości pamięci, podany jako zakres, chyba że strona urządzenia oznacza go jako zmierzony. Pamięć Maca to cała pula zunifikowana; model może użyć około 75%. „Mieści” liczy warianty modeli z katalogu, których wagi przy Q4_K_M wraz z narzutem środowiska mieszczą się w pamięci dostępnej dla modelu, jeszcze bez kontekstu. Metodologia
Co dalej
Narzędzia