95 台设备 · 4 个品牌
GPU 数据库
我们追踪的每一款 GPU、笔记本芯片和 Mac，以及决定本地大模型性能的数字：显存决定能放下哪些模型，内存带宽决定生成速度。
规格核实于 2026-10-07 · 价格核实于 2026-09-29
已收录954 个品牌
本月推荐2026年9月
NVIDIA GeForce RTX 3090 24 GB（二手）
二手 600–750 美元，仍是获得 24 GB 显存最便宜的办法。Q4 下可运行与 RTX 4090 相同的 27–32B 模型，二手价格约为其一半（1,200–1,500 美元），显存带宽 936 GB/s，RTX 4090 为 1,008 GB/s。购买前请检查显存健康状况和散热。
- 显存
- 24 GB
- 带宽
- 936 GB/s
- 合理二手价
- $600–750
- 可运行模型数
- 132
| 设备 | 显存 | 带宽 | 8B（Q4） | 可运行 | 价格 |
|---|---|---|---|---|---|
| Apple M3 Ultra | 512 GB 统一内存 | 819 GB/s | 43–90 tok/s | 169 | — |
| Apple M5 Ultra | 512 GB 统一内存 | 1,229 GB/s | 59–123 tok/s | 169 | — |
| Apple M2 Ultra | 192 GB 统一内存 | 800 GB/s | 43–89 tok/s | 156 | — |
| Apple M1 Ultra | 128 GB 统一内存 | 800 GB/s | 43–89 tok/s | 152 | — |
| Apple M3 Max | 128 GB 统一内存 | 400 GB/s | 24–49 tok/s | 152 | — |
| Apple M4 Max | 128 GB 统一内存 | 546 GB/s | 31–64 tok/s | 152 | — |
| Apple M5 Max | 128 GB 统一内存 | 614 GB/s | 34–71 tok/s | 152 | — |
| Apple M2 Max | 96 GB 统一内存 | 400 GB/s | 24–49 tok/s | 147 | — |
| Apple M3 Max (30-core GPU) | 96 GB 统一内存 | 300 GB/s | 18–38 tok/s | 147 | — |
| NVIDIA RTX PRO 6000 Blackwell | 96 GB | 1,792 GB/s | 113–234 tok/s | 152 | $8,565 |
| NVIDIA RTX PRO 6000 Blackwell (Max-Q Edition) | 96 GB | 1,792 GB/s | 113–234 tok/s | 152 | — |
| NVIDIA A100 80GB (PCIe) | 80 GB | 1,935 GB/s | 102–196 tok/s | 152 | $15,000 |
| NVIDIA H100 80GB (PCIe) | 80 GB | 2,000 GB/s | 120–250 tok/s | 152 | $25,000 |
| NVIDIA H100 80GB (SXM) | 80 GB | 3,350 GB/s | 157–327 tok/s | 152 | — |
| NVIDIA RTX PRO 5000 Blackwell (72 GB) | 72 GB | 1,344 GB/s | 94–194 tok/s | 147 | — |
| Apple M1 Max | 64 GB 统一内存 | 400 GB/s | 24–49 tok/s | 139 | — |
| Apple M5 Pro | 64 GB 统一内存 | 307 GB/s | 19–39 tok/s | 139 | — |
| NVIDIA L40 | 48 GB | 864 GB/s | 77–147 tok/s | 139 | — |
| NVIDIA L40S | 48 GB | 864 GB/s | 77–147 tok/s | 139 | $7,499 |
| AMD Radeon PRO W7900 | 48 GB | 864 GB/s | 50–103 tok/s | 139 | — |
| NVIDIA RTX 6000 Ada Generation | 48 GB | 960 GB/s | 83–159 tok/s | 139 | $6,799 |
| NVIDIA RTX A6000 | 48 GB | 768 GB/s | 51–98 tok/s | 139 | $4,649 |
| NVIDIA RTX PRO 5000 Blackwell (48 GB) | 48 GB | 1,344 GB/s | 94–194 tok/s | 139 | — |
| Apple M3 Pro | 36 GB 统一内存 | 153 GB/s | 9.7–20 tok/s | 132 | — |
| Apple M4 Max (32-core GPU) | 36 GB 统一内存 | 410 GB/s | 24–50 tok/s | 132 | — |
| Apple M5 Max (32-core GPU) | 36 GB 统一内存 | 460 GB/s | 27–56 tok/s | 132 | — |
| AMD Instinct MI50 32GB | 32 GB | 1,024 GB/s | — | 132 | — |
| Apple M1 Pro | 32 GB 统一内存 | 200 GB/s | 13–26 tok/s | 132 | — |
| Apple M2 Pro | 32 GB 统一内存 | 200 GB/s | 13–26 tok/s | 132 | — |
| Apple M4 | 32 GB 统一内存 | 120 GB/s | 7.7–16 tok/s | 132 | — |
| Apple M5 | 32 GB 统一内存 | 153 GB/s | 9.7–20 tok/s | 132 | — |
| Apple M6 | 32 GB 统一内存 | 170 GB/s | 11–22 tok/s | 132 | — |
| Intel Arc Pro B65 | 32 GB | 608 GB/s | 35–72 tok/s | 132 | — |
| Intel Arc Pro B70 | 32 GB | 608 GB/s | 35–72 tok/s | 132 | $949 |
| AMD Radeon AI PRO R9700 | 32 GB | 640 GB/s | 42–87 tok/s | 132 | $1,299 |
| NVIDIA RTX 5000 Ada Generation | 32 GB | 576 GB/s | 56–107 tok/s | 132 | — |
| NVIDIA GeForce RTX 5090 | 32 GB | 1,792 GB/s | 113–234 tok/s | 132 | $4,700 |
| NVIDIA RTX PRO 4500 Blackwell (Workstation Edition) | 32 GB | 896 GB/s | 70–145 tok/s | 132 | — |
| Apple M2 | 24 GB 统一内存 | 100 GB/s | 6.4–13 tok/s | 102 | — |
| Apple M3 | 24 GB 统一内存 | 100 GB/s | 6.4–13 tok/s | 102 | — |
| Apple M4 Pro | 24 GB 统一内存 | 273 GB/s | 17–35 tok/s | 102 | — |
| Intel Arc Pro B60 | 24 GB | 456 GB/s | 28–57 tok/s | 132 | — |
| NVIDIA A10 | 24 GB | 600 GB/s | 41–79 tok/s | 132 | — |
| NVIDIA L4 | 24 GB | 300 GB/s | 32–61 tok/s | 132 | — |
| NVIDIA GeForce RTX 3090 | 24 GB | 936 GB/s | 60–115 tok/s | 132 | $1,499 |
| NVIDIA GeForce RTX 3090 Ti | 24 GB | 1,008 GB/s | 63–122 tok/s | 132 | $1,999 |
| NVIDIA GeForce RTX 4090 | 24 GB | 1,008 GB/s | 86–165 tok/s | 132 | $1,599 |
| NVIDIA RTX A5000 | 24 GB | 768 GB/s | 51–98 tok/s | 132 | — |
| NVIDIA RTX PRO 4000 Blackwell | 24 GB | 672 GB/s | 56–116 tok/s | 132 | — |
| AMD Radeon RX 7900 XTX | 24 GB | 960 GB/s | 54–112 tok/s | 132 | $999 |
| NVIDIA Tesla P40 | 24 GB | 346 GB/s | — | 132 | — |
| AMD Radeon RX 7900 XT | 20 GB | 800 GB/s | 47–98 tok/s | 113 | $899 |
| Apple M1 | 16 GB 统一内存 | 68 GB/s | 4.4–9.2 tok/s | 85 | — |
| Intel Arc Pro B50 | 16 GB | 224 GB/s | 15–31 tok/s | 96 | $349 |
| NVIDIA GeForce RTX 4060 Ti 16GB | 16 GB | 288 GB/s | 31–59 tok/s | 96 | $499 |
| NVIDIA GeForce RTX 4070 Ti Super | 16 GB | 672 GB/s | 63–121 tok/s | 96 | $799 |
| NVIDIA GeForce RTX 4080 | 16 GB | 717 GB/s | 66–127 tok/s | 96 | $1,199 |
| NVIDIA GeForce RTX 4080 Super | 16 GB | 736 GB/s | 68–130 tok/s | 96 | $999 |
| NVIDIA GeForce RTX 5060 Ti 16GB | 16 GB | 448 GB/s | 40–83 tok/s | 96 | $805 |
| NVIDIA GeForce RTX 5070 Ti | 16 GB | 896 GB/s | 70–145 tok/s | 96 | $749 |
| NVIDIA GeForce RTX 5080 | 16 GB | 960 GB/s | 74–153 tok/s | 96 | $999 |
| NVIDIA RTX PRO 2000 Blackwell | 16 GB | 288 GB/s | 27–56 tok/s | 96 | — |
| AMD Radeon RX 6800 XT | 16 GB | 512 GB/s | — | 96 | — |
| AMD Radeon RX 6900 XT | 16 GB | 512 GB/s | — | 96 | — |
| AMD Radeon RX 7600 XT | 16 GB | 288 GB/s | 20–42 tok/s | 96 | — |
| AMD Radeon RX 7800 XT | 16 GB | 624 GB/s | 39–81 tok/s | 96 | $499 |
| AMD Radeon RX 7900 GRE | 16 GB | 576 GB/s | 36–76 tok/s | 96 | — |
| AMD Radeon RX 9060 XT 16GB | 16 GB | 320 GB/s | 24–49 tok/s | 96 | $349 |
| AMD Radeon RX 9070 | 16 GB | 640 GB/s | 42–87 tok/s | 96 | $549 |
| AMD Radeon RX 9070 XT | 16 GB | 640 GB/s | 42–87 tok/s | 96 | $599 |
| Intel Arc B580 | 12 GB | 456 GB/s | 28–57 tok/s | 85 | $249 |
| NVIDIA GeForce RTX 3060 (12GB) | 12 GB | 360 GB/s | 26–50 tok/s | 85 | $329 |
| NVIDIA GeForce RTX 3080 12GB | 12 GB | 912 GB/s | 59–112 tok/s | 85 | — |
| NVIDIA GeForce RTX 3080 Ti | 12 GB | 912 GB/s | 59–112 tok/s | 85 | $1,199 |
| NVIDIA GeForce RTX 4070 | 12 GB | 504 GB/s | 50–96 tok/s | 85 | $599 |
| NVIDIA GeForce RTX 4070 Super | 12 GB | 504 GB/s | 50–96 tok/s | 85 | $599 |
| NVIDIA GeForce RTX 4070 Ti | 12 GB | 504 GB/s | 50–96 tok/s | 85 | $799 |
| NVIDIA GeForce RTX 5070 | 12 GB | 672 GB/s | 56–116 tok/s | 85 | $549 |
| AMD Radeon RX 6700 XT | 12 GB | 384 GB/s | — | 85 | — |
| AMD Radeon RX 7700 XT | 12 GB | 432 GB/s | 29–60 tok/s | 85 | $449 |
| AMD Radeon RX 9070 GRE | 12 GB | 432 GB/s | 31–64 tok/s | 85 | — |
| NVIDIA GeForce GTX 1080 Ti | 11 GB | 484 GB/s | — | 85 | $699 |
| NVIDIA GeForce RTX 2080 Ti | 11 GB | 616 GB/s | — | 85 | $999 |
| Intel Arc B570 | 10 GB | 380 GB/s | 24–49 tok/s | 83 | $219 |
| NVIDIA GeForce RTX 3080 (10GB) | 10 GB | 760 GB/s | 50–97 tok/s | 83 | $699 |
| NVIDIA GeForce RTX 3060 Ti | 8 GB | 448 GB/s | 32–61 tok/s | 72 | $399 |
| NVIDIA GeForce RTX 3070 | 8 GB | 448 GB/s | 32–61 tok/s | 72 | $499 |
| NVIDIA GeForce RTX 3070 Ti | 8 GB | 608 GB/s | 42–80 tok/s | 72 | $599 |
| NVIDIA GeForce RTX 4060 | 8 GB | 272 GB/s | 29–56 tok/s | 72 | $299 |
| NVIDIA GeForce RTX 4060 Ti 8GB | 8 GB | 288 GB/s | 31–59 tok/s | 72 | $399 |
| NVIDIA GeForce RTX 5050 | 8 GB | 320 GB/s | 30–61 tok/s | 72 | $249 |
| NVIDIA GeForce RTX 5060 | 8 GB | 448 GB/s | 40–83 tok/s | 72 | $299 |
| NVIDIA GeForce RTX 5060 Ti 8GB | 8 GB | 448 GB/s | 40–83 tok/s | 72 | $379 |
| AMD Radeon RX 7600 | 8 GB | 288 GB/s | 20–42 tok/s | 72 | — |
| AMD Radeon RX 9060 XT 8GB | 8 GB | 320 GB/s | 24–49 tok/s | 72 | $299 |
快速选购指南
- 300 美元以下
- RTX 3060 12GB12 GB 显存，可运行所有 7–8B 模型
- 500 美元以下
- RTX 4060 Ti 16GB最佳入门级 16 GB 显卡
- 500–700 美元
- RTX 4070 Super 或 AMD RX 9070 XT
- 1000–1600 美元
- RTX 4090 24GB最快的单张消费级显卡；可运行 Q4_K_M 下的 32B 级模型
- Mac 笔记本
- M3 Pro 36GB 或 M4 Pro安静、省电
- Mac 台式机
- M4 Max 128GB约 96 GB 可用：可运行 Q4_K_M 下的 70B 级模型
速度为 Llama 3.1 8B 在 Q4_K_M 下的值：基于内存带宽屋顶线模型的估算，以区间显示，除非设备页标注为实测。Mac 的内存为整个统一内存池，模型约可使用其中 75%。“可运行”统计目录中 Q4_K_M 权重加运行开销不超过可用内存的模型版本，尚未计入上下文。 方法说明