按显存划分的最佳本地大模型
选择你的显存大小。我们按任务为推荐量化下能放得下的所有收录模型排名，并展示升一档能解锁什么。
各档位一览
| 显存 | 可放下 | 综合最佳 | 能放下的最大模型 |
|---|---|---|---|
| 4 GB | 39 | Shieldstral 1.0 3B | Gemma 3 4B Instruct · 2.4 GB |
| 6 GB | 67 | Granite 3.0 8B Instruct | Qwen 2.5 VL 7B Instruct · 5 GB |
| 8 GB | 88 | Granite 3.0 8B Instruct | Falcon 3 10B Instruct · 6.2 GB |
| 10 GB | 101 | Qwen 2.5 14B Instruct | Qwen 3 14B · 8.9 GB |
| 12 GB | 103 | Qwen 2.5 14B Instruct | StarCoder 2 15B · 9.4 GB |
| 16 GB | 113 | Qwen 2.5 14B Instruct | Mistral Small 3 (24B) · 14.5 GB |
| 20 GB | 131 | Qwen 2.5 14B Instruct | Gemma 4 31B · 18.7 GB |
| 24 GB | 156 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 32 GB | 157 | Qwen 2.5 Coder 32B | Qwen 3.6 35B-A3B · 21.1 GB |
| 48 GB | 163 | Qwen 2.5 72B Instruct | Qwen 2.5 VL 72B Instruct · 44.3 GB |
| 64 GB | 168 | Qwen 2.5 72B Instruct | Qwen3-Coder-Next (80B-A3B MoE) · 48.3 GB |
| 80 GB | 178 | Qwen 2.5 72B Instruct | Qwen 3.5 122B-A10B · 73.7 GB |