模型	显存	在 Intel Arc B570 上的速度（估算）	评分
Qwen 2.5 14B Instruct Qwen 2.5 Family · Q4_K_M	8.5 GB	—	95
Qwen 3 14B Qwen 3 · Q4_K_M	8.9 GB	—	94
DeepSeek R1 Distill Qwen 14B DeepSeek R1 · Q4_K_M	8.5 GB	~23 tok/s	92
Phi-4 (14B) Phi-4 Family · Q4_K_M	8.5 GB	—	92
Granite 3.0 8B Instruct Granite 3.0 · Q4_K_M	4.8 GB	~36 tok/s	90
Ternary Bonsai 27B Bonsai 27B · Ternary (1.58-bit, ~1.71 bpw)	5.8 GB	~30 tok/s	90
Qwen 2.5 7B Instruct Qwen 2.5 Family · Q4_K_M	4.6 GB	~40 tok/s	89
Qwen 3 8B Qwen 3 · Q4_K_M	5 GB	~35 tok/s	89
DeepSeek R1 Distill Llama 8B DeepSeek R1 · Q4_K_M	4.8 GB	~36 tok/s	89
Mistral NeMo 12B Mistral Family · Q4_K_M	7.2 GB	~26 tok/s	88
Gemma 3 12B Instruct Gemma 3 · Q4_K_M	7.2 GB	~26 tok/s	87
InternLM 3 8B Instruct InternLM 3 · Q4_K_M	5.3 GB	~35 tok/s	86
Qwen 3.5 9B Qwen 3.5 · Q4_K_M	5.4 GB	~35 tok/s	86
1-bit Bonsai 27B Bonsai 27B · 1-bit (binary, ~1.125 bpw)	3.8 GB	~41 tok/s	86
Yi 1.5 9B Chat Yi 1.5 Family · Q4_K_M	5.3 GB	~34 tok/s	85

12 GB 能解锁什么

需要更高一档显存的最强模型。

10 GB 显存的硬件

Qwen 2.5 Family, Qwen 3, DeepSeek R1, Phi-4 Family, Granite 3.0 all fit in 10 GB VRAM.

Intel Arc B570, NVIDIA GeForce RTX 3080 (10GB), NVIDIA GeForce GTX 1080 Ti, NVIDIA GeForce RTX 2080 Ti.

显存	可放下	综合最佳	能放下的最大模型
4 GB	39	Shieldstral 1.0 3B	Gemma 3 4B Instruct · 2.4 GB
6 GB	67	Granite 3.0 8B Instruct	Qwen 2.5 VL 7B Instruct · 5 GB
8 GB	88	Granite 3.0 8B Instruct	Falcon 3 10B Instruct · 6.2 GB
10 GB	101	Qwen 2.5 14B Instruct	Qwen 3 14B · 8.9 GB
12 GB	103	Qwen 2.5 14B Instruct	StarCoder 2 15B · 9.4 GB
16 GB	113	Qwen 2.5 14B Instruct	Mistral Small 3 (24B) · 14.5 GB
20 GB	131	Qwen 2.5 14B Instruct	Gemma 4 31B · 18.7 GB
24 GB	156	Qwen 2.5 Coder 32B	Qwen 3.6 35B-A3B · 21.1 GB
32 GB	157	Qwen 2.5 Coder 32B	Qwen 3.6 35B-A3B · 21.1 GB
48 GB	163	Qwen 2.5 72B Instruct	Qwen 2.5 VL 72B Instruct · 44.3 GB
64 GB	168	Qwen 2.5 72B Instruct	Qwen3-Coder-Next (80B-A3B MoE) · 48.3 GB
80 GB	178	Qwen 2.5 72B Instruct	Qwen 3.5 122B-A10B · 73.7 GB

作为亚马逊联盟成员，我们从符合条件的购买中获得收入。云 GPU 链接为推荐链接——我们可能获得佣金，您无需额外付费。