模型	显存	在 RTX 5050 上的速度（估算）	评分
Granite 3.0 8B Instruct Granite 3.0 · Q4_K_M	4.8 GB	~45 tok/s	90
Ternary Bonsai 27B Bonsai 27B · Ternary (1.58-bit, ~1.71 bpw)	5.8 GB	~37 tok/s	90
Qwen 2.5 7B Instruct Qwen 2.5 Family · Q4_K_M	4.6 GB	~50 tok/s	89
Qwen 3 8B Qwen 3 · Q4_K_M	5 GB	~44 tok/s	89
DeepSeek R1 Distill Llama 8B DeepSeek R1 · Q4_K_M	4.8 GB	~46 tok/s	89
InternLM 3 8B Instruct InternLM 3 · Q4_K_M	5.3 GB	~44 tok/s	86
Qwen 3.5 9B Qwen 3.5 · Q4_K_M	5.4 GB	~44 tok/s	86
1-bit Bonsai 27B Bonsai 27B · 1-bit (binary, ~1.125 bpw)	3.8 GB	~52 tok/s	86
Yi 1.5 9B Chat Yi 1.5 Family · Q4_K_M	5.3 GB	~43 tok/s	85
Falcon 3 10B Instruct Falcon 3 · Q4_K_M	6.2 GB	~36 tok/s	85
GLM-4 9B GLM-4.7 / GLM-Z1 · Q4_K_M	5.4 GB	~41 tok/s	85
Gemma 2 9B IT Gemma 2 Family · Q4_K_M	5.4 GB	~36 tok/s	84
Llama 3.1 8B Instruct Llama 3.1 Family · Q4_K_M	4.8 GB	~46 tok/s	83
Granite 4.1 8B IBM Granite 4.1 · Q4_K_M	4.8 GB	~45 tok/s	83
Shieldstral 1.0 3B Shieldstral · Q4_K_M	2.3 GB	~81 tok/s	83

10 GB 能解锁什么

需要更高一档显存的最强模型。

8 GB 显存的硬件

Granite 3.0, Bonsai 27B, Qwen 2.5 Family, Qwen 3, DeepSeek R1 all fit in 8 GB VRAM.

NVIDIA GeForce RTX 5050, NVIDIA GeForce RTX 5060, NVIDIA GeForce RTX 4060, AMD Radeon RX 9060 XT 8GB.

显存	可放下	综合最佳	能放下的最大模型
4 GB	39	Shieldstral 1.0 3B	Gemma 3 4B Instruct · 2.4 GB
6 GB	67	Granite 3.0 8B Instruct	Qwen 2.5 VL 7B Instruct · 5 GB
8 GB	88	Granite 3.0 8B Instruct	Falcon 3 10B Instruct · 6.2 GB
10 GB	101	Qwen 2.5 14B Instruct	Qwen 3 14B · 8.9 GB
12 GB	103	Qwen 2.5 14B Instruct	StarCoder 2 15B · 9.4 GB
16 GB	113	Qwen 2.5 14B Instruct	Mistral Small 3 (24B) · 14.5 GB
20 GB	131	Qwen 2.5 14B Instruct	Gemma 4 31B · 18.7 GB
24 GB	156	Qwen 2.5 Coder 32B	Qwen 3.6 35B-A3B · 21.1 GB
32 GB	157	Qwen 2.5 Coder 32B	Qwen 3.6 35B-A3B · 21.1 GB
48 GB	163	Qwen 2.5 72B Instruct	Qwen 2.5 VL 72B Instruct · 44.3 GB
64 GB	168	Qwen 2.5 72B Instruct	Qwen3-Coder-Next (80B-A3B MoE) · 48.3 GB
80 GB	178	Qwen 2.5 72B Instruct	Qwen 3.5 122B-A10B · 73.7 GB

作为亚马逊联盟成员，我们从符合条件的购买中获得收入。云 GPU 链接为推荐链接——我们可能获得佣金，您无需额外付费。