排行榜 · 更新于 2026年10月15日

各任务的最佳本地大模型

每个任务都有自己的要求——能力组合、最低上下文、对许可证和延迟的敏感度——我们据此为整个模型库排名。先选任务，再限制到你拥有的显存。

编程159 个模型Qwen3-Coder 8B领先 · 96.3完整排名 →

通用助手159 个模型Qwen 3 8B领先 · 96.1完整排名 →

推理157 个模型Gemma 4 27B ⭐领先 · 98.2完整排名 →

RAG159 个模型Gemma 4 31B领先 · 95.2完整排名 →

智能体54 个模型Ternary Bonsai 27B领先 · 94完整排名 →

写作159 个模型Gemma 3 27B Instruct领先 · 94.2完整排名 →

研究157 个模型Gemma 4 31B领先 · 95.7完整排名 →

数学157 个模型Qwen 3 32B领先 · 100完整排名 →

文档分析159 个模型Gemma 4 31B领先 · 95.2完整排名 →

摘要159 个模型Gemma 4 31B领先 · 94.6完整排名 →

翻译159 个模型GLM-4 9B领先 · 96.1完整排名 →

视觉57 个模型Qwen 3.7 35B-A3B领先 · 95.5完整排名 →

OCR57 个模型Gemma 4 27B ⭐领先 · 93.7完整排名 →

企业助手159 个模型Gemma 4 31B领先 · 96完整排名 →

隐私159 个模型GPT-OSS 20B领先 · 93.4完整排名 →

离线 AI159 个模型Ternary Bonsai 27B领先 · 96.9完整排名 →

网络安全159 个模型Qwen 3.7 35B-A3B领先 · 99.5完整排名 →

微调159 个模型Qwen 3.7 35B-A3B领先 · 92.8完整排名 →

决策模型24 个模型 · 不参与排名:它们返回选择或分数,而不是对话。请按大小与适配性比较。打开指南 →构建请求 →

编程可放入任意大小

已排名 78 个中的 25 个

#	模型	编程评分	Q4 显存	在 RTX 4090 上的速度	能运行它的最便宜 GPU
1	Qwen 3 32B 32B	95.4	20.6 GB	28–53 tok/s	RX 7900 XTX
2	Qwen 3.6 35B-A3B 35B (3B active)	95.2	21.9 GB	160–308 tok/s	RTX 5090
3	Devstral Small 2 24B 24B	94.9	15.3 GB	37–71 tok/s	RX 7900 XT
4	DeepSeek R1 Distill Qwen 32B 32B	94.9	20.1 GB	28–55 tok/s	RX 7900 XTX
5	Gemma 4 31B 31B	94.8	19.5 GB	29–57 tok/s	RX 7900 XTX
6	Ternary Bonsai 27B 27B	94.1	6.6 GB	33–64 tok/s	Intel Arc B570
7	Qwen3.8 27B 27B	93.7	17.6 GB	33–64 tok/s	RX 7900 XT
8	GLM-4.7-Flash 30B-A3B 30B (3B active)	92.8	18.9 GB	133–256 tok/s	RX 7900 XTX
9	North Mini Code 1.0 30B-A3B 30B (3B active)	92.7	18.9 GB	133–256 tok/s	RX 7900 XTX
10	Poolside Laguna XS 2.1 Laguna XS 2.1 33B-A3B 33B (3B active)	92	20.7 GB	132–254 tok/s	RX 7900 XTX
11	Qwen3-Coder-Next (80B-A3B MoE) 80B/3B active	91.3	49.1 GB	—	DGX Spark
12	IBM Granite 4.1 Granite 4.1 8B 8B	91.1	5.6 GB	85–164 tok/s	Intel Arc B570
13	Qwen 3.5 35B-A3B 35B (3B active)	90.9	21.9 GB	132–253 tok/s	RTX 5090
14	Mistral Small 3.2 24B 24B	90.6	15 GB	37–72 tok/s	RX 7900 XT
15	Llama 3.3 70B Instruct 70B	90.6	43.1 GB	—	DGX Spark
16	Magistral Small 24B 24B	90.4	15.3 GB	37–71 tok/s	RX 7900 XT
17	Mistral Small 3.1 24B 24B	90.3	15 GB	38–72 tok/s	RX 7900 XT
18	Cogito v1 32B 32B	90.3	20.1 GB	28–55 tok/s	RX 7900 XTX
19	Nex-N2 mini 35B (3B active)	90.2	21.9 GB	132–253 tok/s	RTX 5090
20	Gemma 3 27B Instruct 27B	90	17.1 GB	28–54 tok/s	RX 7900 XT
21	Ministral 3 14B 14B	89.9	9.3 GB	57–109 tok/s	Intel Arc B580
22	K2 Horizon MoVA 36B-A4B 36B (4B active)	89.4	23.4 GB	—	RTX 5090
23	DeepSeek V4-Flash 284B (13B active)	89.1	172.3 GB	—	M3 Ultra
24	Ternary Bonsai 2 27B 27B	89	6.7 GB	34–66 tok/s	Intel Arc B570
25	Nex-N2.5 mini 35B (3B active)	88.1	21.9 GB	132–253 tok/s	RTX 5090

速度按 NVIDIA GeForce RTX 4090 估算。评分为 0–100 的任务分，来自公开评测和厂商数据，并由我们归一化。方法说明.