简短回答: 先买显存。16 GB 显卡可以轻松运行 14B 级别的模型,24 GB 打开 27B–35B 级别,而 32 GB(RTX 5090)是单张消费级显卡的上限。速度则取决于显存带宽。2026 年价格异常波动,因此本指南按显卡能运行的模型来排序,并把首发指导价(MSRP)与带日期的市场价并列展示。
按显存档位推荐的显卡
每个档位列出仍在新品渠道销售的最便宜的几张卡(按首发指导价)、显存带宽最高的一张,以及在有意义时列出一款二手或已停产的选择。“能放下的最大模型”由与我们的 GPU 兼容性检查器相同的引擎计算,因此与那里看到的结果一致。
8–11 GB
能放下的最大模型: GLM-4 9B (7.4 GB, Q4_K_M)
| 显卡 | 显存 | 带宽 | 功耗 | 首发指导价 | 市场价 |
|---|---|---|---|---|---|
| Intel Arc B570 | 10 GB | 380 GB/s | 150 W | $219 | — |
| NVIDIA GeForce RTX 5050 | 8 GB | 320 GB/s | 130 W | $249 | — |
| NVIDIA GeForce RTX 3080 (10GB) | 10 GB | 760 GB/s | 320 W | $699 | — |
12–15 GB
能放下的最大模型: Cosmos 3 Nano (11.9 GB, Q4_K_M)
| 显卡 | 显存 | 带宽 | 功耗 | 首发指导价 | 市场价 |
|---|---|---|---|---|---|
| Intel Arc B580 | 12 GB | 456 GB/s | 190 W | $249 | — |
| NVIDIA GeForce RTX 3060 (12GB) | 12 GB | 360 GB/s | 170 W | $329 | — |
| NVIDIA GeForce RTX 5070 | 12 GB | 672 GB/s | 250 W | $549 | — |
16–23 GB
能放下的最大模型: OLMo 2 13B Instruct (15.8 GB, Q4_K_M)
| 显卡 | 显存 | 带宽 | 功耗 | 首发指导价 | 市场价 |
|---|---|---|---|---|---|
| AMD Radeon RX 9060 XT 16GB | 16 GB | 320 GB/s | 160 W | $349 | — |
| NVIDIA GeForce RTX 5060 Ti 16GB | 16 GB | 448 GB/s | 180 W | $429 | $805 · 2026-09-29 |
| NVIDIA GeForce RTX 5080 | 16 GB | 960 GB/s | 360 W | $999 | — |
24–31 GB
能放下的最大模型: Qwen 3.5 35B-A3B (23.8 GB, Q4_K_M)
| 显卡 | 显存 | 带宽 | 功耗 | 首发指导价 | 市场价 |
|---|---|---|---|---|---|
| AMD Radeon RX 7900 XTX | 24 GB | 960 GB/s | 355 W | $999 | — |
| NVIDIA GeForce RTX 3090 | 24 GB | 936 GB/s | 350 W | $1,499 | — |
| NVIDIA GeForce RTX 4090 | 24 GB | 1008 GB/s | 450 W | $1,599 | — |
32 GB+
能放下的最大模型: K2 Horizon MoVA 36B-A4B (25.0 GB, Q4_K_M)
| 显卡 | 显存 | 带宽 | 功耗 | 首发指导价 | 市场价 |
|---|---|---|---|---|---|
| NVIDIA GeForce RTX 5090 | 32 GB | 1792 GB/s | 575 W | $1,999 | $4,700 · 2026-09-29 |
首发指导价(MSRP)是发布时的价格,不会改变。市场价是该卡通常的成交价,并标注核查日期;2026 年的内存短缺使部分显卡价格远高于指导价。
如何选择
2026 年价格:首发指导价与市场价
首发指导价是厂商发布时的定价,永远不变。市场价是现在真实的售价,而 2026 年由于内存短缺,两者已经分道扬镳。以下数据核查于 2026 年 9 月 29 日,之后还会变动:
- RTX 5060 Ti 16GB: 新卡约 805 美元(中位数),比 429 美元的首发价高出约 88%(WCCFTech、TweakTown)。
- RTX 5090: 新卡约 4,300 至 5,000 美元,而首发价为 1,999 美元,部分报价更高(TechPowerUp、Tech Insider)。
- RTX 50 Super: 尚未上市。据报道,由于 3 GB GDDR7 颗粒稀缺且昂贵,NVIDIA 已无限期推迟该系列;关于时间的说法互相矛盾,因此不要围绕它来安排购买(TweakTown、KitGuru)。
- AMD Radeon RX 9000: 2026 年 AMD 上调了官方价格(WCCFTech、TweakTown)。
- 二手 RTX 3090: 各价格追踪站的数据相差约三分之一,因此我们不发布具体数字。购买前请对比近期的成交记录。
经验法则:价格远高于首发指导价的显卡,很少是按每 GB 显存计算最划算的选择。选购前,请按每 GB 价格比较 16 GB 与 24 GB 两个档位。
在哪里购买
以上档位指向这些显卡。链接指向亚马逊搜索结果,因此你看到的是实时价格和库存,而不是我们手写的数字。我们可能获得佣金,你无需额外付费。
8 GB 档
16 GB 档
24 GB 档
32 GB 档
统一内存与迷你主机
超越单张 GPU:统一内存与迷你主机
如果想运行超过 32 GB 的模型,拥有大容量统一内存的机器往往比堆叠多张显卡更合适,代价是每美元的显存带宽低于高速独立显卡。
常见问题
本地大模型需要多少显存?
16 GB 是实用的起点:可以在 Q4 下轻松运行 14B 级别的模型。24 GB 可运行 27B 到 35B 的模型,32 GB 则为更长上下文留出余量。请用显存需求指南来估算你想运行的具体模型。
二手 RTX 3090 还值得买吗?
若想以最低成本获得 24 GB 显存,通常值得,因为对本地大模型而言,24 GB 比显卡的年份更重要。目前二手价格波动较大,请对比近期成交记录,并在购买前确认卖家的退货条款。
应该等 RTX 50 Super 吗?
不用。据报道它已被无限期推迟,且时间说法互相矛盾,因此不要围绕它来安排购买。请按今天需要的显存档位购买。
本地大模型用 AMD 还是 NVIDIA 更好?
两者都可行。NVIDIA 的软件支持最广,风险更低。AMD 值得按每美元显存来比较。购买前请确认你的运行环境支持该显卡,并优先比较显存与显存带宽。
要估算某个具体模型,请使用VRAM 计算器:查看每种量化和上下文长度所需的显存。