RTX 5090 和 RTX 4090 代表了 NVIDIA 两代最强消费级 GPU。如果你正在纠结要不要升级——或搭建一台新的 AI 工作站——本指南给你诚实的数字。
快速总结
| RTX 4090 | RTX 5090 | |
|---|---|---|
| 显存 | 24 GB GDDR6X | 32 GB GDDR7 |
| 内存带宽 | 1,008 GB/s | 1,792 GB/s |
| TDP | 450W | 575W |
| 首发建议零售价 | $1,599 | $1,999 |
| Llama 3.1 8B Q8 | 165 t/s | 213 t/s |
| Qwen 3 32B Q4 | 45 t/s | 61 t/s |
| 单卡最大模型 | ~24B (Q4) | ~32B (Q4) |
为何 RTX 5090 在纸面上胜出
RTX 5090 使用 GDDR7 内存，带宽 1,792 GB/s——比 RTX 4090 的 GDDR6X（1,008 GB/s）高 78%。对 LLM 推理而言，内存带宽是首要瓶颈，而非算力。这解释了为何 token/秒几乎与带宽成线性关系。
基准测试结果（Q4_K_M，Ollama，Windows 11）：
- Llama 3.1 8B：RTX 5090 = 213 t/s vs RTX 4090 = 165 t/s（+29%）
- Qwen 3 14B：RTX 5090 = 148 t/s vs RTX 4090 = 98 t/s（+51%）
- Llama 4 Scout：RTX 5090 = 175 t/s vs RTX 4090 = 92 t/s（+90%）
- Qwen 3 32B：RTX 5090 = 61 t/s vs RTX 4090 = 45 t/s（+36%）
显存优势：32 GB 改变了可能性
RTX 4090 的 24 GB 显存无法从容装下 32B 模型——你需要激进的量化（IQ2–IQ3），而这会降低质量。RTX 5090 的 32 GB 显存能以 Q4_K_M 装下 32B 模型，还余 4+ GB 给上下文。
| 模型 | RTX 4090 | RTX 5090 |
|---|---|---|
| Llama 3.1 8B Q8 | ✅ 装得下 | ✅ 装得下 |
| Qwen 3 14B Q4 | ✅ 装得下 | ✅ 装得下 |
| DeepSeek R1 32B Q4 | ⚠️ 紧张（22GB，剩 2GB） | ✅ 从容 |
| Llama 4 Maverick | ❌ 太大 | ⚠️ 部分 |
| Llama 3.3 70B Q4 | ❌ 太大（需 42GB） | ❌ 太大 |
功耗与噪音
RTX 5090 峰值功耗 575W——比 RTX 4090 多 125W。按每天 8 小时算，电费每月多 5–8 美元（美国均值）。噪音相当——两者都需要大型三风扇散热器。
你该从 RTX 4090 升级吗？
升级，如果：
- 你经常运行 20–32B 模型并感到显存压力
- 速度对你重要（你会注意到 29–90% 的提升）
- 你正在搭建新系统且预算能到 1,999 美元
不要升级，如果：
- 你的工作负载是 7–14B 模型（4090 已经足够快）
- 你最近才买了 4090（性能提升不足以证明差价合理）
- 功耗是你的顾虑
RTX 3090 替代方案
如果你从中端卡升级过来，可以考虑 RTX 3090（24 GB，二手 400–600 美元可得）。它以 RTX 4090 一小部分的价格提供了相同的 24 GB 显存，速度约为其推理速度的 70%。
结论
RTX 5090 是 2026 年本地 AI 最好的单块消费级 GPU。但除非你确实需要 32 GB 显存或最大吞吐量，否则对 7–14B 模型工作负载而言，RTX 4090（AMD 用户则是 RX 7900 XTX）仍是更具性价比的选择。
要估算某个具体模型，请使用VRAM 计算器：查看每种量化和上下文长度所需的显存。