Microsoft15BQ4_K_M 下约 10 GB 显存

Phi-4 Reasoning Vision 15B — 显存、速度与本地部署

作者： Jakub Rusinowski · 最后更新：

Microsoft's open multimodal reasoning model: the Phi-4-Reasoning language backbone joined to a SigLIP-2 vision encoder, 15B parameters in all. It takes text and images and decides per request whether to reason step by step before answering. MIT licence; the card states a 16,384-token context.

Phi-4 Reasoning Vision 15B 在 Q4_K_M 下约需 10 GB 显存——量化权重加框架开销，不含 KV 缓存。在 Apple Silicon 上，这部分来自统一内存。

按量化级别的显存与速度

计算基准：NVIDIA RTX 4090 (24 GB)。包含 8K 上下文的 KV 缓存，因此数值高于上方的主数字。

量化显存速度（估算）适配
Q2_K
2.63 bpw
7.4 GB~101 tok/s可运行
Q3_K_M
3.41 bpw
8.9 GB~84 tok/s可运行
Q4_K_M
4.83 bpw
11.6 GB~65 tok/s可运行
Q5_K_M
5.67 bpw
13.2 GB~57 tok/s可运行
Q6_K
6.56 bpw
14.9 GB~51 tok/s可运行
Q8_0
8.50 bpw
18.5 GB~41 tok/s可运行
F16
16.00 bpw
32.7 GB~3 tok/s需卸载

黑色标记 = NVIDIA RTX 4090 (24 GB) 上的可用显存。 估算来自内存带宽屋顶线模型，详见 方法说明页. Phi-4 Reasoning Vision 15B 显存计算器 →

运行 Phi-4 Reasoning Vision 15B

目录中能运行 Phi-4 Reasoning Vision 15B 的最便宜 GPU 是 Intel Arc B580 (12 GB).

购买此硬件 Intel Arc B580 12GB — 12 GB VRAM · 190 W board power立即云端部署 RunPod 上的 RTX 4090 — 低至 $0.34/小时 · 价格核实于 2026-07

或在 Vast.ai 比较，低至 $0.35/小时 (typical low · varies)

作为亚马逊联盟成员，我们从符合条件的购买中获得收入。云 GPU 链接为推荐链接——我们可能获得佣金，您无需额外付费。

联盟营销声明: 本页部分链接为联盟推广链接——如果你通过它们购买，LLM Configurator 可能会获得佣金，而你无需支付任何额外费用。作为亚马逊联盟成员（Amazon Associate），LLM Configurator 会从符合条件的购买中获得收益。
Intel Arc B580 12GB
12 GB VRAM · 190 W board power
2026年价格波动较大——请以当前商品页价格为准。

如何运行 Phi-4 Reasoning Vision 15B

安装 Ollama，然后运行：

ollama run phi-4
Hugging Face 上的权重： microsoft/Phi-4-reasoning-vision-15B ↗

规格

Verified — Checked against the primary source — the model card or the vendor spec page — and corroborated by a second independent source. 尚未确认： context.

参数量
15 Billion
上下文窗口
16,384
架构
Dense transformer (Phi-4-Reasoning) + SigLIP-2 vision encoder, mid-fusion
提供商
Microsoft
许可证
MIT
Availability
Weights downloadable
Practical deployment
Laptop
规格量化
Q4_K_M
系统内存
32 GB
记录更新于
2026-11-11
许可证MIT允许商业使用

Commercial use permitted. No usage restrictions beyond attribution.

限制与注意事项

  • The card states a 16,384-token context; the config allows 32,768 positions. This page uses the card's figure.

另请参阅 Phi-4 (14B)

质量与使用场景

评分由模型作者或独立评测方发布——衡量质量而非吞吐量，并非我们实测。

最适合visionreasoningmathdocuments

我的 GPU 能运行 Phi-4 Reasoning Vision 15B 吗？

Phi-4 Family 的其他尺寸

Phi-4 Reasoning Vision 15B — 常见问题

How much VRAM does Phi-4 Reasoning Vision 15B need?

About 10 GB at Q4_K_M — quantized weights plus framework overhead, before any KV cache. The cache grows with context length and is added on top; the table above folds it in. Apple Silicon counts unified memory toward the same figure.

Does Phi-4 Reasoning Vision 15B run on an RTX 4090 (24 GB)?

Yes. Phi-4 Reasoning Vision 15B needs about 10 GB at Q4_K_M, inside a 24 GB card, at an estimated 65 tokens/sec.

How do I run Phi-4 Reasoning Vision 15B locally?

Install Ollama and run `ollama run phi-4`. That pulls the weights and starts a local OpenAI-compatible endpoint; after the download nothing leaves the machine.

What other sizes does Phi-4 Family come in?

Phi-4 (14B) (9 GB), Phi-4 Reasoning Vision 15B (10 GB). Every size shares the family's training and licence; the larger ones score higher and need proportionally more memory.