本地 LLM 的最佳 Mac,就是预算内统一内存最大、且内存总线尽可能快的那一台。2026 年的选择是:入门选 Mac mini M6,性价比选 Mac mini M5 Pro,想从容运行 70B 级模型选 Mac Studio M5 Max,要跑前沿规模的开放权重选 M5 Ultra。
两个决定一切的数字
在 PC 上,模型必须放进 GPU 显存,而消费级显卡的显存上限是 24–32 GB,除非你花几千美元。Apple Silicon 使用统一内存:GPU 与 CPU 共用整个内存池,所以 64 GB 的 Mac 能加载在 PC 上需要多 GPU 组合才能装下的模型。决定结果的是两个数字:
- 统一内存容量——决定你到底能加载哪些模型。
- 内存带宽(GB/s)——决定生成有多快。解码每生成一个 token 都要从内存读取被激活的权重,所以每秒 token 数几乎与带宽成正比。
CPU 核心数和神经引擎规格对解码速度几乎没有影响,不必为它们付费。M5 和 M6 的 GPU 在每个核心里加入了神经加速器,主要加快提示词处理;见下方常见问题。
模型只能用到一部分内存
macOS 允许 GPU 使用约 75% 的统一内存来放置模型及其 KV 缓存,其余留给系统。硬件中心和分析器使用的是同一个数值,因此“16 GB 的 Mac”相当于 12 GB 的模型预算,“64 GB 的 Mac”相当于 48 GB。 这个上限也是 Mac 不会直接拒绝过大模型的原因:它会改用磁盘交换,看起来像卡死。另一个陷阱是购买二手 Intel Mac:省钱之前请先读Intel Mac 能跑什么、不能跑什么。
你需要多少统一内存?
| 统一内存 | 可用于模型 | 运行良好的模型(Q4_K_M) | 达到该档的入门 Mac | 结论 |
|---|---|---|---|---|
| 16 GB | 12.0 GB | Cosmos 3 Nano (11.9 GB), Qwen 3 14B (11.1 GB) | Mac mini M6 16 GB | 入门级:聊天与邮件 |
| 24 GB | 18.0 GB | Ternary Bonsai 2 27B (17.6 GB), Mistral Small 3 (24B) (17.2 GB) | Mac mini M6 24 GB | 预算最佳平衡点 |
| 32 GB | 24.0 GB | Qwen 3.5 35B-A3B (23.8 GB), Nex-N2.5 mini (23.8 GB) | Mac mini M6 32 GB | 舒适的日常主力 |
| 36 GB | 27.0 GB | K2 Horizon MoVA 36B-A4B (25.0 GB), Seed-OSS-36B-Instruct (24.7 GB) | Mac Studio M5 Max 36 GB | 可靠的开发机 |
| 48 GB | 36.0 GB | Command R (35B) (32.7 GB), K2 Horizon MoVA 36B-A4B (25.0 GB) | Mac mini M5 Pro 48 GB | 发烧友的甜点档 |
| 64 GB | 48.0 GB | Qwen 2.5 VL 72B Instruct (47.8 GB), Qwen 2.5 72B Instruct (47.0 GB) | Mac mini M5 Pro 64 GB | 认真做本地 AI |
| 96 GB | 72.0 GB | GPT-OSS 120B (71.6 GB), Llama 4.5 Scout (69.4 GB) | Mac Studio M5 Ultra 96 GB | 可带真实上下文的 70B 级 |
| 128 GB | 96.0 GB | Mistral Medium 3.5 128B (80.9 GB), Devstral-2 123B (77.9 GB) | Mac Studio M5 Max 128 GB | 工作站级 |
| 192 GB | 144 GB | MiniMax M2.7 230B-A10B (143 GB), MiniMax M2.5 230B (143 GB) | Mac Studio M5 Ultra 256 GB | 大型 MoE 领域 |
| 256 GB | 192 GB | MiMo-V2.5 310B (192 GB), MiMo-V2.6-Flash (189 GB) | Mac Studio M5 Ultra 256 GB | 前沿级开放权重 |
| 512 GB | 384 GB | Nemotron 3 Ultra 550B (339 GB), Qwen3-Coder 480B-A35B (MoE) (292 GB) | Mac Studio M5 Ultra 512 GB (已发布未上市) | Mac 上最大的内存配置 |
由共用的显存引擎测算:Q4_K_M 量化下的总参数量、8K 上下文,不卸载到内存。 两点实用提示:量化是这些模型能放下的关键(见量化详解),长上下文会在权重之外再吃掉数 GB,所以做 RAG 或处理长文档时,请在模型大小的基础上多买一档。任何模型在任何 Mac 上的表现都可以在硬件分析器中查看。
M4 vs M5 vs M6:带宽阶梯
在同一代芯片里,档位(基础、Pro、Max、Ultra)远比代际重要,因为档位决定内存总线的宽度。下面的速度与硬件中心为每颗芯片显示的建模区间相同。
| 芯片 | 带宽 | Llama 3.1 8B Q4_K_M(估算) |
|---|---|---|
| Apple M2 Pro | 200 GB/s | 13–26 tok/s |
| Apple M3 Pro | 153 GB/s | 9.7–20 tok/s |
| Apple M2 Max | 400 GB/s | 24–49 tok/s |
| Apple M4 | 120 GB/s | 7.7–16 tok/s |
| Apple M4 Pro | 273 GB/s | 17–35 tok/s |
| Apple M4 Max | 546 GB/s | 31–64 tok/s |
| Apple M5 | 153 GB/s | 9.7–20 tok/s |
| Apple M5 Pro | 307 GB/s | 19–39 tok/s |
| Apple M5 Max | 614 GB/s | 34–71 tok/s |
| Apple M6 | 170 GB/s | 11–22 tok/s |
| Apple M5 Ultra | 1229 GB/s | 59–123 tok/s |
速度与硬件中心为每颗芯片显示的建模区间相同——基于内存带宽屋顶线模型的估算,而非基准测试。 请先看带宽这一列。M6 是苹果首款 2 纳米芯片,在基础档相对 M5 有小幅提升,但仍远低于任何 Pro 或 Max:内存很大的基础芯片能装下大模型,却生成得很慢。真正改变解码速度的是 Pro、Max 和 Ultra 档。
按预算怎么买
下表列出每个推荐机型的统一内存、带宽,以及我们已核实的苹果首发价。下面每张卡片都绑定到这台具体的机器,因此标题里的内存和卡片上的内存不会不一致。苹果在售的全部机型见硬件中心、笔记本视图和AI 主机视图。
| Mac | 统一内存 | 带宽 | 首发价 | 状态 |
|---|---|---|---|---|
| Mac mini M6 16 GB | 16 GB 统一 | 170 GB/s | $899 | 在售 |
| Mac mini M6 24 GB | 24 GB 统一 | 170 GB/s | — | 在售 |
| Mac mini M6 32 GB | 32 GB 统一 | 170 GB/s | — | 在售 |
| MacBook Air 13 M5 24 GB | 24 GB 统一 | 153 GB/s | — | 在售 |
| Mac mini M5 Pro 24 GB | 24 GB 统一 | 307 GB/s | $1,699 | 在售 |
| Mac mini M5 Pro 48 GB | 48 GB 统一 | 307 GB/s | — | 在售 |
| Mac mini M5 Pro 64 GB | 64 GB 统一 | 307 GB/s | — | 在售 |
| Mac Studio M5 Max 36 GB | 36 GB 统一 | 460 GB/s | $2,499 | 在售 |
| Mac Studio M5 Max 128 GB | 128 GB 统一 | 614 GB/s | — | 在售 |
| Mac Studio M5 Ultra 96 GB | 96 GB 统一 | 1229 GB/s | — | 在售 |
| Mac Studio M5 Ultra 256 GB | 256 GB 统一 | 1229 GB/s | — | 在售 |
| Mac Studio M5 Ultra 512 GB | 512 GB 统一 | 1229 GB/s | — | 已发布未上市 |
“—”表示该配置尚无经核实的首发价,请查看苹果的配置器。价格为苹果基础配置的首发价,不是当前零售价。
入门:Mac mini M6,16 GB
目前最便宜的入门选择:2 纳米、170 GB/s、安静且可常开。要说清楚它的上限:16 GB 只能跑 8B 级模型,上下文也有限。适合聊天、摘要和小模型编码助手,更大的模型就不行了。
性价比之选:Mac mini M6,24 GB
24 GB 配置是基础芯片的性价比拐点:它打开了 14–27B 级别,模型在这里不再像玩具。32 GB 选项能为上下文提供更多余量,但不会更快,因为总线没变。
笔记本:MacBook Air M5
无风扇、轻薄,带宽与任何基础版 M5 相同。说句实话:24 或 32 GB 能装下中等规模模型,但持续生成会让无风扇机身发热,而且你为基础芯片的带宽付的是笔记本的价钱。买它是因为你需要笔记本,而不是因为它跑 LLM 划算。
性价比最高:Mac mini M5 Pro,24–64 GB
Pro 芯片的带宽大约是基础版的两倍,并且在小巧的常开机身里最高可达 64 GB。对大多数每天使用本地模型的人来说,这是苹果卖得最划算的一款:配合我们的个人 AI 家庭服务器指南,它还能为你的手机和笔记本提供服务。想要带完整上下文的 32B 级模型,请选 48 GB 或更高。
从容运行 70B:Mac Studio M5 Max
Max 档是 70B 级模型变得从容的地方,128 GB 配置还能同时承载多个模型。作为桌面机器,Studio 提供与 MacBook Pro 相同的芯片,却没有电池和屏幕。
前沿:Mac Studio M5 Ultra
Ultra 档拥有苹果销售的最高带宽和最大的内存池。它能解锁什么,见下一节。
前沿档:128–512 GB
从 128 GB 起,容量不再是你要计算的东西,而是你要花钱买的东西。这里的模型是大型开放权重的混合专家(MoE)模型:每个 token 只读取少数专家,所以带宽压力比参数量显示的要小,但所有专家都必须常驻内存,因此总大小决定模型能否加载。这就是本站一切所依据的显存与带宽之分。
下表列出我们自己模型库中的模型,每个结论都由适配引擎给出。“不行”就是真的不行:例如最大的万亿参数模型,在 Q4_K_M 下连 512 GB 也放不下。
| 模型 | 所需(Q4_K_M,8K) | 128 GB | 192 GB | 256 GB | 512 GB |
|---|---|---|---|---|---|
| GPT-OSS 120B | 71.6 GB | 可运行 | 可运行 | 可运行 | 可运行 |
| Qwen 3.5 122B-A10B | 77.3 GB | 可运行 | 可运行 | 可运行 | 可运行 |
| Qwen 3 235B-A22B (MoE) | 144 GB | 不行 | 不行 | 可运行 | 可运行 |
| DeepSeek V4-Flash | 173 GB | 不行 | 不行 | 勉强 | 可运行 |
| Qwen 3.5 397B-A17B | 245 GB | 不行 | 不行 | 不行 | 可运行 |
| Qwen3-Coder 480B-A35B (MoE) | 292 GB | 不行 | 不行 | 不行 | 可运行 |
| DeepSeek V3.2 671B | 415 GB | 不行 | 不行 | 不行 | 不行 |
| Kimi K2.6 | 605 GB | 不行 | 不行 | 不行 | 不行 |
每一档都按其统一内存的 75% 判断——与本站其他地方的规则一致。MoE 模型需要把全部参数放进内存,尽管每个 token 只读取被激活的专家。 关于这一档,有三点需要知道:
- 512 GB 配置是已发布、未上市。 苹果把带 512 GB 的 Mac Studio M5 Ultra 定在 2026 年 10 月底,媒体报道订单可能推迟。在它真正开卖之前,请按预发布产品对待。
- 集群是苹果的说法,不是我们的实测。 苹果表示,Thunderbolt 5 与 RDMA 可以把多台 Mac Studio 组成共享内存池,四台集群的 AI 推理性能最高可达单台的 3 倍(苹果新闻稿)。我们没有做过测试。
- 先和租用比一比。 512 GB 的 Mac Studio 只有在你大量使用时才划算。我们的本地与云端成本计算器和成本工具会把你的用量与租用 GPU 的小时数做对比。
带宽陷阱
M3 Pro 跑 LLM 比更早的 M2 Pro 还慢。 那一代苹果缩减了内存总线;上面的阶梯里可以看到两者的数值。另外,配了大内存选项的基础芯片永远不是好的 LLM 购买:做本地 AI,二手 M2 Max 永远胜过全新的基础芯片。如果要在加内存和升级芯片档位之间选,就选升级芯片档位。
购买二手:值得买的型号
二手 M1 Max 或 M2 Max 的 Mac Studio(64 GB)(400 GB/s)经常以 1100–1400 美元成交,能以 Q4 运行 70B,是你能买到的最便宜的正经 70B 机器。既然 M6 和 M5 Pro 已经取代了它,二手 M4 Pro 的 Mac mini 仍然是很好的本地 AI 选择。Apple Silicon 没有被挖矿滥用的历史,统一内存也不会像 GPU 的风扇和导热垫那样老化,所以二手 Mac 的风险远低于二手显卡(对比我们的二手显卡指南)。
Mac 还是 PC 整机
配 RTX 5090(32 GB,1792 GB/s)的 PC,在 32 GB 以内的模型上生成速度是任何 Mac 的数倍。Mac 的优势恰好从显存耗尽处开始:到 70B 及以上,PC 需要更多 GPU(见多 GPU 推理),而 Mac 只需要它已有的内存,安静且功耗低得多。每美元速度:PC。每美元和每瓦的模型规模:Mac。
常见问题
在 Mac 上做本地 AI 需要多少内存?
16 GB 是跑 8B 模型的最低要求,24–32 GB 是 14–27B 的性价比甜点,48 GB 覆盖 32B 级,64 GB 及以上才能让 70B 模型变得实用。请在你计划运行的最大模型之上多买一档,因为上下文和多任务都需要空间。
M6 这样的基础芯片够用于本地 LLM 吗?
对小模型够用。M6 可以流畅运行 8B 级模型,24 GB 及以上还能打开 14–27B 级别。但它的总线比任何 Pro 或 Max 都窄得多,所以无论内存多大,更大的模型都会生成得慢。加内存之前,先升级到 Pro 芯片。
M6 的 Mac mini 做本地 AI 够用吗?
作为入门机器够用。它是目前最便宜的 Mac,具备 2 纳米的能效,统一内存最高 32 GB。它的限制是带宽:适合聊天、摘要和小型编码模型,不适合 70B 级工作。请选 24 GB 或 32 GB,而不是 16 GB。
M6 还是 M5 Pro:跑 LLM 选哪款 Mac mini?
预算允许就选 M5 Pro。它的内存带宽大约是 M6 的两倍,最高可达 64 GB,所以能更快地运行更大的模型。只有当你的模型能放进 24–32 GB 且预算紧张时,M6 才是更好的选择。
我需要 Mac Studio,还是 Mac mini 就够了?
配 48–64 GB 的 Mac mini M5 Pro 可以处理大约 32B 到 70B 级的模型。当你需要 Max 或 Ultra 的带宽、超过 64 GB 的内存,或同时运行多个大模型时,再选 Mac Studio。
Mac 真的能运行 70B 模型吗?
能。64 GB 及以上统一内存的 Mac 可以从容运行 Q4 的 Llama 3.3 70B;上面的档位表列出了每种内存大小能装下什么。48 GB 时,70B 模型从技术上讲只能用更低的量化,并且上下文余量很小。
2026 年能跑 70B 模型的 Mac 要花多少钱?
最便宜的全新方案是 64 GB 的 Mac mini M5 Pro;价格请见它在硬件中心的页面。整体最便宜的是二手 M1 或 M2 Max 的 64 GB Mac Studio,2026 年年中的挂牌价大约为 1100–1400 美元。
Mac 能运行 gpt-oss-120b 或前沿开放权重模型吗?
gpt-oss-120b 能放进 96 GB 的可用内存,所以 128 GB 的 Mac 可以运行。更大的 MoE 模型需要 256 GB 或 512 GB;上面的前沿表给出每个结论,而最大的万亿参数模型在 Q4_K_M 下连 512 GB 也放不下。
MacBook Air M5 能用于本地 LLM 吗?
小型和中型模型可以,但有前提。它只有基础芯片的带宽,而且没有风扇,持续生成时会降频。如果你需要能跑 8B–14B 模型的轻薄笔记本就买它;更重的工作请选 MacBook Pro 或台式机。
M5 和 M6 GPU 核心里的神经加速器能加快 LLM 推理吗?
主要加快提示词处理,而不是生成。苹果每个核心里的神经加速器加快受算力限制的预填充阶段,所以长提示词能更早开始回答。逐 token 的解码受内存带宽限制,因此带宽阶梯依然能预测生成速度。
该等下一代芯片,还是现在就买?
决定 LLM 速度的是带宽而不是代际,而高带宽的二手或翻新 Mac 已经非常划算。如果当前配置符合你的模型档位和预算,等待很少值得。例外是 512 GB 的 Mac Studio,它已发布但尚未上市。