本地 LLM 的最佳 Mac(2026):统一内存、带宽与真正能跑什么

作者: Jakub Rusinowski最后更新 8 分钟阅读Beginner
联盟营销声明: 本页部分链接为联盟推广链接——如果你通过它们购买,LLM Configurator 可能会获得佣金,而你无需支付任何额外费用。作为亚马逊联盟成员(Amazon Associate),LLM Configurator 会从符合条件的购买中获得收益。

本地 LLM 的最佳 Mac,就是预算内统一内存最大、且内存总线尽可能快的那一台。2026 年的选择是:入门选 Mac mini M6,性价比选 Mac mini M5 Pro,想从容运行 70B 级模型选 Mac Studio M5 Max,要跑前沿规模的开放权重选 M5 Ultra。

两个决定一切的数字

在 PC 上,模型必须放进 GPU 显存,而消费级显卡的显存上限是 24–32 GB,除非你花几千美元。Apple Silicon 使用统一内存:GPU 与 CPU 共用整个内存池,所以 64 GB 的 Mac 能加载在 PC 上需要多 GPU 组合才能装下的模型。决定结果的是两个数字:

  1. 统一内存容量——决定你到底能加载哪些模型。
  2. 内存带宽(GB/s)——决定生成有多快。解码每生成一个 token 都要从内存读取被激活的权重,所以每秒 token 数几乎与带宽成正比。

CPU 核心数和神经引擎规格对解码速度几乎没有影响,不必为它们付费。M5 和 M6 的 GPU 在每个核心里加入了神经加速器,主要加快提示词处理;见下方常见问题。

模型只能用到一部分内存

macOS 允许 GPU 使用约 75% 的统一内存来放置模型及其 KV 缓存,其余留给系统。硬件中心和分析器使用的是同一个数值,因此“16 GB 的 Mac”相当于 12 GB 的模型预算,“64 GB 的 Mac”相当于 48 GB。 这个上限也是 Mac 不会直接拒绝过大模型的原因:它会改用磁盘交换,看起来像卡死。另一个陷阱是购买二手 Intel Mac:省钱之前请先读Intel Mac 能跑什么、不能跑什么。

你需要多少统一内存?

下表由与硬件中心和显存计算器相同的引擎计算,因此不会与它们出现偏差。“入门 Mac”一列链接到该机型自己的页面。

统一内存可用于模型运行良好的模型(Q4_K_M)达到该档的入门 Mac结论
16 GB12.0 GBCosmos 3 Nano (11.9 GB), Qwen 3 14B (11.1 GB)Mac mini M6 16 GB入门级:聊天与邮件
24 GB18.0 GBTernary Bonsai 2 27B (17.6 GB), Mistral Small 3 (24B) (17.2 GB)Mac mini M6 24 GB预算最佳平衡点
32 GB24.0 GBQwen 3.5 35B-A3B (23.8 GB), Nex-N2.5 mini (23.8 GB)Mac mini M6 32 GB舒适的日常主力
36 GB27.0 GBK2 Horizon MoVA 36B-A4B (25.0 GB), Seed-OSS-36B-Instruct (24.7 GB)Mac Studio M5 Max 36 GB可靠的开发机
48 GB36.0 GBCommand R (35B) (32.7 GB), K2 Horizon MoVA 36B-A4B (25.0 GB)Mac mini M5 Pro 48 GB发烧友的甜点档
64 GB48.0 GBQwen 2.5 VL 72B Instruct (47.8 GB), Qwen 2.5 72B Instruct (47.0 GB)Mac mini M5 Pro 64 GB认真做本地 AI
96 GB72.0 GBGPT-OSS 120B (71.6 GB), Llama 4.5 Scout (69.4 GB)Mac Studio M5 Ultra 96 GB可带真实上下文的 70B 级
128 GB96.0 GBMistral Medium 3.5 128B (80.9 GB), Devstral-2 123B (77.9 GB)Mac Studio M5 Max 128 GB工作站级
192 GB144 GBMiniMax M2.7 230B-A10B (143 GB), MiniMax M2.5 230B (143 GB)Mac Studio M5 Ultra 256 GB大型 MoE 领域
256 GB192 GBMiMo-V2.5 310B (192 GB), MiMo-V2.6-Flash (189 GB)Mac Studio M5 Ultra 256 GB前沿级开放权重
512 GB384 GBNemotron 3 Ultra 550B (339 GB), Qwen3-Coder 480B-A35B (MoE) (292 GB)Mac Studio M5 Ultra 512 GB (已发布未上市)Mac 上最大的内存配置

由共用的显存引擎测算:Q4_K_M 量化下的总参数量、8K 上下文,不卸载到内存。 两点实用提示:量化是这些模型能放下的关键(见量化详解),长上下文会在权重之外再吃掉数 GB,所以做 RAG 或处理长文档时,请在模型大小的基础上多买一档。任何模型在任何 Mac 上的表现都可以在硬件分析器中查看。

M4 vs M5 vs M6:带宽阶梯

在同一代芯片里,档位(基础、Pro、Max、Ultra)远比代际重要,因为档位决定内存总线的宽度。下面的速度与硬件中心为每颗芯片显示的建模区间相同。

芯片带宽Llama 3.1 8B Q4_K_M(估算)
Apple M2 Pro200 GB/s13–26 tok/s
Apple M3 Pro153 GB/s9.7–20 tok/s
Apple M2 Max400 GB/s24–49 tok/s
Apple M4120 GB/s7.7–16 tok/s
Apple M4 Pro273 GB/s17–35 tok/s
Apple M4 Max546 GB/s31–64 tok/s
Apple M5153 GB/s9.7–20 tok/s
Apple M5 Pro307 GB/s19–39 tok/s
Apple M5 Max614 GB/s34–71 tok/s
Apple M6170 GB/s11–22 tok/s
Apple M5 Ultra1229 GB/s59–123 tok/s

速度与硬件中心为每颗芯片显示的建模区间相同——基于内存带宽屋顶线模型的估算,而非基准测试。 请先看带宽这一列。M6 是苹果首款 2 纳米芯片,在基础档相对 M5 有小幅提升,但仍远低于任何 Pro 或 Max:内存很大的基础芯片能装下大模型,却生成得很慢。真正改变解码速度的是 Pro、Max 和 Ultra 档。

按预算怎么买

下表列出每个推荐机型的统一内存、带宽,以及我们已核实的苹果首发价。下面每张卡片都绑定到这台具体的机器,因此标题里的内存和卡片上的内存不会不一致。苹果在售的全部机型见硬件中心、笔记本视图和AI 主机视图。

Mac统一内存带宽首发价状态
Mac mini M6 16 GB16 GB 统一170 GB/s$899在售
Mac mini M6 24 GB24 GB 统一170 GB/s—在售
Mac mini M6 32 GB32 GB 统一170 GB/s—在售
MacBook Air 13 M5 24 GB24 GB 统一153 GB/s—在售
Mac mini M5 Pro 24 GB24 GB 统一307 GB/s$1,699在售
Mac mini M5 Pro 48 GB48 GB 统一307 GB/s—在售
Mac mini M5 Pro 64 GB64 GB 统一307 GB/s—在售
Mac Studio M5 Max 36 GB36 GB 统一460 GB/s$2,499在售
Mac Studio M5 Max 128 GB128 GB 统一614 GB/s—在售
Mac Studio M5 Ultra 96 GB96 GB 统一1229 GB/s—在售
Mac Studio M5 Ultra 256 GB256 GB 统一1229 GB/s—在售
Mac Studio M5 Ultra 512 GB512 GB 统一1229 GB/s—已发布未上市

“—”表示该配置尚无经核实的首发价,请查看苹果的配置器。价格为苹果基础配置的首发价,不是当前零售价。

入门:Mac mini M6,16 GB

目前最便宜的入门选择:2 纳米、170 GB/s、安静且可常开。要说清楚它的上限:16 GB 只能跑 8B 级模型,上下文也有限。适合聊天、摘要和小模型编码助手,更大的模型就不行了。

Apple Mac mini (M6, 16 GB)
16 GB unified memory · 170 GB/s
2026年价格波动较大——请以当前商品页价格为准。

性价比之选:Mac mini M6,24 GB

24 GB 配置是基础芯片的性价比拐点:它打开了 14–27B 级别,模型在这里不再像玩具。32 GB 选项能为上下文提供更多余量,但不会更快,因为总线没变。

Apple Mac mini (M6, 24 GB)
24 GB unified memory · 170 GB/s
2026年价格波动较大——请以当前商品页价格为准。

笔记本:MacBook Air M5

无风扇、轻薄,带宽与任何基础版 M5 相同。说句实话:24 或 32 GB 能装下中等规模模型,但持续生成会让无风扇机身发热,而且你为基础芯片的带宽付的是笔记本的价钱。买它是因为你需要笔记本,而不是因为它跑 LLM 划算。

Apple MacBook Air 13-inch (M5, 24 GB)
24 GB unified memory · 153 GB/s
2026年价格波动较大——请以当前商品页价格为准。

性价比最高:Mac mini M5 Pro,24–64 GB

Pro 芯片的带宽大约是基础版的两倍,并且在小巧的常开机身里最高可达 64 GB。对大多数每天使用本地模型的人来说,这是苹果卖得最划算的一款:配合我们的个人 AI 家庭服务器指南,它还能为你的手机和笔记本提供服务。想要带完整上下文的 32B 级模型,请选 48 GB 或更高。

Apple Mac mini (M5 Pro, 48 GB)
48 GB unified memory · 307 GB/s
2026年价格波动较大——请以当前商品页价格为准。

从容运行 70B:Mac Studio M5 Max

Max 档是 70B 级模型变得从容的地方,128 GB 配置还能同时承载多个模型。作为桌面机器,Studio 提供与 MacBook Pro 相同的芯片,却没有电池和屏幕。

Apple Mac Studio (M5 Max 40-core GPU, 128 GB)
128 GB unified memory · 614 GB/s
2026年价格波动较大——请以当前商品页价格为准。

前沿:Mac Studio M5 Ultra

Ultra 档拥有苹果销售的最高带宽和最大的内存池。它能解锁什么,见下一节。

Apple Mac Studio (M5 Ultra, 256 GB)
256 GB unified memory · 1229 GB/s
2026年价格波动较大——请以当前商品页价格为准。

前沿档:128–512 GB

从 128 GB 起,容量不再是你要计算的东西,而是你要花钱买的东西。这里的模型是大型开放权重的混合专家(MoE)模型:每个 token 只读取少数专家,所以带宽压力比参数量显示的要小,但所有专家都必须常驻内存,因此总大小决定模型能否加载。这就是本站一切所依据的显存与带宽之分。

下表列出我们自己模型库中的模型,每个结论都由适配引擎给出。“不行”就是真的不行:例如最大的万亿参数模型,在 Q4_K_M 下连 512 GB 也放不下。

模型所需(Q4_K_M,8K)128 GB192 GB256 GB512 GB
GPT-OSS 120B71.6 GB可运行可运行可运行可运行
Qwen 3.5 122B-A10B77.3 GB可运行可运行可运行可运行
Qwen 3 235B-A22B (MoE)144 GB不行不行可运行可运行
DeepSeek V4-Flash173 GB不行不行勉强可运行
Qwen 3.5 397B-A17B245 GB不行不行不行可运行
Qwen3-Coder 480B-A35B (MoE)292 GB不行不行不行可运行
DeepSeek V3.2 671B415 GB不行不行不行不行
Kimi K2.6605 GB不行不行不行不行

每一档都按其统一内存的 75% 判断——与本站其他地方的规则一致。MoE 模型需要把全部参数放进内存,尽管每个 token 只读取被激活的专家。 关于这一档,有三点需要知道:

  • 512 GB 配置是已发布、未上市。 苹果把带 512 GB 的 Mac Studio M5 Ultra 定在 2026 年 10 月底,媒体报道订单可能推迟。在它真正开卖之前,请按预发布产品对待。
  • 集群是苹果的说法,不是我们的实测。 苹果表示,Thunderbolt 5 与 RDMA 可以把多台 Mac Studio 组成共享内存池,四台集群的 AI 推理性能最高可达单台的 3 倍(苹果新闻稿)。我们没有做过测试。
  • 先和租用比一比。 512 GB 的 Mac Studio 只有在你大量使用时才划算。我们的本地与云端成本计算器和成本工具会把你的用量与租用 GPU 的小时数做对比。

带宽陷阱

M3 Pro 跑 LLM 比更早的 M2 Pro 还慢。 那一代苹果缩减了内存总线;上面的阶梯里可以看到两者的数值。另外,配了大内存选项的基础芯片永远不是好的 LLM 购买:做本地 AI,二手 M2 Max 永远胜过全新的基础芯片。如果要在加内存和升级芯片档位之间选,就选升级芯片档位。

购买二手:值得买的型号

二手 M1 Max 或 M2 Max 的 Mac Studio(64 GB)(400 GB/s)经常以 1100–1400 美元成交,能以 Q4 运行 70B,是你能买到的最便宜的正经 70B 机器。既然 M6 和 M5 Pro 已经取代了它,二手 M4 Pro 的 Mac mini 仍然是很好的本地 AI 选择。Apple Silicon 没有被挖矿滥用的历史,统一内存也不会像 GPU 的风扇和导热垫那样老化,所以二手 Mac 的风险远低于二手显卡(对比我们的二手显卡指南)。

Mac 还是 PC 整机

配 RTX 5090(32 GB,1792 GB/s)的 PC,在 32 GB 以内的模型上生成速度是任何 Mac 的数倍。Mac 的优势恰好从显存耗尽处开始:到 70B 及以上,PC 需要更多 GPU(见多 GPU 推理),而 Mac 只需要它已有的内存,安静且功耗低得多。每美元速度:PC。每美元和每瓦的模型规模:Mac。

常见问题

在 Mac 上做本地 AI 需要多少内存?

16 GB 是跑 8B 模型的最低要求,24–32 GB 是 14–27B 的性价比甜点,48 GB 覆盖 32B 级,64 GB 及以上才能让 70B 模型变得实用。请在你计划运行的最大模型之上多买一档,因为上下文和多任务都需要空间。

M6 这样的基础芯片够用于本地 LLM 吗?

对小模型够用。M6 可以流畅运行 8B 级模型,24 GB 及以上还能打开 14–27B 级别。但它的总线比任何 Pro 或 Max 都窄得多,所以无论内存多大,更大的模型都会生成得慢。加内存之前,先升级到 Pro 芯片。

M6 的 Mac mini 做本地 AI 够用吗?

作为入门机器够用。它是目前最便宜的 Mac,具备 2 纳米的能效,统一内存最高 32 GB。它的限制是带宽:适合聊天、摘要和小型编码模型,不适合 70B 级工作。请选 24 GB 或 32 GB,而不是 16 GB。

M6 还是 M5 Pro:跑 LLM 选哪款 Mac mini?

预算允许就选 M5 Pro。它的内存带宽大约是 M6 的两倍,最高可达 64 GB,所以能更快地运行更大的模型。只有当你的模型能放进 24–32 GB 且预算紧张时,M6 才是更好的选择。

我需要 Mac Studio,还是 Mac mini 就够了?

配 48–64 GB 的 Mac mini M5 Pro 可以处理大约 32B 到 70B 级的模型。当你需要 Max 或 Ultra 的带宽、超过 64 GB 的内存,或同时运行多个大模型时,再选 Mac Studio。

Mac 真的能运行 70B 模型吗?

能。64 GB 及以上统一内存的 Mac 可以从容运行 Q4 的 Llama 3.3 70B;上面的档位表列出了每种内存大小能装下什么。48 GB 时,70B 模型从技术上讲只能用更低的量化,并且上下文余量很小。

2026 年能跑 70B 模型的 Mac 要花多少钱?

最便宜的全新方案是 64 GB 的 Mac mini M5 Pro;价格请见它在硬件中心的页面。整体最便宜的是二手 M1 或 M2 Max 的 64 GB Mac Studio,2026 年年中的挂牌价大约为 1100–1400 美元。

Mac 能运行 gpt-oss-120b 或前沿开放权重模型吗?

gpt-oss-120b 能放进 96 GB 的可用内存,所以 128 GB 的 Mac 可以运行。更大的 MoE 模型需要 256 GB 或 512 GB;上面的前沿表给出每个结论,而最大的万亿参数模型在 Q4_K_M 下连 512 GB 也放不下。

MacBook Air M5 能用于本地 LLM 吗?

小型和中型模型可以,但有前提。它只有基础芯片的带宽,而且没有风扇,持续生成时会降频。如果你需要能跑 8B–14B 模型的轻薄笔记本就买它;更重的工作请选 MacBook Pro 或台式机。

M5 和 M6 GPU 核心里的神经加速器能加快 LLM 推理吗?

主要加快提示词处理,而不是生成。苹果每个核心里的神经加速器加快受算力限制的预填充阶段,所以长提示词能更早开始回答。逐 token 的解码受内存带宽限制,因此带宽阶梯依然能预测生成速度。

该等下一代芯片,还是现在就买?

决定 LLM 速度的是带宽而不是代际,而高带宽的二手或翻新 Mac 已经非常划算。如果当前配置符合你的模型档位和预算,等待很少值得。例外是 512 GB 的 Mac Studio,它已发布但尚未上市。

相关指南