Can I Run Bonsai 27B on NVIDIA GeForce RTX 5070?

Name: LLM Configurator — GPU VRAM Checker
Author: LLM Configurator

作者： Jakub Rusinowski · 最后更新： 2026年7月21日

Yes — the Bonsai 27B family runs on the NVIDIA GeForce RTX 5070.

联盟营销声明: 本页部分链接为联盟推广链接——如果你通过它们购买，LLM Configurator 可能会获得佣金，而你无需支付任何额外费用。作为亚马逊联盟成员（Amazon Associate），LLM Configurator 会从符合条件的购买中获得收益。

NVIDIA GeForce RTX 5070 Specs

VRAM	12 GB
Memory Bandwidth	672 GB/s

Ternary Bonsai 27B	Ternary (1.58-bit, ~1.71 bpw) · 5.9 GB · ~114 tok/s (est.)
1-bit Bonsai 27B	1-bit (binary, ~1.125 bpw) · 3.9 GB · ~172 tok/s (est.)

Yes — the Bonsai 27B family runs on the NVIDIA GeForce RTX 5070.

Ternary Bonsai 27B at Ternary (1.58-bit, ~1.71 bpw) quantization (5.9 GB), estimated ~114 tokens/sec.