Ternary Bonsai 2 27B 发布：5.9GB 三值权重模型导读
PrismML 发布 Ternary Bonsai 2 27B，这是 Qwen3.8 27B 的三值权重版本。根据原始信息，模型体积为 5.93 GB，而 FP16 版本为 53.80 GB，官方称在 20 项基准上保留了父模型平均表现的 98.2%。它支持文本和图像输入，上下文长度 262K，采用 Apache 2.0 许可，并演示了驱动 Cline 编码场景。这意味着在消费级显存或单卡环境下运行接近 27B 级别的模型变得更具可行性。值得关注的是，量化压缩长期面临能力损失，而 98.2% 的保留率如果可复现，会明显改变本地部署的性价比。影响的是本地推理玩家、边缘部署团队和成本敏感的编码 Agent 用户。下一步可以下载模型，在相同基准上复测，并重点验证长上下文和图像输入下的实际表现。