更新于 2026/05/19 12:23
Forge 开源防护层让 8B 本地模型代理任务准确率从 53% 升至 99%
德州仪器 AI 总监 Antoine Zambelli 开源了 Forge,一个面向自托管 LLM 工具调用的可靠性层。核心思路是不改模型,只改系统外围:通过重试引导、步骤强制、错误恢复和 VRAM 感知上下文管理等五层防护,将 Ministral 8B 在多步代理工作流上的准确率从约 53% 提升至 99.3%,甚至超过无防护的 Claude Sonnet(87.2%)。
论文已被 ACM CAIS '26 接收,覆盖 97 个模型/后端配置、18 个场景各 50 次运行。关键发现:所有模型(包括云端前沿模型)在没有重试机制时错误恢复得分均为 0%,说明这不是能力差距而是架构缺失。
速读
Forge 用五层防护将 8B 本地模型代理准确率从 53% 提至 99%
相关源 (1)
- HN frontpage · 2026/5/19 12:23:07https://github.com/antoinezambelli/forge