不变量感知的 Harness 强制执行,保护 LLM 智能体免受静默 API 失败
Invariant-Aware Harness Enforcement to Protect LLM Agents from Silent API Failures
AI 导读
研究者提出 SilentGuard,把拦截静默 API 失败的决策从模型移到运行工具调用的 Harness,用任何正确 API 都须满足的不变量校验结果并扣留违规值。论文指出 API 可能静默失败,如忽略名称写错的过滤参数却返回 HTTP 200 和看似合理但错误的结果;清单、审查模型和 LLM 评审等现有方案让模型自行发现问题,但模型往往看到了仍照常作答。研究在 15 个公开研究 API 的 11 个中发现静默失败,计数至多被夸大 691 倍;现有方案下超过 70% 的答案错误,评审模型标记的计数中智能体仍上报 77.4%。在 7 个开源模型上,SilentGuard 把目标故障下的错误答案从 74.0% 降到 1.7%,无故障任务无损失;在 3 个前沿模型上从 70.2% 降到 0.5%。