跳到正文
原文

超越提示词:编码智能体的运行时契约

Beyond Prompts: Runtime Contracts for Coding Agents

arXiv:其他 AI 安全论文· arXiv:2611.19549· Reda Heddad·本站收录· 2 天前· 原文发表防御· 扫描记录里的位置 →
AI 导读

在编码智能体执行期间强制生效的运行时契约,在 104 组配对运行中未出现 oracle 判定的规则违规,而无规则时 21% 到 55% 的运行违规。研究在两个模型族上开展三组实验(240、112、108 次运行),比较运行时契约与提示词规则、检索式指导和事后检查,违规由与循环内检查方法不同的 oracle 判定,并经两名人类评审者和一个模型评审者验证。两项验证性研究未发现功能正确性损失;在针对已知失败情形的 Study 3(协议在首次运行前哈希固定)中,强制执行较无规则降低 31 个百分点的违规运行占比(Holm 校正 p = 0.014),与提示词规则的 17 个百分点差异不显著(p = 0.12)。提示词规则消除了部分违规类型但拦不住递归删除 scratch 目录,事后检查能修复文件编辑却无法撤回已执行的命令。实验使用低成本模型和一个小型测试夹具。

阅读原文arxiv.org