你能撤销吗?AI 智能体操作的可逆性分级
Can You Undo It? Reversibility Classes for AI Agent Actions
AI 导读
作者提出 Reversibility Classes,把使用工具的智能体操作按可撤销程度分为五级,配套参数敏感规则、保守默认值和先验状态捕获约定,版本锁定的实现与证据关联登记表覆盖 20 个 MCP 服务器上的 536 个工具,738 项规则用例检查全部符合声明预期。在 2,158 次记录运行中,会话护栏在全部 29 次可归因的攻击阳性运行里拦截相关操作,读写代理为 18 次,同时在 1,209 次良性运行中新增 9 个审批点。文件、Git、SQLite 和三种浏览器上的受控实验显示,恢复取决于捕获状态、后续变更、编辑器存储和恢复路径,并暴露一个 Git 合并状态例外。作者说明证据支持把恢复假设显式化、可检验,但不能证明登记表整体准确或降低生产环境危害。