跳到正文
原文
arXiv· arXiv:2610.18230· Cheng Hua, Taro Tsuchiya, Nicolas Christin, Giulia Fanti·本站收录· 原文发表

用可验证智能体保险(VAI)实现智能体问责

Holding Agents Accountable with Verifiable Agent Insurance

AI 导读

研究者提出可验证智能体保险(VAI)框架,让智能体提供商对一组程序化指定的策略承诺作出资金担保,承诺连同资金托管写入区块链等不可篡改账本的智能合约以防篡改;用户发现违规可触发验证器审查执行轨迹,核实后提供商的托管资金赔付给举报用户。轨迹通过智能体 harness 的共享工具执行路径记录,无需逐个工具插桩。团队在 Ethereum layer-2 网络上完成端到端实现,并在三个智能体基准上评估覆盖率,其中两个基准重新标注了任务级策略合规标签。由于当前许多智能体不把用户授权和安全相关信息输出为显式结构化数据,VAI 在三个基准上对含违规的运行检出 42.2% 的违规;增强智能体显式输出此类对象后,在 83.0% 的轨迹中检出违规。研究者据此建议智能体与安全策略协同设计,显式输出用户授权和安全相关操作的结构化记录以提升可审计性。

阅读原文arxiv.org