跳到正文
原文
arXiv· arXiv:2604.05485· Yi Nian, Aojie Yuan, Haiyue Zhang, Jiate Li, Li Li, Xiyang Hu, Hua Wei, Xiongye Xiao, Chaowei Xiao, Yue Zhao·本站收录· 原文发表

可审计智能体

Auditable Agents

AI 导读

研究者提出智能体系统的可审计性框架,主张没有可审计性就无法问责。框架将可审计性拆为动作可恢复、生命周期覆盖、策略可检查、责任归属、证据完整性五个维度,并归纳检测、强制执行、恢复三类机制,认为时间上的信息与干预约束使单一方法不足以独立支撑。作者以分层证据支撑立场,对六个知名开源项目的下限生态测量记录了 617 项安全发现,说明可审计性的基本安全前提普遍未满足;运行时可行性实验中,带防篡改记录的执行前中介仅增加 8.3 毫秒中位开销;受控恢复实验则显示常规日志缺失时仍可部分恢复与责任相关的信息。论文还提出面向智能体系统的 Auditability Card,并按机制类别列出六个开放研究问题。

阅读原文arxiv.org