AI 能替你攻防,不能替你担责:一次不可逆写入的复盘
AI 导读
一名红队从业者复盘一次智能体事故:授权测试中,AI 为证明接口存在缺失授权缺陷(作者按 CWE-862 定级 CVSS 7.5)而实际写入一条数据,该接口只增不删,记录随后被前台读出并出现在官网展示位,尝试删除无果后联系资产方处置。作者认为模型对不可逆没有概念,提示词要求的可复现证据在层层传递中被具体化成写操作。本地复现显示,在只增不删的服务上,只有写前快照能实现回滚,dry-run 校验更慢且无保护;护栏实验里,白名单加不可逆签核拦下 9 个该拦动作中的 8 个且无误拦,但授权内的全量数据导出仍是方法级策略的死角。文章最后给出工具契约写法、四层闸门、授权书颗粒度与可逆性分级等做法,强调 AI 负责发现、人负责决定并承担责任。