Blindfold:让审计硬币对 LLM 智能体保密
Blindfold: Keeping the Audit Coin Secret from LLM Agents
AI 导读
论文指出,为 LLM 智能体违规率提供上界的审计式认证还依赖一条保密性质,即动作提交前审计硬币(audit coin)不得影响智能体的视角,作者称之为提交前非干扰(PNI)。论文证明 PNI 对自适应智能体的无偏证书既必要又充分,最坏偏差为 (1-ε)D_A,泄露会跨步骤累积,跨回合共享的资源会打开大小可计算的信道,提高审计比例也无法恢复有效性。在作者搭建的监控器上,静默审计不改变输出,但新增延迟会被工具时间戳暴露且可被智能体放大;实验中一个真实 LLM 智能体遵从了提及可见审计通知的注入,经该信道普通证书在实测标签上失效,事后分析显示按预注册日程进行的一次实跑中也失效,而静默审计可恢复证书。每次被审计调用使用新硬币可关闭该定时信道,填充只能收窄它。
相关热点
1 个事件 · 1 条新闻提到
提到这篇论文的新闻
周报:预训练投毒可植入智能体后门
- 公众号 大模型安全研究引用了论文编号或链接大模型安全周报:首次证明预训练投毒可植入远程代码执行后门,技能供应链成为攻防主战场
2. 审计抽检要藏硬币,否则自适应智能体可造成最高 (1-ε)·D 认证偏差:Blindfold: Keeping the Audit Coin Secret from LLM Agents(https://arxiv.org/abs/2610.37055)