事件历史事件
大模型安全周报:防线开始溃于组合,智能体授权与审计系统性缺口
先了解这件事
AI 综述
大模型安全研究公众号10月25日发布周报,汇总57篇论文,主线为智能体授权与越权、记忆与上下文持久攻击、审计与监控失效。周报称,形式化研究论证每步获批的动作序列仍可组合出全局越权,逐动作授权在组合维度不可判定;另有测量发现多个独立部署的审批监控器在相同对抗输入下同步失效,冗余未带来预期防护提升。
AI 根据报道生成 · 18 天前更新
后续时间线
10月25日
- 公众号 大模型安全研究大模型安全周报:防线开始溃于组合,智能体授权与审计的系统性缺口
大模型安全研究公众号的周报汇总本周 57 篇论文,主线集中在智能体授权与越权、记忆与上下文持久攻击、审计与监控失效三条战线。周报称,一篇形式化工作(arXiv 2610.27620)论证每一步都通过审批的动作序列仍可组合出全局越权结果,逐动作授权在组合维度上不可判定;另一项测量发现多个独立部署的审批监控器在相同对抗输入下同步失效,冗余部署未带来预期防护提升。周报还援引长期记忆研究(arXiv 2610.28810),称一次提示词注入可经记忆写入升级为对智能体的持久控制,而对应的防御工作把操作系统虚拟内存隔离、机器可校验的完整性定理和内核级出站连接扣留引入智能体。其余条目涵盖 79 种语言、10 个主流 LLM 上经翻译绕过安全对齐的实测,以及以声纹为触发条件的语音后门。周报主张把检查点从单动作审批上移到目标级意图审计,并刻意做异构防御部署。