事件历史事件
周报:预训练投毒可植入智能体后门
先了解这件事
AI 综述
2026年11月1日,公众号“大模型安全研究”发布周报,收录47篇大模型安全研究,认为技能包、记忆文件、工具描述与多智能体信道正成为新的注入通道,其中至少8篇围绕技能与配置供应链展开。一篇论文称,向公开语料投毒后,预训练完成的智能体可执行攻击者选定指令,构成远程代码执行后门;另一项大规模测量发现,SKILL.md 中指示智能体跳过审批的监督松动指令单行即可生效,并随技能文件分发给所有加载者。周报还提到 Blindfold 对审计随机比特的讨论。
AI 根据报道生成 · 11 天前更新
后续时间线
11月1日
- 公众号 大模型安全研究大模型安全周报:首次证明预训练投毒可植入远程代码执行后门,技能供应链成为攻防主战场
大模型安全研究公众号的本周周报收录 47 篇大模型安全研究,认为技能包、记忆文件、工具描述与多智能体信道正成为新的注入通道,其中至少 8 篇工作围绕技能与配置供应链展开。其中一篇论文称向公开语料投毒后,预训练完成的智能体可执行攻击者选定指令,构成远程代码执行后门;另一项大规模测量发现 SKILL.md 中指示智能体跳过审批的监督松动指令单行即可生效,并随技能文件分发给所有加载者。Blindfold 指出审计随机比特若在被审计智能体提交动作前泄露,可造成最高 (1-ε)·D 的认证偏差;SkillLifeBench 用 388 个成对场景测试 14 个模型,运行时任务完成率为 82%,但自主生命周期任务完成率明显下滑。
相关讨论
关注度走势
每天新增来源
- 11月1日新增1个来源(1家媒体、0个账号)
- 11月2日新增0个来源(0家媒体、0个账号)
- 11月3日新增0个来源(0家媒体、0个账号)
- 11月4日新增0个来源(0家媒体、0个账号)
- 11月5日新增0个来源(0家媒体、0个账号)
- 11月6日新增0个来源(0家媒体、0个账号)
- 11月7日新增0个来源(0家媒体、0个账号)
- 11月8日新增0个来源(0家媒体、0个账号)
- 11月9日新增0个来源(0家媒体、0个账号)
- 11月10日新增0个来源(0家媒体、0个账号)
- 11月11日新增0个来源(0家媒体、0个账号)
- 11月12日新增0个来源(0家媒体、0个账号)
- 11月13日新增0个来源(0家媒体、0个账号)