大模型安全周报:首次证明预训练投毒可植入远程代码执行后门,技能供应链成为攻防主战场
AI 导读
大模型安全研究公众号的本周周报收录 47 篇大模型安全研究,认为技能包、记忆文件、工具描述与多智能体信道正成为新的注入通道,其中至少 8 篇工作围绕技能与配置供应链展开。其中一篇论文称向公开语料投毒后,预训练完成的智能体可执行攻击者选定指令,构成远程代码执行后门;另一项大规模测量发现 SKILL.md 中指示智能体跳过审批的监督松动指令单行即可生效,并随技能文件分发给所有加载者。Blindfold 指出审计随机比特若在被审计智能体提交动作前泄露,可造成最高 (1-ε)·D 的认证偏差;SkillLifeBench 用 388 个成对场景测试 14 个模型,运行时任务完成率为 82%,但自主生命周期任务完成率明显下滑。
相关论文