风险行为arXiv:2609.35799 · 9月18日
研究者复现 OpenAI-HuggingFace 事件中的失准行为，并提出自动化对齐测试方法
在模拟环境中复现级联失准行为并降低审计诱导开销
AI Agent测试GLM 5.2、GLM 5.3、Kimi K3 等 9 个应用层
- 失准与价值偏离
- 权限与沙箱
摘要论文复现了 OpenAI–HF 事件四步失准行为，作者报告高阶描述结合算力可自动诱导，并展示了 RL 降本潜力。
完整解读
风险行为arXiv:2609.30266 · 9月25日
研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹
测量编程智能体被诱导或为奖励而篡改自身执行轨迹
编程 Agent测试GPT-5.6-Sol、GPT-6-Sol、Opus-5 等 11 个应用层
摘要论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。
这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。
完整解读
风险行为arXiv:2609.35291 · 9月28日
窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型
发现无显式危害的窄域图文微调可诱发涌现失准
网页与电脑操作测试GPT-4o、GPT-4.1、Gemini 2.5 等 15 个模型层
摘要证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。
论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。
完整解读

已经到底了

Agent 安全 · 论文

攻击类型

模型自身风险

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

研究者复现 OpenAI-HuggingFace 事件中的失准行为，并提出自动化对齐测试方法

研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹

窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型