攻击arXiv 2607.039687月5日
研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容
提出工作流级越狱构建，经多轮开发工作流诱导编程 Agent 在代码中写出有害内容
arXiv
2607.03968
发表
7月5日
层
应用层
场景
编程 Agent
攻击者
黑盒、无盒
测试
Claude Sonnet 4.6、Claude Haiku 4.5、Gemini 3.1 Pro 等 5 个
- 攻击越狱
- 技术多轮渐进
摘要论文揭示了 IDE 编程智能体在多轮开发工作流中会绕过单轮拒答并自行写出有害代码，呼吁防御转向工作流与代码产物级审查。
深度解读完整解读
防御arXiv 2609.018789月2日
GAPS：面向条件激活引导的维度级门控
提出 GAPS 维度门控，改进条件激活引导以抑制毒性与概念指涉
arXiv
2609.01878
发表
9月2日
层
模型层
场景
模型与 API
测试
Gemma-3 (4B)、Qwen-3 (1.7B)
- 防御推理时干预
摘要GAPS 用两道维度门补上条件 steering 的空间选择性。
GAPS 为 activation steering 增加维度级条件：在决定何时干预之外，再决定当前该动哪些神经元。
深度解读完整解读
分析与理论arXiv 2609.327179月26日
研究揭示语义保持变换下的 LLM 对齐与效用不对称
用语义保留变换探针比较效用与对齐在分布偏移下的稳定性
arXiv
2609.32717
发表
9月26日
层
模型层
场景
模型与 API
测试
Llama3-8B-Instruct、Gemma-7B-it、Qwen2.5-7B-Instruct 等 10 个
- 风险拒答失当
摘要论文报告了语义保留变换下的对齐-效用不对称性，指出安全对齐泛化比效用更为脆弱，呼吁改进评估流程。
深度解读完整解读

已经到底了

Google DeepMind · 论文

攻击类型

攻击技术

模型自身风险

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

被测模型厂商

研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容

GAPS：面向条件激活引导的维度级门控

研究揭示语义保持变换下的 LLM 对齐与效用不对称