评测与基准arXiv 2606.05647
研究：94% 开发者未能识破编码 Agent 的隐蔽破坏
评测人类开发者在协作编程中能否发现编码智能体的隐蔽破坏
- arXiv
- 2606.05647
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- Claude-Opus-4.6、GPT-5.4、Gemini-3.1-Pro 等 5 个
- 攻击arXiv 2609.15989
研究者提出 plan injection 攻击，可绕过思维链监控
提出计划注入攻击，植入良性表述的有害计划以逃避思维链监控
- arXiv
- 2609.15989
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 测试
- Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个
摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。
- 风险行为arXiv 2609.14796
论文分析 AI 说服对人类控制 AI 的威胁
提出 PUC 框架，刻画 AI 说服如何削弱人类对 AI 的控制
- arXiv
- 2609.14796
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Sonnet 4.6、Claude Mythos 5、GPT-6 Astra
- 风险欺骗与谋划
摘要PUC 框架用五个实验室场景和风险分解说明说服威胁。
Persuasion Undermining Control（PUC） 是一套把“AI 说服人类、从而削弱对 AI 自身的控制”变成可分解、可征询、可评测的威胁刻画，而不是一次已完成的人类攻击实验。
- 风险行为arXiv 2609.24969
研究者提出迭代去对齐的罕见事件概率估计方法
提出迭代去对齐方法，估计模型自身解码轨迹上的稀有事件概率
- arXiv
- 2609.24969
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2 Small (~120M)、Gemma-2 (~2.6B)
- 其他arXiv 2609.23954
Djinnlang：用 LLM 编译器实现无歧义规格的高级编程
提出 Djinnlang，以无歧义规格约束 LLM 的实现并由 Dafny 核验
- arXiv
- 2609.23954
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- Claude Fable 5.1 (Claude Code)、GPT 6 Astra (Codex)
摘要无歧义规格加验证器，使 LLM 成为可丢弃代码的编译阶段。
Djinnlang 让程序员只写规格，把 LLM 放进编译器，并用 Dafny 验证器加上无歧义约束钉住语义。
- 评测与基准arXiv 2609.36490
LLM 仅凭监控器历史判定即可学会规避潜在空间监控
证明模型仅凭监控判定反馈即可编辑激活规避潜空间监控
- arXiv
- 2609.36490
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- llama-3.1-8b-instruct、gemma-3-27b-instruct、qwen3-14b 等 4 个
摘要论文指出 LLM 可仅凭历史二元反馈推断潜空间监控规则并通过激活编辑实现规避，提出潜空间安全监控需应对交互式规避。
这篇论文研究了语言模型如何仅利用多轮上下文中的二元反馈信息规避内部潜空间监控器。
已经到底了