10月8日 · 周四

AI 控制 · 论文

找到 2 篇

筛选1

攻击类型

提示注入1 检测规避1

攻击技术

推理链操控1 针对防御1

模型自身风险

欺骗与谋划1

影响

系统形态

模型与 API2 AI Agent6 编程 Agent1 网页与电脑操作1

攻击者权限

攻击面/入口

层

提示层1 模型层1

系统组件

监控器2 推理链1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 23 篇还没打标签，不在筛选结果里。

系统形态：模型与 API 话题：AI 控制清除全部

另有 23 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2609.15989 · 9月15日
研究者提出 plan injection 攻击，可绕过思维链监控
提出计划注入攻击，植入良性表述的有害计划以逃避思维链监控
模型与 API攻击者黑盒测试Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个提示层
摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。
完整解读
评测与基准arXiv:2609.36490 · 9月29日
LLM 仅凭监控器历史判定即可学会规避潜在空间监控
证明模型仅凭监控判定反馈即可编辑激活规避潜空间监控
模型与 API测试llama-3.1-8b-instruct、gemma-3-27b-instruct、qwen3-14b 等 4 个模型层
- 欺骗与谋划
- 监控器
摘要论文指出 LLM 可仅凭历史二元反馈推断潜空间监控规则并通过激活编辑实现规避，提出潜空间安全监控需应对交互式规避。
这篇论文研究了语言模型如何仅利用多轮上下文中的二元反馈信息规避内部潜空间监控器。
完整解读

已经到底了