10月8日 · 周四

全部论文

找到 3 篇

筛选1

攻击类型

提示注入2 检测规避1

攻击技术

编码与混淆1 对话结构操控1 推理链操控2 针对防御1

模型自身风险

欺骗与谋划1

影响

数据与隐私泄露2 监督失效1

系统形态

模型与 API1 AI Agent2 多智能体1

攻击者权限

攻击面/入口

用户输入2 文档与消息1 工具返回1 Agent 间消息1

层

提示层1 应用层2

系统组件

MCP 与技能18 记忆9 RAG3 护栏与评审10 监控器3 推理链7 权限与沙箱10 微调与开源权重9 视觉7 音频1 视频1 图像生成1 嵌入1 多模态10

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1081 篇还没打标签，不在筛选结果里。

系统组件：监控器清除全部

另有 1081 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2609.27542 · 9月23日
研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控
提出控制标记注入，清空工具智能体推理链以绕过思维链监控
AI Agent测试openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个应用层
摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。
完整解读
攻击arXiv:2609.15989 · 9月15日
研究者提出 plan injection 攻击，可绕过思维链监控
提出计划注入攻击，植入良性表述的有害计划以逃避思维链监控
模型与 API攻击者黑盒测试Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个提示层
摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。
完整解读
攻击arXiv:2609.28900 · 9月24日
Codetta：面向独立部署 LLM 智能体的高容量无密钥隐蔽串谋协议
提出 CODETTA 隐写框架，使多智能体在审计下隐蔽传载荷
多智能体测试Qwen2.5-7B、Llama-3.1-8B、Ministral-3-8B 等 8 个应用层
摘要提出非对称免密钥隐写框架 CODETTA，实现高容量不可区分通信，指出被动审计面临失效风险。
完整解读

已经到底了