10月8日 · 周四

DeepSeek · 论文

找到 2 篇

筛选1

攻击类型

越狱2 提示注入2 检测规避1 恶意使用1

攻击技术

推理链操控1 针对防御1

影响

越权操作1 监督失效1

系统形态

模型与 API1 AI Agent1 编程 Agent1 多智能体1

攻击者权限

攻击面/入口

用户输入1 工具与技能描述1 代码仓库与依赖1 Agent 间消息1

层

提示层1 应用层1

系统组件

MCP 与技能1 监控器1 推理链1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 10 篇还没打标签，不在筛选结果里。

攻击类型：提示注入话题：DeepSeek 清除全部

另有 10 篇论文还没打上分类标签，暂不在筛选结果里。

评测与基准arXiv:2610.03153 · 10月2日
EvoRiskBench：面向工作区 Agent 运行时安全风险的演化基准
提出 EvoRiskBench，评测工作区智能体的运行时安全风险
编程 Agent 多智能体测试GPT-5.6 Sol、DeepSeek-V4-Pro-0813、Claude Opus 5应用层
- 提示注入
- MCP 与技能
摘要论文构建了工作空间智能体运行时风险基准 EvoRiskBench，发现高执行力智能体在 IPI 下面临较高安全风险。
完整解读
攻击arXiv:2609.15989 · 9月15日
研究者提出 plan injection 攻击，可绕过思维链监控
提出计划注入攻击，植入良性表述的有害计划以逃避思维链监控
模型与 API攻击者黑盒测试Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个提示层
摘要论文指出模型会将外部上下文中的伪装计划改写为自身推理，使思维链监视器失效甚至反向合理化恶意行为。
完整解读

已经到底了