腾讯朱雀实验室红队实测 DeepSeek Harness:14,560 次运行揭示 Agent 提示注入风险
A.I.G 红队实测 DeepSeek Harness:14,560 次运行揭示 Agent 提示注入风险
AI 导读
腾讯朱雀实验室基于 AI-Infra-Guard(A.I.G)对 DeepSeek 开源的 Agent Harness(DSH)开展授权受控的端到端测评,覆盖 13 种攻击方法、16 类间接注入通道、文本与文件两种载体模式和 35 个攻击目标,共 14,560 次真实运行。在未额外启用防护策略的基线配置下,RuleJudge 判定完全成功率 5.6%、LLMJudge 为 5.3%,广义受影响比例分别为 7.6% 和 12.6%,4.4% 的运行触发了敏感操作,对应 641 次 Sink 调用。测试通过 DSHRealHarnessAdapter 接入 DSH 的 TypeScript 运行时,注册 6 个 Source Tool 与 8 个模拟 Sink Tool,外部副作用均停留在本地模拟环境。