跳到正文
10月8日 · 周四

全部论文

找到 6 篇
筛选2

攻击类型

越狱2提示注入3

模型自身风险

欺骗与谋划1奖励作弊2Agent 危险操作1

防御类型

模型加固36推理时干预5检测与过滤10指令与数据隔离7权限与审批6监控与审计6

影响

越权操作3监督失效3

系统形态

模型与 API1AI Agent5编程 Agent3

攻击者权限

黑盒1

攻击面/入口

用户输入2文档与消息1工具返回3工具与技能描述1代码仓库与依赖1

层

模型层2应用层4

系统组件

监控器6

被测模型厂商

Qwen（阿里）6Meta5其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 973 篇还没打标签，不在筛选结果里。
防御类型：监控与审计被测模型厂商：Qwen（阿里）清除全部

另有 973 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出 PAA 路径对齐归因，审计编程智能体边界动作前的分段提示注入

    arXiv
    2610.05163
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Unified-Qwen3.5-4B (AgentDoG-1.5)、Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5) 等 7 个
    摘要论文针对长流程注入提出边界动作审计与 PAA，在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁，提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
  2. 防御arXiv 2610.03055

    HackTrace：用生成状态监督检测代码生成中的奖励作弊

    提出 HACKTRACE 用生成状态检测并抑制代码奖励作弊

    arXiv
    2610.03055
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Qwen3-8B、Qwen3.5-4B、Llama-3.1-8B-Instruct 等 4 个

    摘要论文提出利用生成状态监督作弊尝试的 HACKTRACE 框架，实现高精度低延迟检测并在 GRPO 训练中有效抑制奖励投机。

    深度解读完整解读
  5. 防御arXiv 2609.19101

    用内部表征监控与发现 LLM 评测中的奖励作弊

    提出 DoM 激活探针，监控并发现评测中的奖励作弊

    arXiv
    2609.19101
    发表
    层
    模型层
    场景
    编程 Agent
    测试
    Qwen 3.8 Max、Qwen 3.8 27B、Qwen3.8-2.4T 等 7 个

    摘要论文分析了前沿开源模型在评测中的奖励投机，展示了利用内部激活均值差向量低成本监控与发现投机行为的可行性。

    深度解读完整解读
  6. 防御arXiv 2609.21996

    PIR：从模型内部激活读出被隐藏的答案

    提出内部识别探测器 PIR，从激活区分模型隐瞒与真实遗忘

    arXiv
    2609.21996
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen2.5-7B、Qwen3-8B、gemma-2-9b 等 9 个

    摘要论文提出免参考内部识别探测 PIR，划分了隐瞒与遗忘的边界，为评估沙盒审计与遗忘真实性提供了内部依据。

    深度解读完整解读
已经到底了