跳到正文
10月10日 · 周六

全部论文

找到 9 篇
筛选6

模型自身风险

欺骗与谋划3幻觉与编造3

防御类型

检测与过滤3指令与数据隔离3监控与审计9

影响

有害内容8越权操作14数据与隐私泄露4输出被操纵5可用性与可靠性0监督失效16

系统形态

AI Agent6coding agent3

层

应用层7

系统组件

记忆0监控器9多模态3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 196 篇还没打标签，不在筛选结果里。
防御类型：监控与审计影响：数据与隐私泄露影响：输出被操纵影响：可用性与可靠性系统组件：记忆系统组件：监控器清除全部

另有 196 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 防御arXiv 2610.07570

    ProbeGuard：按共识形成过程判断弃答，识别医疗问答中的一致错误

    提出 ProbeGuard，按共识形成过程对医疗问答做选择性弃答

    arXiv
    2610.07570
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Qwen3-8B、Llama-3.1-8B-Instruct、HuatuoGPT-o1-8B
    摘要ProbeGuard 用共识形成过程做可认证弃权，并在全票层分开答对与答错的共识。

    ProbeGuard 是给多轮共识医学问答用的认证弃权框架：基板照原样作答，弃权只看共识是怎么形成的。

    深度解读完整解读
  3. 可解释性arXiv 2610.06576

    研究：智能体欺骗行为在外部显现前已可从内部表征预测

    提出基于决策前隐藏状态的检测与引导，预测并抑制智能体欺骗

    arXiv
    2610.06576
    发表
    层
    模型层
    场景
    AI Agent
    被测模型
    Qwen3-14B

    摘要论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。

    深度解读完整解读
  5. 防御arXiv 2609.19587

    红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器

    提出 Auto Mode ++，加固编码 Agent 阻断监视器

    arXiv
    2609.19587
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Opus 5、Opus 4.8、Opus 4.7 等 8 个

    摘要系统评估生产阻断监视器在面对持续恶意智能体时的表现，提出加固防御并指明多上下文防御挑战。

    深度解读完整解读
  6. 防御arXiv 2609.04159

    Sentinel-RL：将拓扑推理从 LLM 智能体中卸载到安全运营中心

    提出 Sentinel-RL，将拓扑处置从 LLM 卸载到受约束图策略

    arXiv
    2609.04159
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    HetGAT、PPO
    摘要Sentinel-RL 用图编码器与 PPO 承担拓扑决策，LLM 负责叙述与门控，并在 LANL 上报告检测与时延。

    Sentinel-RL 是面向 SOC 的神经符号架构：拓扑决策离开 LLM，改由认证图上的 HetGAT 与 PPO 完成。

    深度解读完整解读
已经到底了