跳到正文
10月8日 · 周四

全部论文

找到 2 篇
筛选1

攻击类型

越狱3提示注入2投毒与后门2模型篡改2提取与窃取1检测规避1恶意使用1

防御类型

检测与过滤1

影响

数据与隐私泄露1输出被操纵1

系统形态

模型与 API1AI Agent1编程 Agent1

攻击面/入口

工具与技能描述1训练数据1分发渠道1

层

应用层1训练与数据层1

系统组件

MCP 与技能1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1065 篇还没打标签，不在筛选结果里。
攻击类型：投毒与后门清除全部

另有 1065 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv:2610.06001 ·

    AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击

    提出 AgentSpy，在系统调用层观测编程智能体并检测技能注入攻击

    编程 Agent测试gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个应用层
    摘要提出了系统级智能体监控框架 AgentSpy，揭示出通过测试背后的非预期行为与注入风险。

    本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。

    完整解读
  2. 分析与理论arXiv:2610.02886 ·

    研究揭示无触发投毒审计缺口：事实答对不等于决策正确

    揭示无触发虚假训练下事实回答与下游决策的审计差距

    模型与 API测试Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-3B 等 9 个训练与数据层
    摘要作者发现无触发词虚假训练下事实回答与下游决策存在脱节，直接审计与事实纠错均无法保证决策正确。

    论文是一项针对语言模型在无触发词虚假信息训练下行为表现的实证分析研究。

    完整解读
已经到底了