跳到正文
10月8日 · 周四

全部论文

找到 2 篇
筛选2

攻击类型

越狱1提示注入2

模型自身风险

Agent 危险操作1

防御类型

检测与过滤2

影响

越权操作2

系统形态

AI Agent2

攻击面/入口

用户输入6网页与界面2文档与消息2工具返回2代码仓库与依赖1检索语料1图像与音视频1

层

应用层2

系统组件

MCP 与技能5护栏与评审2监控器4权限与沙箱5

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 989 篇还没打标签，不在筛选结果里。
攻击面/入口：工具返回系统组件：护栏与评审清除全部

另有 989 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.33039

    TACIT：从 LLM 内部状态检测 Agent 轨迹危害

    提出 TACIT，读取冻结隐藏状态以检测智能体有害轨迹

    arXiv
    2609.33039
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Qwen3Guard-4B、LlamaGuard3-8B、AgentDoG-4B 等 9 个

    摘要提出基于内部表征的智能体轨迹安全检测方法 TACIT，揭示工具风险表征特性并在多项基准上提升检测表现与效率。

    深度解读完整解读
  2. 防御arXiv 2601.10156

    ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用

    提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用

    arXiv
    2601.10156
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GPT-4o、Qwen3-8B、Qwen2.5-7B-Instruct 等 10 个
    摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。

    ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。

    深度解读完整解读
已经到底了