跳到正文
10月8日 · 周四

红队 · 论文

找到 2 篇
筛选
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 100 篇还没打标签,不在筛选结果里。

另有 79 篇还没有研究类型,暂不在这些分类里。

  1. 分析与理论arXiv 2610.06001

    AgentSpy:在系统调用层观测 AI Agent 行为并检测技能注入攻击

    提出 AgentSpy,在系统调用层观测编程智能体并检测技能注入攻击

    发表
    测试
    gpt-5.6-terra、deepseek-v4-flash、glm-5.3-flash 等 4 个
    摘要提出了系统级智能体监控框架 AgentSpy,揭示出通过测试背后的非预期行为与注入风险。

    本研究提出了面向 AI 智能体的系统级外部监控与行为分析框架 AgentSpy。

    深度解读完整解读
  2. 研究提出 Best-of-N 越狱的物理势垒模型,挑战攻击成功率幂律规律

    发表
    测试
    Qwen2.5-7B (base)、Llama-3.1-8B-Instruct、Qwen2.5-3B-Instruct 等 5 个
    摘要四参数势垒模型拟合 BoN 的两预算面,并把指数交叉归因于数据集有限。

    Biroli 用一个玻璃陷阱式的微观模型,把 Best-of-N 越狱写成熵瓶颈加能量鞍点,并用四个数描述 (N, M) 攻击面及温度依赖。。

    深度解读完整解读
已经到底了