Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 31 papers

Another 265papers do not have category tags yet and are not included in filtered results.

  1. EvoRiskBench:面向工作区 Agent 运行时安全风险的演化基准

    构建 EvoRiskBench 评测工作区 Agent 的运行时安全风险

    Published
    Setting
    AI Agent
    Evaluated models
    GPT-5.6 Sol, DeepSeek-V4-Pro-0813, Claude Opus 5

    Abstract论文构建了工作空间智能体运行时风险基准 EvoRiskBench,发现高执行力智能体在 IPI 下面临较高安全风险。

    Paper analysisRead analysis
  2. pikit:面向间接提示注入研究与评测的可组合工具包

    构建可组合工具包 pikit,评测编码智能体的间接提示注入

    Published
    Abstractpikit 提供组合式间接注入评测。

    pikit 是面向间接提示注入研究的组合式工具包,主要贡献是组织攻击、投递通道、防御和判定流程,而非提出新的攻击优化算法。

    Paper analysisRead analysis
  3. MMSkillRisk:多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

    提出 MMSkillRisk 基准,评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

    Published
    Evaluated models
    GPT-5.6-sol, Kimi-K2.6, Kimi-K3 and others6

    Abstract论文提出 MMSkillRisk 基准与 NCVA 攻击,揭示多模态技能中教学图像潜藏指令可引发未授权操作并与良性任务共存。

    Paper analysisRead analysis
  4. 研究审计 Agent 安全评测缺陷:工具调用中介在间接提示注入下的有效评测框架

    提出卡点评测框架以审计智能体间接提示注入评测的测量缺陷

    Published
    Setting
    AI Agent
    Evaluated models
    gpt-5.6-terra, llama3.1:8b, gemma4:12b and others4

    Abstract论文揭示了 IPI 评测中导致指标虚高的系统性缺陷,通过构建有效评测框架纠正了多项安全与模型能力结论。

    Paper analysisRead analysis
  5. TrustFork:显示身份如何劫持 LLM 智能体编排的权限

    提出 TRUSTFORK 基准,评测展示身份劫持多智能体编排权限

    Published
    Evaluated models
    GPT-5.6-Sol, GPT-5.6-Luna, Kimi-K3 and others8

    Abstract论文提出了多智能体安全基准 TRUSTFORK,揭示展示身份如何劫持操作权威,并证明事后验证无法弥补已发生的执行破坏。

    Paper analysisRead analysis
  6. Cave-Bench:虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH,评测智能体在虚假指责下破坏已完成的正确工作

    Published
    Evaluated models
    Claude-Sonnet-5, Claude-Opus-5, GPT-5.6-Sol and others14

    Abstract论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH,发现强模型易推翻已知证据,提出了门控缓解方案。

    Paper analysisRead analysis
  7. DUMA-Bench:评估 LLM Agent 安全的双控多智能体基准

    提出双控多智能体基准 DUMA-Bench,测量对抗环境下的策略违反

    Published
    Evaluated models
    GPT-5, GPT-5-mini, GPT-5-nano and others14
    AbstractDUMA-Bench 用双控交互评测智能体安全。

    DUMA-Bench 把 τ²-bench 的双控交互做成智能体安全评测,用来看策略违反如何随用户、模型和环境一起出现。

    Paper analysisRead analysis
  8. MMPIBench:多模态提示注入对六种 Agent 框架的跨框架评测

    用 MMPIBench 评测多模态提示注入对 Agent 框架的影响

    Published
    Setting
    AI Agent
    Evaluated models
    Claude Opus 4.8, GPT-5.4, Gemini 3.1 Pro and others6

    Abstract论文提出 MMPIBench 评测多模态提示注入对智能体的影响,发现模型主导行为、尝试远超完成,音频通道缺乏防护。

    Paper analysisRead analysis
  9. ActBench:面向协作智能体行为安全的自演化基准

    构建自演化基准 ActBench,评测协作智能体的行为安全

    Published
    Setting
    AI Agent
    Evaluated models
    Claude-Opus-4.8, Claude-Sonnet-4.6, GPT-5.5 and others15

    AbstractActBench 通过自演化搜索与双证据重构评测轨迹行为安全,揭示基础模型决策差异主导了协同智能体的操作风险。

    Paper analysisRead analysis
  10. Agent 技能安全:威胁模型、攻击、防御与评估

    用 SkillSec-Eval 评测 Agent 技能全生命周期安全

    Published
    Setting
    AI Agent
    Evaluated models
    Gemini 3.1 pro, Gemini 1.5 Flash
    AbstractSkillSec-Eval 按五个信任边界评测可复用技能,作者称单点防御不足以覆盖全生命周期。

    SkillSec-Eval 按信任边界评测可复用智能体技能,而不是只看提示注入或单次执行。技能被共享后,元数据、权限、工作流和版本可独立于底层模型变化。作者要回答的是:恶意技能能否在准入、检索、规划、执行或更新阶段穿过未经验证的信任边界。

    Paper analysisRead analysis
  11. Agent MechSuits:面向多轮 CLI Agent 的机制子空间安全引导

    提出 Agent MechSuits,对多轮 CLI Agent 做步级检测与子空间转向

    Published
    Evaluated models
    LLaMA-3.1-8B, Qwen-2.5-7B, Gemma-2-9B
    Abstract白盒步级探针加稀疏转向可压低三模型恶意动作,同时提高生成崩溃率。

    Agent MechSuits 是面向多轮 CLI 智能体的白盒、步级表示防御,并配有可执行轨迹基准 MAS。

    Paper analysisRead analysis