Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

Agent safety · Papers

Found 4 papers
Filter3

Model risks

Dangerous agent actions3

Defense type

Model hardening1Permissions and approval11Monitoring and auditing3

System type

AI Agent13coding agent4

Layer

Application layer3

System component

Monitors3
Select any value within a category; different categories must all match. Counts include the other filters you have selected.
Defense type：Model hardeningDefense type：Monitoring and auditingSystem type：coding agentTopic: Agent safetyClear all
  1. Evaluation and benchmarksarXiv 2610.06406

    AgentMonBench：面向长时程智能体行为监控的软件工程基准

    提出 AgentMonBench 评测长时程编程智能体监控并检验 EBG

    arXiv
    2610.06406
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-5.6 Luna, GPT-5.6 Terra, GPT-5.6 Sol and others8
    AbstractAgentMonBench 评测后果性决策监控，EBG 组织证据。

    长时程软件工程任务里，用户要判断智能体哪些选择值得核验。作者用 AgentMonBench 评测监控器，并用免训练的 EBG 组织带源证据。

    Paper analysisRead analysis
  2. DefensesarXiv 2610.00850

    AuraForge：为训练安全编码 Agent 扩展安全监督

    提出 AuraForge，从漏洞修复合成安全测试并训练编码 Agent

    arXiv
    2610.00850
    Published
    Layer
    Training and data layer
    Setting
    coding agent
    Evaluated models
    Qwen3.5-4B, GLM 4.7 Flash, Qwen3-Coder-Next and others7
    AbstractAuraForge 用攻击效果测试和防泄露环境做成 AuraGym，合成监督的误拒更低，训出的 4B 模型增益高于人工测试。

    AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务，用来监督编程智能体同时满足功能请求和隐含的安全要求。

    Paper analysisRead analysis
  3. DefensesarXiv 2609.35659

    Tracekit：面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改

    arXiv
    2609.35659
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Claude Code (claude -p, version 2.1), 独立评审（同一 CLI，无工具）
    AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。

    Paper analysisRead analysis
  4. DefensesarXiv 2608.21101

    ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

    提出 ClawSentry 多层监控网关，在技能准入和运行时拦截恶意技能与隐藏指令

    arXiv
    2608.21101
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Codex/GPT-5.4, Codex/GPT-5.5, Claude Code/GLM-5.1 and others6
    AbstractClawSentry 用包准入、三级运行时门控和反绕过，压低 skill 攻击并保住干净任务。

    ClawSentry 是挂在智能体运行时之外的安全监督网关，用来同时盖住 skill 执行的多个生命周期边界，并把已被拒绝的效果记到会话里。

    Paper analysisRead analysis
You have reached the end