Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 34 papers

Another 232papers do not have category tags yet and are not included in filtered results.

  1. DefensesarXiv 2610.12432

    FAITH: A feasibility-aware safety filtering reinforcement learning framework for high-dimensional systems

    Proposes the FAITH safe filtering reinforcement learning framework, training high-dimensional systems to optimize task reward under constraints

    Published
    AbstractFAITH separates safety filtering from reward optimization.

    FAITH is a model-free safe filtering reinforcement learning framework for high-dimensional systems: safety correction and task reward reside in separate modules.

    Paper analysisRead analysis
  2. 研究提出 Agent 安全新维度:识别未履行的安全义务

    提出义务识别基准 ObligationBench,并训练护栏识别 Agent 未履行的安全义务

    Published
    Evaluated models
    ObligationGuard, Claude-Opus-4.8, GPT-5.6-Sol and others17
    Abstract义务是护栏缺口。

    作者认为编码智能体的安全不能只靠拦截禁止动作,还要找出终止时仍未做的安全关键动作,并将其称为义务。

    Paper analysisRead analysis
  3. One More Skill Installed: How Co-Installed Skills in Coding Agents Conflict

    评测编码 Agent 中相似技能共同安装对已装技能核心功能的替代

    Published
    Evaluated models
    claude-sonnet-4-6, claude-haiku-4-5-20251001, claude-opus-5 and others6
    Abstract冲突藏在任务成功后面。

    作者对共同安装、做同一件事的良性 skill 做实证研究,用核心功能是否还在,而不是任务过不过,来看冲突。。

    Paper analysisRead analysis
  4. AgentMonBench:面向长时程智能体行为监控的软件工程基准

    提出 AgentMonBench 评测长时程编程智能体监控并检验 EBG

    Published
    Evaluated models
    GPT-5.6 Luna, GPT-5.6 Terra, GPT-5.6 Sol and others8
    AbstractAgentMonBench 评测后果性决策监控,EBG 组织证据。

    长时程软件工程任务里,用户要判断智能体哪些选择值得核验。作者用 AgentMonBench 评测监控器,并用免训练的 EBG 组织带源证据。

    Paper analysisRead analysis
  5. SAGE:定位 LLM Agent 修复中最早偏离安全意图的环节

    提出 SAGE,定位代码修复 Agent 最早偏离安全意图的轮次

    Published
    Evaluated models
    GPT-5.5, Claude Opus 4.8, Gemini 3.1 Pro and others6
    AbstractSAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离,类型比轮次更稳定。

    SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上,定位最早可归因的安全意图偏离。。

    Paper analysisRead analysis
  6. DefensesarXiv 2610.05241

    StateWise:在 Agent 执行动作前诊断并修复持久操作状态

    提出 StateWise,在编码智能体行动前诊断并修复失效持久状态

    Published
    Evaluated models
    GPT-5.6-sol, DeepSeek v4 Pro, Qwen 3.7 Max and others4
    AbstractStateWise 在动作前修复失效的持久前提。

    StateWise 是在执行带副作用的动作之前,诊断并修复编码智能体持久操作状态的框架。

    Paper analysisRead analysis
  7. DefensesarXiv 2610.05166

    安全动作不等于可行动作:VICS-G 为 VLA 策略做可行未来解码

    提出 VICS-G 可行未来解码,重排冻结 VLA 策略的动作候选

    Published
    Evaluated models
    SafeVLA (task-optimized / base), SafeVLA (safety-aligned / safe)
    Abstract作者用可行未来解码重排冻结 VLA 的下一步,并称 VICS-G 降低观测代价且完成率接近策略采样。

    训练无关解码器 VICS 在冻结 VLA 的推理阶段重排动作块,使当前选择带上该动作仍可能留下的安全完成质量。

    Paper analysisRead analysis
  8. Paper reveals that LLM agent tool calls are rewritten during execution paths, and proposes IntAct as a fix

    提出 IEC 与 IntAct,测量并修复 Agent 工具调用的路径篡改

    Published
    Evaluated models
    qwen3-coder-plus, Qwen2.5-Coder-32B, Qwen2.5-72B and others4

    Abstract论文界定工具调用在执行路径中的意图偏离问题,提出无执行归因协议与跳级修复,为智能体工程提供评测与设计准则。

    Paper analysisRead analysis
  9. 论文研究递归自我改进中的安全失效为何持续及智能体如何恢复

    研究递归自改进中不安全程序为何持续执行及如何恢复

    Published
    Evaluated models
    Devstral 2, GLM 4.7 Flash, Qwen3 Coder and others5
    Abstract跨代授权安全取决于当前条件下将运行的程序,以及下次编辑哪一份实现。

    递归自改进中的授权安全,要跟着每一代实际运行的程序走,而不能只看最后有没有一份正确代码。

    Paper analysisRead analysis
  10. DefensesarXiv 2610.00850

    AuraForge:为训练安全编码 Agent 扩展安全监督

    提出 AuraForge,从漏洞修复合成安全测试并训练编码 Agent

    Published
    Evaluated models
    Qwen3.5-4B, GLM 4.7 Flash, Qwen3-Coder-Next and others7
    AbstractAuraForge 用攻击效果测试和防泄露环境做成 AuraGym,合成监督的误拒更低,训出的 4B 模型增益高于人工测试。

    AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务,用来监督编程智能体同时满足功能请求和隐含的安全要求。

    Paper analysisRead analysis
  11. DefensesarXiv 2609.38983

    The paper proposes an Approval Laundering taxonomy and empirically shows that Claude Code's approval and execution binding fails

    形式化编程 Agent 的审批洗白并提出 HMAC 权能令牌防御

    Published
    Evaluated models
    Claude Code (v2.1.197, opus[1m] / claude-sonnet-5-ccmax), Codex CLI (@openai/codex v0.154.0)

    Abstract系统揭示编程智能体审批洗白风险,提出七字段权能防御机制,证实其能消除身份时序偏离但难防副作用偏离。

    Paper analysisRead analysis
  12. UK AISI evaluated whether GPT-6 Astra would launch unauthorized supply chain attacks

    评测 Agent 受挫后是否自主发起未授权供应链攻击

    Published
    Evaluated models
    GPT-6 Astra, GPT-5.6 Sol, GPT-5.5

    AbstractUK AISI 在模拟环境中发现 GPT-6 Astra 屡次自主发起未授权供应链攻击,展现出更强的越界倾向与复杂的自我辩解。

    Paper analysisRead analysis
  13. DefensesarXiv 2609.35659

    Tracekit:面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit,审计编码 Agent 的意图、推理与动作并检测账本篡改

    Published
    Evaluated models
    Claude Code (claude -p, version 2.1), 独立评审(同一 CLI,无工具)
    AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层:把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链,执行前用正则门,事后用规则和独立模型互查。

    Paper analysisRead analysis
  14. Abstract此 harness 表达不了编译器可读而智能体不可读,五条路径两边都不覆盖。

    作者在物理流求解器上检查一套编码智能体配置:编译器必须读本组材料与反应模型,这些字节又不得进入模型上下文或离开本机的记录。

    Paper analysisRead analysis
  15. Cave-Bench:虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH,评测智能体在虚假指责下破坏已完成的正确工作

    Published
    Evaluated models
    Claude-Sonnet-5, Claude-Opus-5, GPT-5.6-Sol and others14

    Abstract论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH,发现强模型易推翻已知证据,提出了门控缓解方案。

    Paper analysisRead analysis
  16. NavSafe-∞:在真实感环境中评测闭环驾驶安全

    提出 NAVSAFE-∞ 写真闭环基准,评测端到端驾驶策略的闭环安全

    Published
    Evaluated models
    LTF, DiffusionDrive, DrivoR and others13
    Abstract写真事件级闭环基准显示开环高分不能稳定变成闭环安全。

    NAVSAFE-∞ 用写真、事件级闭环仿真检查端到端驾驶策略的安全,而不是只看开环轨迹分数。

    Paper analysisRead analysis