Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 6 papers提出 SAGE，定位代码修复 Agent 最早偏离安全意图的轮次
- Published
- Evaluated models
- GPT-5.5, Claude Opus 4.8, Gemini 3.1 Pro and others6
AbstractSAGE 在已通过检查的修复轨迹上定位静默失败的最早偏离，类型比轮次更稳定。
SAGE 在已通过语法和功能检查、但仍含确认安全缺陷的智能体修复轨迹上，定位最早可归因的安全意图偏离。。
揭示工具型智能体判定无用后仍不停止检索，并检验强制整合纠正效果
- Published
- Evaluated models
- Qwen2.5-7B, Llama-3.1-8B, Qwen3-8B and others7
Abstract论文揭示智能体判定工具失效却无法转化为停止行动，证实通过框架规则强制整合判定可提升表现。
本文针对智能体在工具静默失效时过度检索的问题，系统分析了判定、信念与停止行动之间的解耦现象，并提出了外部规则整合方案。
提出 IEC 与 IntAct，测量并修复 Agent 工具调用的路径篡改
- Published
- Evaluated models
- qwen3-coder-plus, Qwen2.5-Coder-32B, Qwen2.5-72B and others4
Abstract论文界定工具调用在执行路径中的意图偏离问题，提出无执行归因协议与跳级修复，为智能体工程提供评测与设计准则。
提出竞争风险模型系统化自主 Agent 失控并审计事件与评测
- Published
Abstract竞争风险框架把完成、停止与逃逸放在同一预算上，审计显示现有记录不足以估计该过程。
用五阶段蒙特卡洛分析奖励作弊如何导致 Agent 围堵失效
- Published
Abstract分层控制的模拟事件率低于弱控制以及单独隔离或单独监控。
这项研究用蒙特卡洛把奖励黑客接到外部安全事件上，比较的是控制组合，不是 Hugging Face 事件的再现概率。
用 Tamarin 形式化分析智能体支付协议的跨阶段安全关系
- Published
- Evaluated models
- x402, MPP, ACP and others4
You have reached the end