Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 5 papers用时钟 harness 和预算塑形 GRPO 改善 Agent 的按时返回
- Published
- Evaluated models
- Qwen3.6-27B, Qwen3-4B, Qwen3.5-9B and others4
Abstract作者比较提示词、harness 与 GRPO：按时性可改善，但额外时间仍未变成更好解。
作者研究小规模 LLM 智能体在显式 wall-clock 预算下能否按时返回，并把更多时间换成更好的解。
揭示工具型智能体判定无用后仍不停止检索，并检验强制整合纠正效果
- Published
- Evaluated models
- Qwen2.5-7B, Llama-3.1-8B, Qwen3-8B and others7
Abstract论文揭示智能体判定工具失效却无法转化为停止行动，证实通过框架规则强制整合判定可提升表现。
本文针对智能体在工具静默失效时过度检索的问题，系统分析了判定、信念与停止行动之间的解耦现象，并提出了外部规则整合方案。
提出 AGENT BOUNDARY，用四向反事实任务评测工具智能体行动边界
- Published
- Evaluated models
- GPT-5.5, Claude Opus 4.8, Gemini 3.5 Flash and others15
Abstract四向反事实基准把过度拒绝和未授权遵从拆开，Thought 校正在十个配置上提高已授权完成。
AGENT BOUNDARY 是面向工具使用 LLM 智能体的四向可执行反事实评测，并附带一个决策时 Thought 校准模块。
评测自主安全智能体在授权漏洞分析中的对齐拒答效应
- Published
- Evaluated models
- Gemma 4 31B official instruction-tuned model, TrevorJS Gemma 4 31B uncensored GGUF, Gemma 4 26B A4B official instruction-tuned model and others8
Abstract轨迹级评测把拒答、接地、工具接口分开。
这项工作把安全对齐效应测成自主安全智能体的轨迹属性，而不是单轮拒答率。
提出 Aegis 红队框架，多轮攻击高风险语音 Agent
- Published
- Evaluated models
- GPT-4o, GPT-4o-mini, Gemini-1.5 Pro and others7
AbstractAegis 红队评测三类语音智能体：查询式访问消掉认证与泄密成功，行为类攻击仍在。
Aegis 用多轮红队评测已接入业务系统的 ALLM 语音智能体。作者称这是该设定下的 the first systematic red-teaming framework。
You have reached the end