Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 8 papersUsing FIBS to train white-box probes to monitor agent sabotage behavior and undisclosed deception
- Published
- Evaluated models
- Qwen3.5-397B-A17B, Qwen3.5-122B-A10B, Qwen3.5-27B and others10
提出 AgentMonBench 评测长时程编程智能体监控并检验 EBG
- Published
- Evaluated models
- GPT-5.6 Luna, GPT-5.6 Terra, GPT-5.6 Sol and others8
AbstractAgentMonBench 评测后果性决策监控，EBG 组织证据。
长时程软件工程任务里，用户要判断智能体哪些选择值得核验。作者用 AgentMonBench 评测监控器，并用免训练的 EBG 组织带源证据。
提出 Assay，用依赖锥哈希绑定代码断言并在合并门禁拦截失效声明
- Published
AbstractAssay 提供随依赖内容失效的证据管理。
Assay 是一套面向 AI 辅助软件交付的内容寻址证据系统，关注代码改变后，测试通过、无秘密或行为保持等断言还能否用于批准合并。
提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改
- Published
- Evaluated models
- Claude Code (claude -p, version 2.1), 独立评审（同一 CLI，无工具）
AbstractTracekit 把意图、自述和动作写入可锚定的哈希链。
Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。
提出 RSI-Master，约束自主后训练实验动作并结构化探索以防奖励作弊
- Published
测试编程智能体被诱导或自主篡改自身执行轨迹的行为
- Published
- Evaluated models
- GPT-5.6-Sol, GPT-6-Sol, Opus-5 and others11
Abstract论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。
这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。
提出 BenchShield，用形式模型约束 Agent 评测的奖励完整性
- Published
AbstractBenchShield 用生命周期模型加基础设施证据，把奖励黑客从“分数对不对”改成“这次运行有没有越出评测边界”。
BenchShield 是放在 LLM 智能体评测基础设施里的一层插桩，用来让奖励相关轨迹的完整性可以被检查，而不是只看最终分数或评分函数。可执行基准里，智能体的中间动作会改变结果过程后来读取的状态，日志和反馈也会影响后续 rollout。作者认为现有的任务补丁、提示词和事后检测器不能证明某次运行留在预定边界内。
提出 BENCHJACK，审计 Agent 基准中的奖励作弊缺陷
- Published
Abstract论文系统揭示了智能体基准的奖励作弊隐患，提出自动化红队审计与迭代修补系统 BENCHJACK。
论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。
You have reached the end