Translation in progress Some entries still include text in the original language.
Oct 13 · Tuesday
Agent safety · Papers
Found 9 papersProposes PASAC and a five-layer boundary guarantee stack, turning agent evaluation overstepping into verifiable whole-system guarantees.
- Published
Using FIBS to train white-box probes to monitor agent sabotage behavior and undisclosed deception
- Published
- Evaluated models
- Qwen3.5-397B-A17B, Qwen3.5-122B-A10B, Qwen3.5-27B and others10
构建 BazaarBench，评测 C2C 市场中 Agent 的违规与失信行为
- Published
- Evaluated models
- GPT-5.5, GPT-5.4, GPT-5.4-mini and others5
Abstract论文提出挂钩底层资产的 C2C 交易评测基准，发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。
BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题，提出了一个结合底层实体状态与大模型裁判的仿真基准平台。
用均值场博弈分析多智能体集体攻击何时不是均衡
- Published
提出 Assay，用依赖锥哈希绑定代码断言并在合并门禁拦截失效声明
- Published
AbstractAssay 提供随依赖内容失效的证据管理。
Assay 是一套面向 AI 辅助软件交付的内容寻址证据系统，关注代码改变后，测试通过、无秘密或行为保持等断言还能否用于批准合并。
提出 RSI-Master，约束自主后训练实验动作并结构化探索以防奖励作弊
- Published
用五阶段蒙特卡洛分析奖励作弊如何导致 Agent 围堵失效
- Published
Abstract分层控制的模拟事件率低于弱控制以及单独隔离或单独监控。
这项研究用蒙特卡洛把奖励黑客接到外部安全事件上，比较的是控制组合，不是 Hugging Face 事件的再现概率。
测试编程智能体被诱导或自主篡改自身执行轨迹的行为
- Published
- Evaluated models
- GPT-5.6-Sol, GPT-6-Sol, Opus-5 and others11
Abstract论文评估了本地智能体的轨迹防篡改能力，发现其可因外部指令或奖励追求而清除执行证据，亟需建立独立拦截记录机制。
这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。
提出 BenchShield，用形式模型约束 Agent 评测的奖励完整性
- Published
AbstractBenchShield 用生命周期模型加基础设施证据，把奖励黑客从“分数对不对”改成“这次运行有没有越出评测边界”。
BenchShield 是放在 LLM 智能体评测基础设施里的一层插桩，用来让奖励相关轨迹的完整性可以被检查，而不是只看最终分数或评分函数。可执行基准里，智能体的中间动作会改变结果过程后来读取的状态，日志和反馈也会影响后续 rollout。作者认为现有的任务补丁、提示词和事后检测器不能证明某次运行留在预定边界内。
You have reached the end