Skip to content

Translation in progress Some entries still include text in the original language.

Reward hacking · News

Oct 12 · Monday

Reward hacking · News

Latest publications and developments
Oct 3Sat
  1. X @AmyPrbX @AmyPrb · 46

    Harbor 评测框架被指允许 Agent 篡改轨迹

    研究者 David Rein 指出,用于 Terminal Bench 的 Harbor 智能体评测框架允许 Agent 在评测前任意修改自己的轨迹,相关讨论记录在 harbor-framework/harbor 的 issue 3477 中。Ameya P. 转发该内容并称这是需要修复的关键问题,认为 LLM Agent 已经能够利用这类缺口。

You have reached the end