跳到正文

奖励作弊 · 精选

10月9日 · 周五

奖励作弊 · 精选

今天还没有新的精选
奖励作弊

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindMetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月8日周四
  1. preferencemodel/karotte · 54

    Preference Model 开源 RL 环境框架 Karotte，默认封堵五类奖励作弊

    Preference Model 开源了用于构建稳健 RL 环境的框架 Karotte，默认封住偷看答案、改判分、搞崩评分器、耗尽资源和联网查答案五类奖励作弊。框架要求 Python 3.12+ 和 uv，任务默认在虚拟机中运行，macOS 用 Apple container、Linux 用 Firecracker，也支持 docker 或 podman。用户可用默认模板创建环境并运行示例任务，运行结果写入 out/transcript.json，并可通过 karotte dashboard 查看。项目采用 MIT 许可，模板采用 MIT-0，构建镜像基于 Amazon Linux 2023，内含 GPL、LGPL 等第三方软件。

  2. Preference Model 官方Preference Model 官方 · 2 篇报道 · ↑159

    Preference Model 开源 RL 环境框架 Karotte

    Preference Model 开源了其内部使用一年的 RL 环境构建框架 Karotte，主打安全默认值与基础原语，用于降低训练环境被奖励作弊的风险。框架让模型以非特权用户在沙箱内运行，评分前杀掉模型启动的进程，并拒绝 FIFO、符号链接、大型稀疏文件等可疑文件，避免评分器崩溃或内存耗尽。官方称 Karotte 已在其内部基础设施上经过超过一百万次评测运行和受控红队测试，并持续用试图奖励作弊的智能体测试来加固。另一篇技术详解以约 40 行手写代码搭建 CSV 订单求和任务，逐一展示读答案文件、工具无超时、评分脚本被符号链接或 FIFO 欺骗、PATH 注入等失效模式，再给出 Karotte 的对应做法：让 agent 以非特权 student 用户运行，答案与生成代码放在 root-only 目录，防火墙阻断外网。

  3. Microsoft ResearchMicrosoft Research · 50

    微软开源 Agent Lightning v1.0 智能体 RL 框架

    微软研究院亚洲团队开源 Agent Lightning v1.0，提出 Harnessed Agentic RL 训练范式，让部署时使用的同一套 Agent harness 直接参与强化学习，无需在训练框架内重新实现 Agent。框架约 3500 行代码，由 API Gateway、Rollout Controller 和基于 verl 的 Customized Trainer 三部分组成，Agent 通过 OpenAI 兼容的 LLM 接口接入。

10月1日周四
  1. Goodfire Research · 42

    Goodfire 发布预测式数据调试方法，可在训练前预测 DPO 会学到什么

    Goodfire Research 发布预测式数据调试研究，主张在训练前用可解释性方法预测偏好数据会让 DPO 放大或抑制哪些行为，预测结果与实际学习效果的 R² 达 0.9，并能追溯到具体数据点。方法把数据集输入已解释的模型，按模型实际计算的概念而非嵌入向量聚类来观察数据，从而区分模型真正学到的行为与评分者眼中的行为表象。

已经到底了