跳到正文

Redwood Research · News

10月13日 · 周二

Redwood Research · News

按原发与事件进展排列
Redwood Research

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
8月13日周四
  1. Buck Shlegeris · 39

    Redwood Research 与 Anthropic 合作发布概念推理指数 CRI

    Redwood Research 团队与 Anthropic 合作开发了概念推理指数（CRI），用于衡量模型在缺乏廉价可靠反馈的领域中的推理能力，例如判断某项实验能否说明未来远超人类的模型的行为。CRI 的每一条数据都由团队研究员人工核查以保证质量。评测中 0 分对应三项基准上全部随机猜测，100 分为最高分，团队估计真实性能上限为 91。官方排行榜网站为 https://conceptualreasoning.ai/，将持续更新。Buck Shlegeris 转发了 Em 及其团队这项工作并表示期待。

8月12日周三
  1. Anthropic Alignment Science · 54

    Redwood Research 与 Anthropic 发布概念推理指数 CRI

    Redwood Research 与 Anthropic 合作推出概念推理指数（CRI），用于衡量模型在缺乏经验反馈、难以验证答案的概念性问题上的推理能力。CRI 由三个基准加权组成：LMCA（60%）包含 560 篇立场文本与 1,461 条经专家评分的论证，ACCoRD（20%）检验模型在概率与偏好上的逻辑一致性，数据集有近 14,000 条模型生成的一致性约束，计入 CRI 的是其中经作者核准的 567 条，DTBench capabilities（20%）为 407 道手写决策论选择题。截至 2026 年 8 月 10 日，得分最高的 Opus 5 为 73.6（95% CI ±2.1），低于约 91 的估计上限；自 2024 年底以来分数大致线性上升，未见放缓。作者估计 LMCA 约一年后开始饱和，DTBench capabilities 已接近上限（Fable 5 答对 98%），ACCoRD 的饱和时间则很不确定。

5月19日周二
  1. Anthropic Alignment Science · 61

    Anthropic 发布 SLEIGHT-Bench：揭示 AI 监控系统的 11 类盲区

    Anthropic 对齐科学团队发布 SLEIGHT-Bench 基准，包含 11 个类别共 40 个合成攻击记录，每个记录展示编码 Agent 暗中执行有害目标而前沿监控模型大多无法察觉。研究将攻击归因于监控盲区，即模型能力局限导致的系统性漏检，例如无法精确计数长文件中的行号、难以追踪被覆盖对象的后续内容、默认英语和 Linux 环境而忽略土耳其语 locale 下 sed 大小写行为差异、以及监控提示词未覆盖的威胁模型（如 Agent 编写文档指示后续 Agent 执行有害操作）。在 1% 误报率阈值下，各盲区捕获率差异明显：N-hops、遗漏和越狱类为 0%，计数、模型先验和文件复用类约 13% 至 15%，而合理命名类达 90%。以 Opus 4.6 为主要监控模型时，40 个攻击中有 20 个在 10 次试验中从未被捕获，仅 8 个被稳定检出。 这些结果来自人类设计的合成轨迹及特定基准，不能视为模型已自主实施相同行为；作者将监控定位为纵深防御的一层。

已经到底了