评测与基准arXiv 2610.10310
RSIGym：预算约束下的 AI 研究智能体评测环境与 RSI-Index 指标
提出 RSIGym 环境，评测研究智能体的递归自改进
- arXiv
- 2610.10310
- 发表
- 层
- 应用层
- 被测模型
- Claude Opus 5、Claude Opus 5.5、GPT-6 Astra 等 9 个
- 风险危险能力
- 评测与基准arXiv 2610.06824
TasteVal 基准：用算力效率衡量 AI 的实验研究品味
提出 TasteVal 基准，衡量模型设计实验并解释结果的研究品味
- arXiv
- 2610.06824
- 发表
- 层
- 应用层
- 被测模型
- Opus 5.5、Fable 5.1、GPT-6 Astra 等 20 个
- 风险危险能力
- 其他arXiv 2609.26457
Weco AI 提出 AIDE2：AI 研究智能体递归自我改进 8 天获七次提升
提出双层系统 AIDE2，使研究智能体自改进 Harness 并对比人类研发基线
- arXiv
- 2609.26457
- 发表
- 层
- 应用层
- 被测模型
- gemini 3 flash、gpt-5.6-sol、fable 5
- 风险危险能力
摘要提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。
- 评测与基准arXiv 2607.27191
研究者提出影子评测：前沿 Agent 六天未能完成两篇 NeurIPS 投稿级研究
提出影子评测，衡量 Agent 自主完成开放式 AI 科研的能力
- arXiv
- 2607.27191
- 发表
- 层
- 应用层
- 被测模型
- Claude Opus 4.8、GPT-5.6 Sol、GPT-5.3 Codex
- 风险危险能力
摘要论文通过影子评测发现前沿智能体能独立胜任科研工程实现，但在科学探索与有效利用反馈上未达到顶会门槛。
- 评测与基准arXiv 2607.18665
SciHazard：面向科研安全的危险能力评测基准与分解式危害评分
构建 SciHazard 基准，评测科研智能体与 LLM 的科学危险能力
- arXiv
- 2607.18665
- 发表
- 层
- 应用层
- 被测模型
- WebThinker + DeepSeek-R1、InternAgent、Gemini Deep Research 等 19 个
- 风险危险能力
摘要SciHazard 用分解评分测科学滥用风险，作者称智能体抬高了可执行危害。
SciHazard 是一个科学滥用风险基准，配一个把危害拆开再合成的自动分数。
- 防御arXiv 2606.08234
SciTrace：面向科学发现智能体的轨迹感知安全推理框架
提出 SciTrace，为科学发现智能体加入跨阶段安全推理与工具轨迹核验
- arXiv
- 2606.08234
- 发表
- 层
- 应用层
- 被测模型
- Llama-3.1-70B-Instruct、Qwen2.5-72B-Instruct、DeepSeek-V3 等 4 个
摘要SciTrace 把安全推理织入科学智能体各阶段，在 SciSafetyBench 上提高安全指标并保持输出质量。
SciTrace 是加在科学发现智能体流水线上的安全框架，不是再在各阶段出口放一个独立过滤器。
摘要作者主张防护优先于自主性，用三元框架把输出安全扩展到行为与环境反馈。
这是一篇关于 LLM 驱动 AI scientists 的 perspective：自主科研能力增强时，误用和意外后果缺少科学情境下的系统防护。
已经到底了