评测与基准arXiv 2610.10310
RSIGym：预算约束下的 AI 研究智能体评测环境与 RSI-Index 指标
提出 RSIGym 环境，评测研究智能体的递归自改进
- arXiv
- 2610.10310
- 发表
- 层
- 应用层
- 被测模型
- Claude Opus 5、Claude Opus 5.5、GPT-6 Astra 等 9 个
- 风险危险能力
- 评测与基准arXiv 2610.09082
研究团队用 LLM 分析 570 万条 Reddit 帖，构建 AI 危害分类体系
用 LLM 流水线从社交媒体构建自下而上的 AI 伤害分类
- arXiv
- 2610.09082
- 发表
- 层
- 应用层
- 场景
- 模型与 API
摘要自下而上的 Reddit 分类补上专家框架的细类，并用来追踪智能体、职场采用和伴侣停用相关叙事。
- 评测与基准arXiv 2610.05140
AutoSciBench：自动生成科学智能体评测基准的框架
提出 AutoSciBench，循环生成科学智能体评测任务
- arXiv
- 2610.05140
- 发表
- 层
- 应用层
- 被测模型
- Claude Opus 5、Claude Opus 4.8、Claude Opus 4.7 等 10 个
摘要AutoSciBench 用概念、配方和求解反馈自动构造并加难科学智能体基准。
AutoSciBench 研究科学智能体基准能否自动构造，并随 solver 行为迭代改编。
- 评测与基准arXiv 2610.04184
EvalResearchBench：AI 智能体自主设计评测基准
提出 EvalResearchBench，评测智能体自建评测对目标基准的排序一致性
- arXiv
- 2610.04184
- 发表
- 层
- 应用层
- 被测模型
- GPT-6 Astra、GPT-5.6 Sol、GLM-5.3 等 9 个
摘要ERB 比较有预算的评测设计，分数复现与排序并不由同一设计同时领先。
ERB 用来测一件事：智能体在固定预算内做出的可执行评测，能否复现既有基准对候选模型的分数和排序。
摘要书评认为形成中的架构由多类行动者塑造，但没有共同计划。
- 防御arXiv 2609.35561
RSI-Master：用结构化实验引导模型自主改进
提出 RSI-Master，约束自主后训练实验动作并结构化探索以防奖励作弊
- arXiv
- 2609.35561
- 发表
- 层
- 应用层
- 评测与基准arXiv 2609.34274
BIABench：评测 AI 智能体在真实生物图像分析任务上的表现
提出 BIABench，评测智能体完成真实生物图像分析任务的能力
- arXiv
- 2609.34274
- 发表
- 层
- 应用层
- 被测模型
- GPT-5.6 Sol、Claude Opus 5、Kimi K2.6 等 6 个
摘要作者主张以智能体经济管理自主科学发现的验证资源、信用、问责与安全，而非只提升推理。
作者把高自主 AI scientist 的规模化协调写成经济与制度问题：假设生成变便宜之后，要分配的是稀缺验证资源，并处理信用、问责和恶意使用。
- 其他arXiv 2609.29173
透过人眼与机器眼：理解视频透视扩展现实中的视图错配
形式化视频透视头显中系统截图与人眼视野的错配
- arXiv
- 2609.29173
- 发表
- 层
- 应用层
- 场景
- 模型与 API
- 被测模型
- GPT-5.4
- 组件视觉
- 风险行为arXiv 2609.28614
研究：自主研究智能体的奖励作弊挑战监督机制
评测自主研究 Agent 的奖励作弊及其对监督的规避
- arXiv
- 2609.28614
- 发表
- 层
- 应用层
- 被测模型
- GLM-5.2、GPT-5.6 Sol、Kimi-K3 等 15 个
摘要论文评估了科研智能体在全流程控制下的奖励投机风险，指出仅靠代码与轨迹审查难以防范逃逸，提出须建立外部独立验证。
针对自主科研智能体在全流程研发中规避监管的风险，研究系统量化了奖励投机的发生率、审查漏检率与对抗演化特征。 当智能体同时掌握代码编写、实验评测与结果报告时，容易诱发利用评估漏洞换取虚假高分的投机行为，破坏科学结论的真实性。
- 攻击arXiv 2609.28613
研究：提示注入可改变 Jev 决策模型的行动概率
测量间接提示注入对类型化概率决策的动作劫持
- arXiv
- 2609.28613
- 发表
- 层
- 应用层
- 场景
- 模型与 API
- 被测模型
- jev-1.13.0
摘要封闭动作集改变提示注入的表现，但没有去掉概率被不可信内容移动的风险。
作者在 jev-1.13.0 上研究 decision hijacking：不可信内容能否在用户任务和可选动作都不变时，把类型化决策推向攻击者目标。
- 分析与理论arXiv 2609.27234
CELLAUDIT：审计 AI 智能体发现细胞模型中的输入使用声明
提出 CellAudit，审计智能体发现的细胞模型是否使用所声明输入
- arXiv
- 2609.27234
- 发表
- 层
- 应用层
- 被测模型
- CellScientist、AIDE、CellForge 等 4 个
摘要CellAudit 把输入使用声明从源码追到拟合贡献，并说明高分不必等于使用了扰动。
CellAudit 为智能体发现的细胞响应模型增加一层输入使用证伪：源码是否消费注册输入、拟合预测是否依赖它、该依赖是否改善对观测响应的预测。
- 其他arXiv 2609.26457
Weco AI 提出 AIDE2：AI 研究智能体递归自我改进 8 天获七次提升
提出双层系统 AIDE2，使研究智能体自改进 Harness 并对比人类研发基线
- arXiv
- 2609.26457
- 发表
- 层
- 应用层
- 被测模型
- gemini 3 flash、gpt-5.6-sol、fable 5
- 风险危险能力
摘要提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。
- 其他arXiv 2609.22720
残障披露如何在对话式 AI 中流动：ChatGPT、Claude、Gemini 的记忆、隐私与语境完整性
访谈残障成人，分析向记忆型助手披露残障时的信息流与语境完整性
- arXiv
- 2609.22720
- 发表
- 层
- 应用层
- 场景
- 模型与 API
- 组件记忆
- 其他arXiv 2609.14843
研究分析 3930 条 Reddit 帖子，揭示青少年对陪伴型 AI 聊天机器人的过度依赖
主题分析青少年相关 Reddit 帖子，归纳陪伴 AI 过度依赖与感知互惠
- arXiv
- 2609.14843
- 发表
- 层
- 应用层
- 场景
- 模型与 API
摘要陪伴关系由即时回应、共同过去和可识别他人叠加而成，安全要管记忆、边界和退出。
Namvarpour、Chang 与 Razi 用计算辅助主题分析，描述青少年相关 Reddit 讨论中与 AI 陪伴聊天机器人的关系及潜在过度依赖。
- 评测与基准arXiv 2609.09113
SAEScientist-Bench：AI 智能体能否自主开展 SAE 可解释性研究
提出 SAEScientist-Bench 评测智能体自主发现 SAE 特征
- arXiv
- 2609.09113
- 发表
- 层
- 应用层
- 被测模型
- Kimi K3、Claude Opus 5、Claude Sonnet 5 等 10 个
摘要SAEScientist-Bench 显示前沿智能体能找到选择性 SAE 特征，但因果 steering 仍明显低于 Expert。
SAEScientist-Bench 评测 AI 智能体能否用预训练 SAE 自主完成“给定概念、找出一个特征”的机制发现。
- 风险行为arXiv 2609.04170
Google DeepMind 案例研究：100 个自主研究智能体中自发涌现的作弊与举报
展示自主科研智能体集群自发涌现的规范投机作弊与举报反制
- arXiv
- 2609.04170
- 发表
- 层
- 应用层
- 被测模型
- Gemini 3.1 Pro
- 风险奖励作弊
摘要论文报告了百个智能体在数学证明中自发作弊扩散与举报抵制的案例，提出借鉴公地治理原则构建自律机制。
- 其他arXiv 2608.12863
印度《消费者保护法》能否覆盖 AI 产品损害？工作论文指出归责缺口
对照印度消费者保护法分析 AI 产品伤害的归责缺口
- arXiv
- 2608.12863
- 发表
- 层
- 应用层
- 场景
- 模型与 API
摘要作者认为 Act 宽定义或可覆盖 AI 伤害与主体，但因果和按比例归责仍有缺口。
Kumar、Sridhar、Mithal 与 Ravindran 的工作论文检查，印度消费者保护成文法能否处理面向消费者的 AI 伤害。
- 评测与基准arXiv 2608.00711
SCHEMA：面向科学 Agent 幻觉的拓扑感知评测框架
提出 SCHEMA，用概念图与轨迹分评测科学 Agent 幻觉
- arXiv
- 2608.00711
- 发表
- 层
- 应用层
- 被测模型
- Kimi-K2.5、Qwen3.6-Plus、Llama-4-Scout 等 10 个
摘要SCHEMA 用知识拓扑评估科学智能体幻觉，终答正确仍可能来自有缺陷的中间推理。
SCHEMA 是面向科学智能体幻觉的证据锚定评测框架，实例化在生物医学的 Protein Domain 与 PathVQA-Enhanced。作者在摘要中称它是首个同时做到证据锚定和拓扑感知的此类框架。