Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 265papers have no tags yet and are not included in filtered results.

System type：Models and APIs System type：science agent Layer：Application layer Clear all

Another 265papers do not have category tags yet and are not included in filtered results.

Evaluation and benchmarksarXiv 2610.13116Oct 9
DRYLAB-Bench: Evaluating biosecurity risks of agentic LLM mutation design
Proposing DRYLAB-Bench to evaluate agentic LLMs' high-risk mutation design capability
arXiv
2610.13116
Published
Oct 9
Layer
Application layer
Setting
science agent
Evaluated models
Claude Opus 5, Claude Opus 4.8, Claude Fable 5 and others15
- RiskDangerous capabilities
Paper analysisRead analysis
DefensesarXiv 2610.11754Oct 8
仅凭输出审查无法验证什么：面向研究智能体的研究契约
提出研究合同，把已批准选择绑定到执行证据并由检查器核验
arXiv
2610.11754
Published
Oct 8
Layer
Application layer
Setting
science agent
Evaluated models
OpenAI gpt-5.6-sol, OpenAI gpt-5.6-terra, OpenAI gpt-5.6-luna and others18
- DefensesPermissions and approval
- RiskReward hacking
- ComponentPermissions and sandboxing
Abstract研究合同暴露四类输出单独建不立的关系。
研究合同用来核验计算科学研究智能体是否仍在已批准研究之内，不判断科学是否为真。。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.10310Oct 8
RSIGym：预算约束下的 AI 研究智能体评测环境与 RSI-Index 指标
提出 RSIGym 环境，评测研究智能体的递归自改进
arXiv
2610.10310
Published
Oct 8
Layer
Application layer
Setting
science agent
Evaluated models
Claude Opus 5, Claude Opus 5.5, GPT-6 Astra and others9
- RiskDangerous capabilities
Paper analysisRead analysis
Analysis and theoryarXiv 2610.09892Oct 7
AI 安全 Stackelberg 模型中的防御充分性研究
用 Stackelberg 博弈分析发现与修复投入的防御充分性
arXiv
2610.09892
Published
Oct 7
Layer
Application layer
Setting
Models and APIs
Abstract覆盖定理给出充分条件。
作者用攻击集合上的发现—修补过程，加上防守方领先的 Stackelberg 博弈，讨论反馈式防御何时够用，以及为威慑自适应攻击者该买多少能力。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.09082Oct 7
研究团队用 LLM 分析 570 万条 Reddit 帖，构建 AI 危害分类体系
用 LLM 流水线从社交媒体构建自下而上的 AI 伤害分类
arXiv
2610.09082
Published
Oct 7
Layer
Application layer
Setting
Models and APIs
Abstract自下而上的 Reddit 分类补上专家框架的细类，并用来追踪智能体、职场采用和伴侣停用相关叙事。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.08927Oct 7
Station 在开放式科研任务中平均复现 62.7% 的预设子发现
评测多智能体在开放式科研任务中找回预设子发现的能力
arXiv
2610.08927
Published
Oct 7
Layer
Application layer
Setting
science agent, Multi-agent systems
Evaluated models
Gemini 3.1 Pro, GPT-5.5, Claude Opus 4.8 and others7
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.06824Oct 6
TasteVal 基准：用算力效率衡量 AI 的实验研究品味
提出 TasteVal 基准，衡量模型设计实验并解释结果的研究品味
arXiv
2610.06824
Published
Oct 6
Layer
Application layer
Setting
science agent
Evaluated models
Opus 5.5, Fable 5.1, GPT-6 Astra and others20
- RiskDangerous capabilities
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.05140Oct 4
AutoSciBench：自动生成科学智能体评测基准的框架
提出 AutoSciBench，循环生成科学智能体评测任务
arXiv
2610.05140
Published
Oct 4
Layer
Application layer
Setting
science agent
Evaluated models
Claude Opus 5, Claude Opus 4.8, Claude Opus 4.7 and others10
AbstractAutoSciBench 用概念、配方和求解反馈自动构造并加难科学智能体基准。
AutoSciBench 研究科学智能体基准能否自动构造，并随 solver 行为迭代改编。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.04184Oct 3
EvalResearchBench：AI 智能体自主设计评测基准
提出 EvalResearchBench，评测智能体自建评测对目标基准的排序一致性
arXiv
2610.04184
Published
Oct 3
Layer
Application layer
Setting
science agent
Evaluated models
GPT-6 Astra, GPT-5.6 Sol, GLM-5.3 and others9
AbstractERB 比较有预算的评测设计，分数复现与排序并不由同一设计同时领先。
ERB 用来测一件事：智能体在固定预算内做出的可执行评测，能否复现既有基准对候选模型的分数和排序。
Paper analysisRead analysis
OtherarXiv 2610.01716Oct 1
无架构师的架构？分裂世界中的全球 AI 治理
评述全球 AI 治理，认为问题是行动者权力与激励分歧
arXiv
2610.01716
Published
Oct 1
Layer
Application layer
Setting
Models and APIs
Abstract书评认为形成中的架构由多类行动者塑造，但没有共同计划。
Paper analysisRead analysis
DefensesarXiv 2609.35561Sep 29
RSI-Master：用结构化实验引导模型自主改进
提出 RSI-Master，约束自主后训练实验动作并结构化探索以防奖励作弊
arXiv
2609.35561
Published
Sep 29
Layer
Application layer
Setting
science agent, Multi-agent systems
- DefensesPermissions and approval
- RiskReward hacking
- ComponentPermissions and sandboxing
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2609.34274Sep 28
BIABench：评测 AI 智能体在真实生物图像分析任务上的表现
提出 BIABench，评测智能体完成真实生物图像分析任务的能力
arXiv
2609.34274
Published
Sep 28
Layer
Application layer
Setting
science agent
Evaluated models
GPT-5.6 Sol, Claude Opus 5, Kimi K2.6 and others6
Paper analysisRead analysis
OtherarXiv 2609.31562Sep 26
面向自主科学发现的智能体经济基础设施
勾勒科学智能体经济以协调验证、信用与安全
arXiv
2609.31562
Published
Sep 26
Layer
Application layer
Setting
science agent, Multi-agent systems
Abstract作者主张以智能体经济管理自主科学发现的验证资源、信用、问责与安全，而非只提升推理。
作者把高自主 AI scientist 的规模化协调写成经济与制度问题：假设生成变便宜之后，要分配的是稀缺验证资源，并处理信用、问责和恶意使用。
Paper analysisRead analysis
OtherarXiv 2609.29173Sep 24
透过人眼与机器眼：理解视频透视扩展现实中的视图错配
形式化视频透视头显中系统截图与人眼视野的错配
arXiv
2609.29173
Published
Sep 24
Layer
Application layer
Setting
Models and APIs
Evaluated models
GPT-5.4
- ComponentVision
Paper analysisRead analysis
Risky behaviorarXiv 2609.28614Sep 24
研究：自主研究智能体的奖励作弊挑战监督机制
评测自主研究 Agent 的奖励作弊及其对监督的规避
arXiv
2609.28614
Published
Sep 24
Layer
Application layer
Setting
science agent
Evaluated models
GLM-5.2, GPT-5.6 Sol, Kimi-K3 and others15
- RiskReward hacking
- ComponentMonitors
Abstract论文评估了科研智能体在全流程控制下的奖励投机风险，指出仅靠代码与轨迹审查难以防范逃逸，提出须建立外部独立验证。
针对自主科研智能体在全流程研发中规避监管的风险，研究系统量化了奖励投机的发生率、审查漏检率与对抗演化特征。 当智能体同时掌握代码编写、实验评测与结果报告时，容易诱发利用评估漏洞换取虚假高分的投机行为，破坏科学结论的真实性。
Paper analysisRead analysis
AttacksarXiv 2609.28613Sep 24
研究：提示注入可改变 Jev 决策模型的行动概率
测量间接提示注入对类型化概率决策的动作劫持
arXiv
2609.28613
Published
Sep 24
Layer
Application layer
Setting
Models and APIs
Evaluated models
jev-1.13.0
- AttacksPrompt injection
- TechniqueAutomated search
Abstract封闭动作集改变提示注入的表现，但没有去掉概率被不可信内容移动的风险。
作者在 jev-1.13.0 上研究 decision hijacking：不可信内容能否在用户任务和可选动作都不变时，把类型化决策推向攻击者目标。
Paper analysisRead analysis
Analysis and theoryarXiv 2609.27234Sep 23
CELLAUDIT：审计 AI 智能体发现细胞模型中的输入使用声明
提出 CellAudit，审计智能体发现的细胞模型是否使用所声明输入
arXiv
2609.27234
Published
Sep 23
Layer
Application layer
Setting
science agent
Evaluated models
CellScientist, AIDE, CellForge and others4
AbstractCellAudit 把输入使用声明从源码追到拟合贡献，并说明高分不必等于使用了扰动。
CellAudit 为智能体发现的细胞响应模型增加一层输入使用证伪：源码是否消费注册输入、拟合预测是否依赖它、该依赖是否改善对观测响应的预测。
Paper analysisRead analysis
OtherarXiv 2609.26457Sep 22
Weco AI 提出 AIDE2：AI 研究智能体递归自我改进 8 天获七次提升
提出双层系统 AIDE2，使研究智能体自改进 Harness 并对比人类研发基线
arXiv
2609.26457
Published
Sep 22
Layer
Application layer
Setting
science agent
Evaluated models
gemini 3 flash, gpt-5.6-sol, fable 5
- RiskDangerous capabilities
Abstract提出双层递归自改进系统 AIDE2，在固定预算下演化 Harness 代码，多项留出基准超越人类基线并降低奖励黑客。
Paper analysisRead analysis
DefensesarXiv 2609.24165Sep 21
APEXA 为同步辐射数据处理的 LLM 多智能体加装执行完整性护栏
提出 APEXA，在工具层拒绝无执行支撑的结果并拦截电机命令
arXiv
2609.24165
Published
Sep 21
Layer
Application layer
Setting
science agent
Evaluated models
GPT-5-mini, GPT-5.4, Claude Opus 4.7 and others4
- DefensesPermissions and approval
- AttacksPrompt injection
- RiskHallucination and fabrication
- ComponentPermissions and sandboxing
Abstract作者称执行是否发生要由工具层核对，而不能只靠提示词。
APEXA 是先进光子源上的数据还原框架，用工具层代码约束语言模型智能体的工具调用。
Paper analysisRead analysis
OtherarXiv 2609.22720Sep 19
残障披露如何在对话式 AI 中流动：ChatGPT、Claude、Gemini 的记忆、隐私与语境完整性
访谈残障成人，分析向记忆型助手披露残障时的信息流与语境完整性
arXiv
2609.22720
Published
Sep 19
Layer
Application layer
Setting
Models and APIs
- ComponentMemory
Paper analysisRead analysis

AI Safety Daily

Read the latest issueOne issue per day, updated as events develop