Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 15 papers Another 265 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Proposes RATED, which reranks agent tool retrieval using execution feedback
Published Oct 10
Evaluated models DRAGON 提出 AI Agent 主张的可审计性框架与裁决规则
Published Oct 6 Abstract 主张须事先固定四要素。作者给出把关于已部署智能体的主张写成可核查陈述的条件，而不是检测器或攻击方法。
提出 statepoint 运行时，一致回滚并分支 Agent 的本地与远程状态
Published Sep 28 Abstract statepoint 支持回滚与分支。Planarian 是与现有 harness 协同的运行时，把智能体环境收成可恢复、可分支的时间点。
提出 HTN 协调层，在执行前固定多服务器 MCP 工具顺序
Published Sep 28 Abstract 作者提供可重放的 MCP 协调架构，但未用实测基线量化相对 LLM 的成本改善。HTN 规划在这里承担跨服务器工具协调层的角色。 作者关注 MCP 宿主逐步选择工具时的复现、推理成本和执行前检查问题。
作者提出 Issuer-Sovereign Agentic Payments，由发卡行决定是否生成认证值。论文无实验。
Published Sep 23 Abstract 发卡行按已批规则决定是否生成认证值，支付仍走原有卡通道。Issuer-Sovereign Agentic Payments 把智能体消费限额留在发卡行认证步骤里，而不是在扣款时依赖银行外的 credential provider。
提议前沿开发者托管嵌入式评估，审查内部智能体监控、权限与对齐
Published Sep 22 Abstract 论文建议前沿开发者现在就以接近员工的现场访问，持续审查内部监控、权限与对齐。嵌入式评估 是一种第三方评估：独立评估者在前沿 AI 开发者现场获得接近员工的系统、人员与文档访问，用来审查依赖内部系统与实践的风险。
提出弹性沙箱基础设施 DSec，支撑大规模智能体训练
Published Sep 19 Abstract DSec 是面向大规模智能体 RL 的多后端生产沙箱，用分层、按需镜像和训练协同维持高密度。DSec 是 DeepSeek-AI 的生产沙箱平台，用来支撑从 DeepSeek V3.2 到 V4.1 的智能体 RL 与评测，而不是报告某个模型的任务准确率。
测量远程 MCP 生态的网络集中度与认证对扫描的阻挡
Published Sep 17 提出成本感知的 MCP 编排框架，用确定性利用图与免费层模型做自动化渗透测试
Published Sep 16 Abstract 确定性利用图加免费层级联在十次自建运行上测得付费成本为零。PentestChain 是一个十阶段、经 MCP 暴露的自动渗透框架，用确定性利用图把 7B 本地模型挡在利用关键路径之外，并把每次交战的美元成本当作实测指标。 。
综述自主渗透智能体的继承攻击、架构攻击及护栏缺口
Published Sep 15 Abstract 用双轴分类连接渗透智能体的架构、攻击与护栏，并认为现有防御仍按组件分开。这是一篇关于自主 AI 渗透测试智能体的安全综述：用架构和生命周期两轴整理威胁与护栏，不做新的攻击实验。
综述工具调用 Agent 的授权架构，提出主体层级与结构要求
Published Sep 15 Abstract 叙事综述用主体层级把工具调用授权收成七项要求，并标出强制与聚合两处缺口。这是一篇关于工具调用型智能体授权架构的结构化叙事综述，分析单位是每一次使模型之外系统产生效果的调用。
提出结合 Scientist AI 监督与系统级控制的智能体保障架构
Published Sep 9 Abstract 作者梳理事件中的多层失效，主张监督模型、系统控制与证据治理并用。Lu 与 Bengio 给出的是一套可逐层上移的保障架构和一组事件归类，不是已测量的防御系统。
用 SAVER 框架综述自演化智能体的状态复用安全
Published Sep 8 Abstract SAVER 用状态转移追踪自演化安全：合法状态可经复用变不安全，后代修复证据仍少。SAVER 是一篇关于自演化智能体安全的转移中心综述：安全对象从单次回答或单次授权动作，转到可复用状态在多次转移中的谱系。
提出多智能体输出与跨部署方委派的两层存证
Published Aug 31 Abstract 两层证明记录放出字节与边授权。部署方侧的两层证明，用来在多智能体跨部署方委托之后回答两个事后问题：谁放出了这些字节，这条跨部署方边有没有父方授权。
系统化 LLM Agent 技能的定义、生命周期与治理
Published Feb 24 Abstract 技能 SoK 用四元组、生命周期和七种模式归档文献，并转述策划与自生成技能的效用差。这是一篇 LLM 智能体技能层的知识系统化，不是作者新做的攻击或防御实验。 。
You have reached the end