其他arXiv 2610.00093
自我演化智能体的安全性综述：SAVER 过渡中心框架
提出 SAVER 框架综述自演化智能体的安全状态转移
- arXiv
- 2610.00093
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 组件记忆
摘要SAVER 用状态转移追踪自演化安全：合法状态可经复用变不安全，后代修复证据仍少。
SAVER 是一篇关于自演化智能体安全的转移中心综述：安全对象从单次回答或单次授权动作，转到可复用状态在多次转移中的谱系。
- 其他arXiv 2609.10144
AIOS 的内核管理共享内存：面向系统级个性化的新抽象
研究提出"内核管理共享内存"，由智能体系统内核而非单个智能体统一负责记忆检索、隐私执行与提示注入。
- arXiv
- 2609.10144
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 测试
- GPT-4o、Llama-3.1:8B、Qwen-2.5:7B
- 组件记忆
摘要作者称内核集中管理记忆，能拿到无约束上下文的大部分个性化收益，并降低延迟。
kernel-managed shared memory 把多智能体的检索、隐私和注入收进 agent-system kernel，并在 AIOS 上与三种替代方案比较。
- 其他arXiv 2609.12413
SoK 综述：智能体 AI 时代的越狱攻击、防御与实践考量
综述智能体执行链路中的越狱攻击、防御与实践权衡
- arXiv
- 2609.12413
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- Qwen3.5-4B、Llama-3.1-8B-Instruct
摘要SoK 将越狱重放到智能体流水线，并用两种模型检验回复层防御的边际与代价。
Mia 等人把越狱安全从单轮回复扩展到智能体的规划、记忆、工具和智能体间通信，并问既有结论在更强原生对齐下是否还成立。
- 其他arXiv 2609.15906
综述提出面向工具调用 AI 智能体的授权架构
提出面向工具调用智能体的授权主体层级与结构要求
- arXiv
- 2609.15906
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 组件权限与沙箱
摘要叙事综述用主体层级把工具调用授权收成七项要求，并标出强制与聚合两处缺口。
这是一篇关于工具调用型智能体授权架构的结构化叙事综述，分析单位是每一次使模型之外系统产生效果的调用。
- 其他arXiv 2609.23894
综述提出智能体 AI 安全的跨维度威胁分类 T={S,B,P,A}
提出威胁分类 T 并映射智能体红队研究与安全基准的覆盖
- arXiv
- 2609.23894
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 组件推理链
- 其他arXiv 2609.25413
论文提议前沿 AI 开发者开展嵌入式评估
主张开展嵌入式评估，审查内部智能体监控、权限与模型对齐
- arXiv
- 2609.25413
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 组件监控器
摘要论文建议前沿开发者现在就以接近员工的现场访问，持续审查内部监控、权限与对齐。
嵌入式评估是一种第三方评估：独立评估者在前沿 AI 开发者现场获得接近员工的系统、人员与文档访问，用来审查依赖内部系统与实践的风险。
已经到底了