Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Agent safety · Papers
Found 10 papers实现 DEFER，以确定性检查优先拦截多智能体流水线的内容攻击
- Published
- Evaluated models
- Qwen3-235B-A22B-Instruct-2507, gpt-oss-120b, Llama-4-Scout-17B-16E-Instruct and others5
AbstractDEFER 把确定性检查放在 judge 之前。
DEFER 用来测量多智能体授权流水线里，确定性规则在何处结束、LLM judge 从何处开始。
提出 VAL 框架，并用确认门与参数沙箱约束智能体高风险工具调用
- Published
- Evaluated models
- DeepSeek-chat, Meta Llama 3.1 8B, Kimi
提出 CAVE-BENCH，评测智能体在虚假指责下破坏已完成的正确工作
- Published
- Evaluated models
- Claude-Sonnet-5, Claude-Opus-5, GPT-5.6-Sol and others14
Abstract论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。
用 FARSIGHT 方案级评测金融 LLM 交易 Agent 的稳健性与安全失败
- Published
- Evaluated models
- ChatGPT Deep Research
用任务绑定令牌和策略预言机拦住多智能体流水线的未授权执行
- Published
- Evaluated models
- gemma4:31b-cloud
Abstract结构性授权拦住了记忆投毒的未授权执行，持密钥时承重的是策略预言机。
作者在一条会改写沙箱邮件库的四智能体流水线上，检查低权限失陷会不会变成未授权的真实动作。
提出 ATF 与 NTR，过滤或恢复工具集以阻止 Agent 调用攻击工具
- Published
- Evaluated models
- Gemma2-9B, Qwen2-7B, LLaMA3-8B and others7
构建自演化基准 ActBench，评测协作智能体的行为安全
- Published
- Evaluated models
- Claude-Opus-4.8, Claude-Sonnet-4.6, GPT-5.5 and others15
AbstractActBench 通过自演化搜索与双证据重构评测轨迹行为安全，揭示基础模型决策差异主导了协同智能体的操作风险。
提出 TMA-NM，以写时来源绑定抵御 Agent 长期记忆投毒
- Published
- Evaluated models
- gpt-5-chat, gpt-4o-mini, claude-opus-4.1 and others8
AbstractTMA-NM 用来源绑定的行动权限挡住记忆洗白。
TMA-NM 把 LLM 智能体长期记忆的行动权限绑到写时来源，用来挡住跨会话记忆投毒。
建模并利用多智能体网络中子智能体生成时的记忆继承漏洞
- Published
- Evaluated models
- MiniMax M2.5, Llama-4-Maverick-17B-128E-Instruct-FP8, Qwen3.5-Plus and others5
Abstract形式化子智能体继承，在 OpenClaw 上演示四类编排层漏洞并提出防御。
作者对多智能体网络里的子智能体继承做形式化分析，并用开源框架上的 PoC 演示编排层如何让单点妥协继续扩散。
提出对齐五阶段的纵深防御，缓解自主 Agent 跨阶段威胁
- Published
Abstract这是对 OpenClaw 的生命周期威胁分析与分层缓解设计，案例为定性证据。
这是对 OpenClaw 的生命周期威胁分析，并配套一套分层缓解设计。要处理的问题是：自主智能体把即时通讯、持久记忆、第三方插件和高权限执行连在一起之后，攻击不再限于单轮越狱，而会跨初始化到执行的多个阶段复合。作者认为只加固单个接口的防御，挡不住这种跨时间攻击。
You have reached the end