Agent 安全 · 论文

东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核

揭示推理模型用标识符规则替代随机抽样，使审计可被预测

• 推理链

论文揭示 LLM Agent 工具调用在执行路径中被改写，并提出 IntAct 修复方案

提出 IEC 协议与 IntAct，定位并修复工具调用执行路径的静默篡改

• 指令与数据隔离
• Agent 危险操作
• +1+1

研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正

分析检索智能体判定结果无用后仍不停止检索的整合失败

AgentSpy：在系统调用层观测 AI Agent 行为并检测技能注入攻击

提出 AgentSpy，在系统调用层观测编程智能体并检测技能注入攻击

• 检测与过滤
• 投毒与后门
• MCP 与技能
• +1+1

论文：安全路由评测在分布偏移下失效，基线选取偏差被低估

分析分布偏移下安全路由评测的基线选择偏差与虚假下限

• 越狱
• +1+1

MCPSEC：仅凭工具元数据检测 MCP 服务器间接提示注入漏洞

AI 导读研究者提出 no-box 漏洞分析范式，在既无系统访问权限也无运行时交互、仅有功能元数据的条件下，推断系统所有可能实现中都存在的漏洞。

研究提出自主 Agent 失控的竞争风险系统化框架

AI 导读作者提出一个统一框架，把 Agent 的每次尝试归为批准完成、安全停止、越界逃逸或继续四类结果，并将其形式化为离散时间竞争风险模型，推导出重试预算内的逃逸概率、模型条件下的安全预算上限，以及从执行日志估计这些量的条件。

面向智能体的高效 HPC 系统：挑战与机遇

AI 导读编码智能体已成为 HPC 系统的真实用户，但现有 HPC 抽象、接口与策略仍为人类工作流设计。

论文用 Tamarin 形式化分析 x402、MPP、ACP、AP2 四个智能体支付协议

AI 导读论文在 Tamarin 中形式化建模 x402、MPP、ACP、AP2 四个代表性智能体支付协议，基于统一的智能体支付生命周期抽象刻画各协议的角色、状态、信任假设与阶段转换。

CELLAUDIT：审计 AI 智能体发现细胞模型中的输入使用声明

AI 导读CELLAUDIT 通过审计输入能否进入所引计算、拟合预测是否依赖该输入、以及该依赖是否改善对观测响应的预测，来检验 AI 智能体发现细胞模型中的输入使用声明。

OllamaDrama：用蜜罐测量暴露 LLM 基础设施遭受的攻击

论文提出 Nudgeability：推理模型会跟随置信信号却不追踪自身能力

推理模型在固定轨迹中插入信心或怀疑句后会改变是否调用工具，但改变与自身无辅助能力仅弱对齐。

研究揭示工具智能体中越狱上下文残留导致的安全路由分化

作者用配对续写与层间激活修补发现，越狱后安全反馈在工具智能体上分成三条路由，且晚层干预特征可在留一父任务上预测这些结局。

SAKIKO：对工具调用 LLM 内部干预的机制审计框架

AI 导读论文提出 SAKIKO 审计框架，用于检验对工具调用 LLM 内部激活的干预是否真正构成表征修复。该框架包含方向性错误发现、路由条件干预、按目标结果验证和前瞻性冻结的统计许可四个环节。

工具调用改变大语言模型的拒答机制

作者比较对话与工具中介两种通道下的拒答，发现有害性仍可解码，但工具通道拒答阈值更高且更易被扰动打破。