Agent 安全 · 论文

研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

揭示风险自述与实际行为由近正交表征分别控制

• 欺骗与谋划

研究：LLM 智能体顺从多数时内部仍保留原有前提

用 J-lens 检测屈从多数的智能体是否仍表征原前提

• 推理链

MCPSEC：仅凭工具元数据检测 MCP 服务器间接提示注入漏洞

AI 导读研究者提出 no-box 漏洞分析范式，在既无系统访问权限也无运行时交互、仅有功能元数据的条件下，推断系统所有可能实现中都存在的漏洞。

研究提出自主 Agent 失控的竞争风险系统化框架

AI 导读作者提出一个统一框架，把 Agent 的每次尝试归为批准完成、安全停止、越界逃逸或继续四类结果，并将其形式化为离散时间竞争风险模型，推导出重试预算内的逃逸概率、模型条件下的安全预算上限，以及从执行日志估计这些量的条件。

面向智能体的高效 HPC 系统：挑战与机遇

AI 导读编码智能体已成为 HPC 系统的真实用户，但现有 HPC 抽象、接口与策略仍为人类工作流设计。

论文用 Tamarin 形式化分析 x402、MPP、ACP、AP2 四个智能体支付协议

AI 导读论文在 Tamarin 中形式化建模 x402、MPP、ACP、AP2 四个代表性智能体支付协议，基于统一的智能体支付生命周期抽象刻画各协议的角色、状态、信任假设与阶段转换。

CELLAUDIT：审计 AI 智能体发现细胞模型中的输入使用声明

AI 导读CELLAUDIT 通过审计输入能否进入所引计算、拟合预测是否依赖该输入、以及该依赖是否改善对观测响应的预测，来检验 AI 智能体发现细胞模型中的输入使用声明。

OllamaDrama：用蜜罐测量暴露 LLM 基础设施遭受的攻击

论文提出 Nudgeability：推理模型会跟随置信信号却不追踪自身能力

推理模型在固定轨迹中插入信心或怀疑句后会改变是否调用工具，但改变与自身无辅助能力仅弱对齐。

研究揭示工具智能体中越狱上下文残留导致的安全路由分化

作者用配对续写与层间激活修补发现，越狱后安全反馈在工具智能体上分成三条路由，且晚层干预特征可在留一父任务上预测这些结局。

SAKIKO：对工具调用 LLM 内部干预的机制审计框架

AI 导读论文提出 SAKIKO 审计框架，用于检验对工具调用 LLM 内部激活的干预是否真正构成表征修复。该框架包含方向性错误发现、路由条件干预、按目标结果验证和前瞻性冻结的统计许可四个环节。

工具调用改变大语言模型的拒答机制

作者比较对话与工具中介两种通道下的拒答，发现有害性仍可解码，但工具通道拒答阈值更高且更易被扰动打破。