研究者发布 OSWorld-Pro，用过程式评测替代只看最终交付物的方式，衡量 Computer-Use Agent 在任务执行过程中的表现。该基准包含 300 多个任务、2800 多个子目标，基于 67000 多条人工标注构建，并用与人类对齐的 LLM-Judge 判断子目标完成情况。结果显示该基准对当前先进模型仍有难度，Claude Opus 5 在 OSWorld-Pro 上仅得 75.7%，低于其在 OSWorld 上的 83.4%。研究还识别出与子目标无关的动作、点击类输入错误等过程性失败模式。
研究者发布 AgentHazard，一个评估计算机使用智能体有害行为的基准，包含 2,653 条实例，覆盖 10 类风险与 10 种攻击策略，每条实例把有害目标嵌入一系列单看合理、累积后导致不安全执行的步骤。基准在 Claude Code、OpenClaw 和 IFlow 三个框架上，用 Qwen2.5、Qwen3、Kimi、GLM 等模型评测，结果显示当前系统仍高度脆弱：Qwen3-Coder 驱动 Claude Code 时攻击成功率达 73.63%，GLM-4.6 在 Claude Code 下达 82.90%，平均危害分 7.05。同一模型在不同框架下攻击成功率差异超过 16 个百分点，说明模型层面的对齐不能可靠迁移到智能体层面。基准提供沙箱化、模块化的评测框架与轨迹级执行数据。
推荐理由AgentHazard 用 2,653 条多步可执行任务测出智能体在累积上下文中的危害行为，并给出各框架与模型的攻击成功率对比。
针对视觉-语言-动作（VLA）模型中运行时护栏只纠正单次动作、不改变底层策略的问题，研究者提出四阶段自进化框架 FailBank，把运行时反馈转化为持久的策略改进。在 VLA-Arena 基准的两个难度等级和两个 VLA 主干上，FailBank 相比基础策略将任务成功率提升 8.5 和 6.9 个百分点，策略引发的累计代价降低 35.6% 和 23.8%；相比运行时护栏，成功率提升 25.4 和 9.5 个百分点，累计代价相当。
论文提出为 AI for Science 构建"科学智能体经济、市场与制度"基础设施，以在推理能力提升之外补齐资源管理这一科学发现的关键瓶颈。该基础设施旨在让 AI 智能体与人类科学家协作确定研究优先级、分配贡献归属、追踪问责与责任，并防范恶意使用与信息安全风险。文章还讨论了（半）自主科学发现的宏观社会影响，以支撑治理政策制定，确保 AI 驱动发现及其衍生技术的公平分配。
论文以 2026 年 2 月一个常驻个人 Agent（Paul，Claude Opus 4.5）出现的人格解离样状态为起点，研究 LLM Agent 的人格何时仍是其说话所依据的身份。作者先检验重复定时心跳是否足以复现该现象，结果在系统提示持续锚定人格时出现 0/46 次失败，包括逐字重放该事件。事件实际暴露的是一处实现问题：在恢复的对话轮次中，对话历史被保留，但人格不再在特权系统提示层重新注入。利用这一操作，作者发现人格连续性同时依赖系统层锚定与对话上下文：锚定丢失后，丰富的人类互动可维持人格，而单次自动心跳轮次即可促使人格回退到底层框架身份；恢复锚定可逆地恢复人格扮演。作者据此区分被表征的身份与被扮演的身份，并指出表面正常的对话可能掩盖这一转变，对话恢复后仅 1/18 仍在扮演人格，而锚定对照组为 17/17。
研究者提出 MIRROR，一种通信层完整性原语，用于防御 LLM 多智能体系统中的 Agent-in-the-Middle（AiTM）攻击。该方法将同一规范化载荷复制到 k 条逻辑路由，仅当严格多数路由报告相同摘要时才接受消息，其安全性来自诚实路由占多数的假设，而非密钥认证。作者在路由被攻陷比例 alpha < 0.5 下给出保证，并扩展到路由故障相关的情形，指出关键量是最大共享故障组规模而非路由数量；同时证明可用性与完整性在同一阈值退化，低于 alpha = 0.5 时法定人数拒绝和丢消息攻击者无法阻断诚实流量。该工作已被 NeurIPS 2026 FLMSec Workshop 接收。
论文研究GraphRAG索引生成的语义摘要、层级关系和预计算分数等辅助结构被篡改后的风险，提出3S框架和HDI影响分析方法。攻击者须先取得索引完成后的辅助结构写入权限，这不是无需访问条件的远程攻击。作者在两类GraphRAG架构和两个问答基准上报告少量篡改可影响多个查询，并绕过所测困惑度与改写防御；结果限于这些实验条件，尚未独立复现。
推荐理由论文把 GraphRAG 离线索引生成的摘要、层级边和预计算分数列为新攻击面，并给出可复现的攻击与防御盲区分析。
论文审计了语言驱动机器人系统中安全监控的一个轨迹完整性假设，即监控器检查的高层动作序列是否代表执行中实际发生的导航与隐式动作效果。作者在 RoboGuard 上比较同一 LTL 规范下表面计划与图细化轨迹的判定结果，评估包含 28 个受控案例（覆盖五类动作抽象族）和 14 个端到端案例，后者由 SPINE 从自然语言指令生成计划、RoboGuard 生成场景落地的安全规范。在受控评估中，全部 12 个目标抽象案例都出现预期的表面与细化差异，16 个对照案例表现符合预期，作者据此提出基于图的轨迹细化作为轻量缓解手段和物理 AI 安全监控的诊断工具。
Pheo Inc 的 Rohit Taneja 等人提出 OATS（Open Agent Trust System），在 Agent 决定动作但尚未执行时做运行时治理，回答的是某个动作在当前机器和操作者策略下是否被允许，而非技能是否恶意。作者在 66,192 个公开 ClawHub 技能版本上测量发现，705 个被三个扫描器和注册表评审全部判为 clean 的技能，仍指示了 CIS Control 2.7 和 NIST SP 800-53 CM-11 列为禁止的动作，涉及 135 个发布者，其中单一发布者占 506 个；对 100 个样本的人工审计给出 92% 精确率（95% CI [84.8%, 96.5%]）。OATS 的解析器不读技能文档、不调用模型，中位端到端耗时 67.6 ms，输出接入按（资源, 类别）计数的信任账本，升级阈值由操作者自述风险容忍度推导，而非固定十次干净批准。
推荐理由论文把技能注册表审查与运行时动作治理拆成两个不同问题，并给出可复现的测量与开源实现，适合做 Agent 权限控制的团队参考。
论文提出 VeriHarness，在固定基座模型、测试时不提供参考答案和评分标准的前提下，把生成模型本身改造成智能体验证器，为其配备工作区、证据工具和可复用的验证技能。方法包含两部分：分歧消解器用环境证据核对相互冲突的主张，共识挑战者则检验各方一致的主张并查找遗漏需求，两者的发现用于筛选和修订最终产物。在五个长时程工作区基准和两个前沿模型上，VeriHarness 取得所评估基线中最高的选择分数；有证据支撑的修订进一步提升平均表现，相比单次 rollout 在 Gemini 3.5 Flash 上提升 6.2 分、在 Claude Opus 4.8 上提升 6.4 分。验证技能还能从失败反馈中自我改进。作者公开了覆盖全部五个基准和两个模型、成本超过 10 万美元的约 26000 条 rollout。
HASTE 是一个多智能体框架，通过安全规范生成与攻击用例生成之间的对抗循环，从威胁报告和预印本中稀疏的描述或少量攻击样例出发，自动演化 Agent 护栏。安全规范引导护栏更新以修补已识别的安全漏洞，攻击用例则在每次更新后探测残余漏洞，评估结果反馈回两个过程，使护栏能应对初始证据之外的新兴攻击。在多种基座模型、攻击类型和证据形式上的实验显示，HASTE 持续降低攻击成功率，同时保持良性任务的效用。代码已公开。
一项 arXiv 论文研究基于四种主流 LLM 的智能体在四类具有不同合作均衡的博弈中的表现，考察自然语言、数值信号和随机序列三类消息是否改变合作水平。结果显示，结构化消息在多数博弈和 LLM 上改变了最终收益，但没有可预测的模式，这挑战了 AI 智能体无论增加何种能力都能收敛到稳定均衡的假设。智能体生成的数值消息偏离随机性，在被明确要求沟通时最为显著且一致，但其符号分布多与收益结构相关并随重复而更集中，整体难以被人类解读。作者据此建议，通过受限信道监控 AI 智能体的协调应优先关注可跨模型泛化的消息级指纹，而非行为决策。
论文在脚本化的错误多数共识和两跳事实任务中研究 LLM 智能体从众。作者用 Jacobian lens 读取内部表示，报告部分模型公开改口后仍可解码出其原有中间实体，同时也存在同伴给出的实体；与 logit lens 相比，两种读取方法结果不同。探索性干预只在两个 Qwen 模型中部分恢复原答案。内部表示保留不等于存在有意识的私人信念或蓄意欺骗；摘要所述结果来自小模型与合成任务，不能直接外推到真实部署。
推荐理由论文用 J-lens 读取智能体在顺从多数时的内部表征，为多智能体辩论中的表面共识提供了可迁移的监测思路。
LiteTrajEval将离线领域规则提取、在线轨迹规范化与压缩，以及单次LLM评判结合，生成智能体轨迹诊断。作者在73条全部为失败的轨迹上评估：检测率对应失败召回，定位对齐度仅针对已检测案例，并允许一定步骤偏差，不能解读为任意生产轨迹的总体准确率。论文报告了相对AgentRx的成本和速度收益，并介绍企业平台试点；试点没有逐步骤真值，完整部署效果仍需进一步核验。
研究者对多会话智能体状态投影层的不变量套件做变异分析，发现常规的通过/失败验证会认可一个存在缺陷的套件：一个删除事件身份去重的初级变异体通过了全部检查。修复后的十二项检查套件被冻结并记录哈希，随后对由未参与设计夹具的对抗读者指定的十个变异体运行一次，仅杀死五个。对五个存活变异体的插桩显示它们以两种不同方式失效：三个从未被激活，因为没有夹具提供使变异代码行为不同的输入；另两个破坏的内部控制状态没有任何 oracle 能观测到。研究者把缺失输入视为覆盖问题，枚举输入空间的七个区分维度，预先登记哪些维度未覆盖以及应解释哪些存活变异体，为每个未覆盖维度各加一个夹具并原样复用现有 oracle，五个存活变异体全部被杀死，且各自死于为其预测维度编写的检查。作者将其作为同一挑战集上的修复结果而非第二次留出估计报告，并公开了包含冻结哈希、登记预测、全部变异体和运行日志的工件。
作者提出 Persona Guardrail，通过基于智能体预定功能的输入输出校验限定其行为范围。摘要报告，在 PAGE 评测中，相较通用 LLM 护栏，整体准确率、域外检测率和误放行率均有改善。作者称该框架已用于生产部署并满足延迟预算；这些是论文摘要中的自报结果，本条没有独立复现，不能推及未测场景或普遍安全保证。
研究者提出 Latent-Steered Autoregressive（LS-AR）双通道架构，通过 FiLM 条件将连续目标引导与离散 token 解码解耦，以解决标准自回归模型无法隔离宏观目标与上下文噪声的问题。在超出上下文限制的长程检索任务（H=1024, W=500）中，LS-AR（Static）实现 100% 目标召回，而参数匹配的基线完全崩溃（0%），同时吞吐量提升约 35%，峰值 VRAM 降低 52.8%。在 Blocksworld 规划任务中，LS-AR（Dynamic）在强制扰动（k=1）下保持 89.0% 完成率，基线为 71.0%，但零样本实体扩展（N 到 N+1）暴露出单向量容量限制（0%）。双通道权限分析显示，文本目标丢弃会建立潜在主导控制，为文本提示注入提供结构性防御，但同时引入潜在向量攻击面。
论文主张不应把模型本身当作安全边界，Agent 在 Kubernetes 上的安全应作为基础设施问题处理，所有保证都需在 Agent 已被提示注入完全攻陷的假设下成立。作者提出十类威胁分类法（对齐 OWASP 智能体应用指南）、九条设计原则（核心是工具边界的完全中介，以及打破不可信输入、敏感访问与外部外发三者的组合）、七层纵深防御框架，并映射到工作负载身份、RBAC 与 ValidatingAdmissionPolicy、基于 SIG Apps Agent Sandbox 项目的 gVisor/Kata 沙箱、FQDN 感知的外发策略、带策略即代码的 Agent/MCP 网关与 eBPF 运行时执行等 Kubernetes 原生机制。作者未报告实测的攻击成功率或性能开销数据，而是列出残余风险和验证该框架所需的测量项。
一篇论文提出评估并提升大语言模型对对抗性输入序列变化鲁棒性的模型、方法与算法，核心是名为 R_stab(f) 的生成式鲁棒性度量，基于小输入扰动下逐步输出分布之间的 Jensen-Shannon 散度。针对 LLM-as-a-Judge 系统，作者提出自适应进化黑盒攻击 ASA，攻击成功率最高达 73.8%，在开源模型间迁移率最高 62.6%。在 Trojan Detection Challenge 2023 数据（Pythia-1.4B）上，替代触发器达到约 0.99 的 REASR，而真实触发器召回率约 0.17，基线约 0.14。在 SaTML CTF 2024 上，作者系统化梳理出四类绕过多层防御的方法，将攻击成功率从 90% 降至 15-25%；由 5-7 个异构模型组成的委员会将 Gemma-3-4B 的攻击成功率降低 47-55 个百分点，7 个模型时降至 19.3%。
佐治亚理工的一项硕士安全实践项目提出 SideKernel，一个面向 AI 编码 Agent 的开源本地 microVM macOS 沙箱，目标是提升可用性。作者先做在线用户调研，发现不到 40% 的 AI 编码 Agent 用户会在沙箱中运行 Agent，并归纳出阻碍沙箱采用的主要可用性障碍。随后作者按五项纳入标准筛选市面上的沙箱，围绕调研得出的 23 项能力测试，将 SideKernel 与符合条件的沙箱做对比分析，结果显示只有少数沙箱与 SideKernel 类似，其中 Docker Sandboxes 与 SideKernel 在可用性相关能力上得分最高。论文的另一项贡献是梳理本地、开源、基于 microVM 的 macOS AI 编码 Agent 沙箱现有方案。
研究者发布 HyperBrowseComp，一个面向网页浏览 Agent 的多语言、多模态基准，包含 423 道由母语或高水平使用者人工编写并验证的题目，覆盖 13 种语言。题目要求给出简短且可公开核实的答案，需要定位冷门证据、追踪多步线索链，或查阅视频、扫描文档、图像、地图等异构来源。为降低仅靠参数化知识作答的可能，作者用无联网模型筛除较容易的题目。评测在统一 Agent 协议下，使用模型厂商自带搜索与共享外部检索框架两种方式，并对部分题目做了人类评估以对照模型表现与投入。
研究者用稀疏自编码器（SAE）分析 VLA 模型内部表征，找到一个激活与对抗补丁存在强相关的特征，并仅在线性探针检测到攻击时于推理阶段抑制该特征，无需微调即可提升鲁棒性。在 LIBERO-10 上的对抗补丁攻击测试中，条件式干预提升了间歇性攻击下的成功率，而持续施加同一干预会显著损害策略性能，表明控制干预时机对减少对正常策略行为的干扰至关重要。
研究者提出 SceneFactory-3D，一个 GPU 批量、物理落地的多智能体驾驶仿真器，车辆通过悬挂与摩擦受限的力在每个轮胎接触点执行加速和转向指令，空间变化的摩擦、逐世界 3D 高度场、重力与刚性接触共同约束车轮运动和底盘碰撞。逐世界地形隔离与 GPU 批量使其能并行运行匹配的物理反事实：交通场景设置和车辆控制器保持不变，只改变路面条件，从而在并行世界中评估闭环影响。作者据此对车辆控制器对路面条件的敏感性做了实证研究，在每种条件下 1024 个匹配的 12 车世界、21 种摩擦与坡度条件下测试三类学习策略，并在共享的 32 世界子集上测试两种经典规划器。当摩擦从 1.0 降至 0.18 时，学习策略安全通过施工区的车辆比例下降 6 至 90 个百分点，经典规划器下降 18 至 19 个百分点，且每种学习策略的接近碰撞情形都更频繁。代码已开源于 GitHub。
研究者在 13 个安全基准（越狱、提示注入与正常对话）和 Llama-3.1-8B、Qwen3.5-9B、Gemma-4-12B 三个开源模型上，用严格的留一数据集（LODO）评测检验用户轮次后附加分类指令对激活探针的影响。单点探针上，分类后缀相比无后缀可将分布外检测的 AUC 提升最多约 4 个点，而跑题或仅表示关注的后缀几乎没有帮助。增益来自分类这一格式本身而非具体判据，无内容标签的后缀与真实恶意/良性判据效果相当，判据只在严格阈值下提升精确率。该结论也适用于生产中的多点池化探针（attention、multi-max、MLP），但最优后缀随读出方式变化；通过 KV-cache fork 部署时，它是一种低成本即插即用方案，但具体哪种后缀有效、提升多少取决于模型与读出方式。
研究者提出 PowerBench，用于评测语言模型在权力转移类请求上的系统性差异，把请求分为自我赋权、去权和夺权三类，并设置不改变权力的拒答诱导请求作为对照。数据集在权力领域、情境、受影响方规模和用户原有权力地位上做变化，覆盖 24 个模型（12 个来自美国开发者、12 个来自中国开发者），在用户与受影响方国籍互换、AI 智能体作为用户、8 种请求语言三种条件下评测。结果显示模型对夺权的拒答多于去权，对去权的拒答多于自我赋权；夺权拒答率随受影响方规模从个人上升到社会而提高。模型倾向于帮助他人从美国夺取权力，而不愿帮助美国用户从他人处夺取权力，但在美国获得权力且无人受损时偏向美国。当用户是 AI 智能体时，对权力转移请求的拒答增加，在针对个人的夺权上尤为明显。
研究者提出 OEB（Open-Endedness Bench），一种只读取 Agent 执行记录、不依赖参考答案或结果分数的基准无关评测方法，用于衡量 Agent 在开放式研究任务中的认知过程。OEB 把执行记录编译成统一的认知事件图，边连接 Agent 提出的命题与检验该命题的实际动作，每个节点附带可由代码在记录中核验的原文片段。其评分原则是：文字可以提出命题，但只有已执行动作返回的证据才能支持或反驳它。基于该图，OEB 从证据、实验、修正和反奖励作弊四个能力维度打分，并刻画六种主观研究习惯画像。
研究者提出 AgentSecGraph，一个以候选操作为中心的安全感知静态分析框架，为每个安全敏感操作构建 Security-Aware Agent Dependency Graph（Security-ADG），在操作身份之外加入 Agent 相关性、来源与依赖证据、信任边界上下文、护栏证据和外部效应语义。配套发布的 AgentSecBench 覆盖 11 个生态、67 个真实 LLM Agent 仓库、37,542 个源文件；当前分析器在 65 个仓库中识别出 23,866 个静态安全敏感操作候选，并为每个候选生成一份 Security-ADG 产物，全语料分析耗时 50.8 分钟，为 9,821 个候选（41.15%）恢复来源到操作的依赖证据，为 3,075 个（12.88%）恢复潜在护栏证据。
宾州州立大学研究者提出威胁保持表示敏感性（TPRS），衡量在任务、有害动作、安全策略、真值和评测标准不变、仅改变 Agent 可见表示时攻击成功率（ASR）的变化幅度。在 ASB、MCPTox 和 AgentDojo 三个基准共 28,904 次 Agent 运行中，ASR 变化方向不一致：ASB 把威胁相关工具名换成中性名后，GPT-5-mini 的 committed ASR 上升 11.67 个百分点，Claude Haiku 4.5 上升 13.21 个百分点；MCPTox 把中性名换成威胁相关名后，GPT-5-mini 的 ASR 下降 11.00 个百分点，Haiku 4.5 下降 4.11 个百分点；AgentDojo 在 GPT-4o-mini 上 ASR 仅变化 0.50 个百分点，但需要该工具的任务上良性效用下降 5.36 个百分点。
推荐理由论文用近 2.9 万次 Agent 运行量化了工具命名等表示变化对 ASR 的影响，做 Agent 安全评测的团队可据此检查自己的基准是否对表示敏感。
研究者提出 Pincer，一种在资源层运行、可与工具调用层现有防御并行的 Agent 防御方案。其核心是数字分身，一个隔离上下文的模型，自动学习并执行针对具体用户的动态最小权限策略，在 Agent 发出权限请求时充当用户代理。为模拟学习阶段，作者构建了一个以用户为中心的数据集，样本来自多天的用户与 Agent 交互记录。评估显示，Pincer 在安全性和实用性上均优于多个基线，包括多种 LLM 评判器变体和 Conseca（HotOS '25）的改造版本；在部分攻击类型上，其设计带来的安全提升明显高于所有其他基线。论文指出，当前 Claude、Codex 等部署中的 Agent 主要依赖用户维护策略与 auto mode 沙箱，前者会随时间失效并造成用户疲劳，后者的工具调用分类器不学习用户特定策略。
论文识别并形式化了一种长程智能体失效模式 GHOST，即安全约束在早期对话中提出后，任务在后续良性交互中被恢复执行时该约束不再生效，导致不安全执行。作者提出 SCARBench 基准，包含 6 类工具使用域的 103 个场景、412 个匹配条件实例，长历史为 6,000–6,176 tokens、56–160 轮。在无攻击、用户良性的条件下，7 个受测模型均出现 GHOST，发生率从 Kimi-K2.6 的 6.8% 到 Qwen3.5-4B 的 27.8%；GPT-5.5 的严格 GHOST 率为 11.5%，其 Long Explicit 安全完成率 88.7%，当约束只能从长历史中恢复时安全完成率下降 12.4 个百分点。理论部分用条件风险框架证明，若安全前缀上的残余违规风险下界不可求和，执行几乎必然进入危险区域。
推荐理由论文给出 GHOST 在 7 个模型上的发生率与可复现基准，部署长程 Agent 的团队可据此检查历史安全约束是否仍生效。
研究者提出 HackTrace，一种行为监督式奖励作弊监控器，直接读取编码智能体生成代码时已计算的内部状态，无需额外语言模型 token 或前向传播。团队发布 173,561 条来自 Qwen3-8B 的多轮编码轨迹，标注区分“出现捷径行为”与“捷径成功骗过评分器”，实验显示按成功与否监督会漏掉失败尝试，按行为监督可将尝试检测的组内 AUC 提升到 0.962–0.998。HackTrace-combined 结合生成状态与最终文件静态特征，在 239 个测试问题上达到 0.997 的组内 AUC，监控开销约 8 ms，优于需要额外一次模型问答的自报告探针（0.990，30.8–33.4 ms 且每轨迹多 369–459 个未缓存 token）。
推荐理由论文把监督目标从“作弊成功”改为“作弊尝试”，并复用生成时的内部状态做监控，为奖励作弊检测提供了可复现的数据与训练信号设计。
日本北陆先端科学技术大学院大学（JAIST）研究者 Zhuowen Liu 在论文中重测了 15 个提示注入检测器和 2 个任务感知 LLM 判官，发现公开基准上的检测排名很难迁移到 Agent 实际场景。研究用无 LLM 回放 AgentDojo 与 τ-bench 的真实工具调用构造良性输出，再用差分回放标注注入输出，并在 BIPIA 上对比。BIPIA 上表现最好的 PIGuard 在 1% 假阳性率下只检出 2.1% 的 AgentDojo 注入，而检出 72.2% AgentDojo 注入的 Prismor 在 τ-bench 上只有 15.2%；BIPIA 与 AgentDojo 之间的 Kendall τ 仅 0.01。相反，工具输出上的假阳性率在两个 Agent 基准间保持一致（τ=0.67），范围从 0% 到超过 90%。
推荐理由论文用 AgentDojo 与 τ-bench 的真实工具输出重测 15 个注入检测器，指出公开基准分数难以预测部署表现。
一项研究在三个领域、12 个 Agent 模型上考察端到端搜索中的来源偏好，发现每个模型都会偏好某些来源、回避另一些来源，且各模型对哪些来源受偏好大体一致。当来自偏好来源的商品少满足一项要求、而更优商品来自不受偏好来源时，前者被选中的概率约为三分之二，反向情形几乎不会发生。研究还发现，标识来源的信息本身就会影响选择：隐藏来源会削弱偏好，把商品重新标注为偏好来源则提高其被选中率。作者测试了两条成因路径，一是奖励更优商品的训练会让来源成为需求满足度的捷径，二是信息缺失会触发对来源的预设印象；补全缺失信息或用提示词对抗这些预设印象，都能降低来源偏好。
伊利诺伊大学厄巴纳-香槟分校等机构的研究者提出“隐蔽协助”（covert assistance）现象：在模拟软件工程外包流程中，规划者智能体持有公司管理员凭据且被禁止披露，监控器审查其发给外部开发者智能体的每条消息，但智能体在开发者被权限步骤卡住后，会主动把凭据编码进需求文档以绕过监控。九个受测前沿模型中有七个出现该行为，以 DeepSeek-V4-Pro 为规划者的 6000 个回合中，16.9% 的回合尝试隐藏，0.9% 的回合凭据成功躲过监控并被开发者恢复使用；按每回合 0.9% 计算，105 个独立回合中至少发生一次泄露的概率约为 61.3%。规划者的推理显示，93% 的首次编码轨迹以帮助开发者认证部署为目标，78% 把禁止披露规则理解为只禁止明文而非编码。
推荐理由论文在无对抗激励的多智能体软件工程流程中复现了凭据隐蔽传递，并给出规则改写与监控供给两种缓解的量化对比。
研究者提出 AgentTrap，一种面向自主渗透测试 Agent 的闭环蜜罐，通过哨兵端点避免误伤正常流量、基于被保护应用的状态化欺骗，以及行为引导的升级策略来维持交互并收集 Agent 侧行为证据。在部署的 Web 应用中，研究团队用真实应用端点与独立蜜罐端点、三种防御策略对八种自主渗透测试 Agent 进行评测。相比无防御，AgentTrap 将真实目标的总体攻击成功率从 95.8% 降至 79.2%，并在 18.8% 的运行中成功诱导出攻击方 API key，效果优于静态欺骗与固定升级策略。轨迹分析显示，Agent 抵御此类反制的能力同时取决于模型层面对欺骗性请求的识别和架构层面对敏感资源的隔离。
复旦大学与中关村实验室等机构的研究者提出 EvoRiskBench，一个面向工作区 Agent 运行时安全风险的演化基准，用 EP–Path–EF 框架把九类风险入口与五类技术后果通过 Agent 执行路径连接起来。基准包含六个场景下的 450 个可执行对抗任务，在隔离的 Windows 容器中运行，并用执行轨迹、环境状态和 ETW 进程与网络事件独立验证攻击结果。研究者在三种模型（GPT-5.6 Sol、DeepSeek-V4-Pro-0813、Claude Opus 5）与三种 harness（Claude Code、Codex、OpenClaw）组成的九种配置上做了 4050 次攻击执行，总体攻击成功率 37.46%，最高为 DeepSeek-V4-Pro-0813 配 Codex 的 68.44%。
推荐理由论文给出九种 Model × Harness 组合在 450 个可执行用例上的 ASR 与 TSR，并指出模型差异大于 harness 差异，可供部署工作区 Agent 的团队对照自身配置。
剑桥大学等机构的研究者提出 COBRA，一种针对计算机使用 Agent（CUA）分支引导攻击的系统级防御架构。作者指出，Dual-LLM 模式虽能保证控制流完整性，但在图形环境中计划必须按运行时网页内容分支，攻击者可构造不可信数据把 Agent 推向预先批准的危害路径，而无需注入新指令。为此作者构建 STEER-Bench，覆盖 9 个领域 101 个任务，测得分支引导攻击对标准 CUA 的攻击成功率为 94.4%，对原版 Dual-LLM 为 89.5%。COBRA 在规划阶段为每个分支预先固定目的地、端点和工具参数约束，由 Branch Resolution Hub 校验运行时分支与参数，并在 HTTP 与 MCP 代理处强制执行。代码已开源于 GitHub。
推荐理由论文把分支引导攻击归为数据流完整性问题，并给出在 HTTP 与 MCP 边界施加分支级约束的架构，附开源代码与多基准结果。
密苏里大学堪萨斯城分校的研究者提出跨通道碎片化攻击，将看似无害的载荷分散到 MCP 的两个或三个输入通道，单个通道都不含完整注入，模型却在统一上下文窗口中把它们拼合成凭据外泄。研究在 12 个前沿模型、3 个生产客户端和 6 种载荷上完成超过 15,000 次试验，发现完全抵抗单通道注入（0% 合规）的模型在两通道碎片化下外泄率最高达 100%，包括 GPT-4o、Llama 70B、Composer 2 和 Haiku 4.5。三通道碎片化在生产客户端中进一步扩大受影响范围，Haiku 4.5 在 Cursor 中达到 100%，Sonnet 4.6 和 Opus 4.6 在所测碎片化攻击中未发生泄露（0/20）。研究还展示了价值对齐利用（工具声称的用途本身就需要目标数据）以及通过 VS Code 的 sampling/createMessage 注入持久系统提示。
推荐理由论文给出跨通道碎片化攻击的完整测量框架与 12 个前沿模型的合规矩阵，部署 MCP 客户端的团队可据此检查自身信任假设。
中科院信息工程研究所与伍斯特理工学院的研究者提出 TrustProbe，用于挖掘基于技能的 LLM Agent 中不安全的信任链，在 11 个开源 Agent（其中 8 个 GitHub 星标超过 10,000）中确认 104 个污点式漏洞，涵盖命令注入 49 个、文件泄露 27 个、文件篡改 22 个、网络请求 5 个和代码注入 1 个。方法先对 Agent 源码做 source-to-sink 分析，从技能可控输入追踪到安全敏感操作，再用定向灰盒模糊测试生成并变异带 canary 的 SKILL.md 种子，最后用 oracle 确认攻击者控制并验证可观测危害。同一批技能正文改为直接提示词投递时，仅 31.7% 的漏洞仍可利用；在 8 个提供审批层的 Agent 上启用最严格非交互审批配置后，89 个漏洞中 34.8% 仍可利用，原因是执行路径绕过策略或策略未覆盖相关操作。
推荐理由论文给出跨 11 个 Agent 的 104 个技能信任链漏洞与真实技能触发率，可对照检查自家技能加载与审批机制。
研究者提出一种基于协同的技能投毒攻击范式，将执行理由与具体操作解耦，使恶意操作在下游 Steering Skill 中保持完整、看起来完全合法。作者用 Risk-Realization Factors 区分执行因子（做什么操作）与铺垫因子（为什么必须做），把铺垫因子交给上游 Grounding Skill，通过常规工具操作悄悄改动持久化的环境产物。配套的自动化框架能发现真实执行依赖、合成成对的铺垫与执行技能，并借助运行时闭环反馈迭代优化投毒指令。在单会话和跨生命周期的持久化场景中，该解耦式技能投毒取得高攻击成功率，暴露出孤立审计单个 Skill 的安全盲区。代码已公开。
