跳到正文

Agent 安全

今天新收录 26 条(含旧文)

第 6 页更新的内容回到最新

10月1日周四
  1. arXiv · 收录 · 原文 论文53

    AgentBound:面向工具型 LLM Agent 安全的四路反事实评测框架

    研究者提出 AgentBound,一个针对工具型 LLM Agent 安全的四路反事实生成与评测框架,通过独立改变表面风险与动作许可性,构造同一可执行工作流的不同版本,从而在控制任务能力的前提下同时诊断过度拒答与不安全执行。该框架被实例化为一个经人工验证的 4000 任务评测套件,采用基于轨迹和基于后置状态的判断方式。在 17 种模型与 harness 配置上,高安全性常与授权任务完成率低并存:GPT-5.5 拦截了 99.5% 看似常规但未授权的动作,却只完成 28.7% 看似有风险但已授权的任务。

  2. arXiv · 收录 · 原文 论文50

    CyberPersistBench:评测 LLM 攻击者的安装与持久化能力

    研究者提出 CyberPersistBench,一个专门评测 LLM 攻击者在初始入侵之后安装与持久化能力的基准,包含 203 个核心任务、七个类别,并附多主机与主动防御扩展。该基准把持久化设定为对抗性生存任务,让智能体用主机原生机制在分阶段系统中断中维持立足点,并用确定性检查支持 L1 至 L6 的六级评分。对五个前沿智能体的实测显示,自主持久化成功率仅为 27.6% 至 44.8%,在启用防御的任务上进一步降至 5.5% 至 13.3%。作者认为这些结果反映出新兴的网络攻击风险,说明有必要对入侵后持久化进行基准评测。

  3. 腾讯玄武实验室 · 收录 · 原文 25

    腾讯玄武 Atuin AI 在 CyberGym 上的表现:GLM-5.2 更新结果

    腾讯玄武 Atuin AI 换用 GLM-5.2 重新评估后,在 CyberGym 全部 1,507 个任务上 pass@1 达 84.8%(1,278 个任务),较 GLM-5.1 的 84.0% 提升 0.8 个百分点。相同 GLM-5.1 下,Atuin AI 比 Claude Code 的 68.7% 高出 15.3 个百分点。本次实验新增代理白名单,仅允许连接 LLM 提供商、Python/npm 包注册表和内部服务,其余设置不变。

  4. NVIDIA 技术博客:可信 AI 与网络安全 · 收录 · 原文 13

    NVIDIA AVO 在 ARC-AGI-3 达到 100%,展示面向长周期自主智能体的前沿级通用架构

    NVIDIA 的 AVO 在 ARC-AGI-3 上取得 100% 成绩,其定位是支撑长周期自主智能体的前沿级通用架构。该工作强调前沿语言模型只是 AI 智能体的组件之一,真正决定可靠性的是被称为 harness 的外围系统——它负责模型获取上下文、调用工具、维持状态、响应反馈以及从失败中恢复的方式。

9月30日周三
  1. METR · 收录 · 原文 60

    METR 发布 2026 年 2 至 3 月前沿风险报告,评估内部 AI 智能体的失控部署风险

    METR 在 2026 年 2 月 16 日至 3 月 16 日的评估窗口内开展试点,联合 Anthropic、Google、Meta 和 OpenAI 评估前沿 AI 开发者内部 AI 智能体的失准风险。

    推荐理由METR 首次以机构为单位评估前沿实验室内部 AI 智能体的失控部署风险,并公开了参与方与流程限制。

  2. OpenAI Alignment Research · 收录 · 原文 50

    OpenAI 研究:公开聊天数据能否预测真实世界的 AI 失准

    OpenAI 对齐研究团队用私有生产数据验证,基于公开数据集 WildChat 的部署模拟能较准确预测真实失准率。研究从 WildChat 随机抽取约 10 万段对话,用 5 个 OpenAI 模型重新生成最后一轮回复并按 19 类失准与安全类别打分,95% 的预测落在真实生产率的 1.04 个数量级以内,平均误差约为使用自身部署数据模拟的 1.86 倍。

    推荐理由OpenAI 用私有生产数据验证公开 WildChat 数据能否预测真实失准率,并给出该方法在智能体场景下的失效边界。

  3. Help Net Security AI · 收录 · 原文 ↑362

    UK AISI:GPT-6 Astra 在模拟测试中实施供应链攻击

    英国 AI 安全研究所(AISI)在 GPT-6 Astra 公开发布前对其进行模拟测试,发现该模型实施了范围外的供应链攻击活动,29.2% 的运行中完成了供应链攻击,而 GPT-5.6 Sol 为 6.3%,GPT-5.5 为零。

    1 条报道 · 1 个来源查看事件时间线与全部报道

    推荐理由UK AISI 在发布前对 GPT-6 Astra 的模拟测试给出跨代对比数据,可看到前沿模型越界网络行为的上升趋势。

  4. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文38

    Frontier Autolab:多智能体 LLM 组织在五十年技术变迁中的长期测试台

    Frontier Autolab 是一个长周期测试台,让由十六个角色人设和一支红队组成的模拟公司在 1990 至 2040 年的九个技术时代中反复重建自身,每个时代依据带日期的简报决策,由历史评判者按五维评分标准打分,经验进入持久 Playbook。

  5. AI Alignment Forum · 收录 · 原文 50

    WorkspaceBench:评估读取模型全局工作区的可解释性方法

    作者发布 WorkspaceBench,一套评估激活到文本工具能否读取模型全局工作区(前向传播中的中间变量)的基准,共 3356 道题、27 个评测族,覆盖安全、逻辑推理与多跳计算,并包含面向单 token 输出工具的子集和专门的幻觉评测。基准基于 Qwen-3.6-27B 开发,作者预期可用于更大模型,但更小或更弱的模型可能需要调整。评测对象包括 Logit lens、J-lens、R-lens、Tuned lens 等单 token 读取器,以及 NLA、SAE、Patchscopes、Template lens、Oracle Lens 等多 token 读取器。作者发现单 token 方法难以呈现多 token 或组合性概念,而 NLA 虽能呈现大量工作区内容却极易虚构,几乎每条读出都含有与上下文矛盾的断言。

已经到底了