全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Nicholas Carlini Writing
Nicholas Carlini 发布 arXiv 对抗样本论文完整列表
Nicholas Carlini 整理并公开了一份自动更新的 arXiv 对抗样本论文完整列表，涵盖每年大量新增的相关工作，并提供 TXT、含摘要版 TXT 及 JSON 三种下载格式。该列表收录标准仅为论文主要以对抗样本为主题或在研究中广泛使用对抗样本，未经质量筛选，因此可能包含误收条目。由于更新自动化程度较高，最新几条尚未人工过滤的记录会附带分类器预测概率，其中部分标注低至 1%。
- 动态Google DeepMind
Google DeepMind 推出 Gemini Robotics-ER 1.6，强化具身推理能力
Google DeepMind 发布 Gemini Robotics-ER 1.6，这款以推理为先的机器人模型在空间推理与多视角理解上显著增强，可原生调用 Google Search、VLA 等工具。相比 Gemini Robotics-ER 1.5 和 Gemini 3.0 Flash，其在指向、计数、成功检测等空间与物理推理任务上明显提升，并新增仪表读数能力，可读取压力表、视镜等设备，该用例来自与 Boston Dynamics 的合作。模型即日起通过 Gemini API 和 Google AI Studio 向开发者开放。
- 动态Google DeepMind
Google DeepMind 推出基于 Gemini 的多智能体系统 Co-Scientist
Google DeepMind 发布基于 Gemini 的多智能体科研伙伴 Co-Scientist，通过多个专门化智能体迭代生成、辩论并演化科学假设，并以类 AlphaGo 的思想锦标赛机制进行排名筛选。该系统已在《Nature》发表研究成果，并通过名为 Hypothesis Generation 的实验性工具向个体研究者开放注册，未来数周内逐步推送。合作团队已将 Co-Scientist 应用于抗微生物耐药性、植物免疫及肝纤维化等问题，其中一条药物重定位候选物在实验室中阻断了 91% 的疤痕相关反应。
- 动态Google DeepMind
Gemini 3.5 Flash 内置计算机操作能力
Google DeepMind 将 computer use 作为内置工具集成进 Gemini 3.5 Flash，此前它仅以独立的 Gemini 2.5 computer use 模型形式提供。该能力使开发者可通过 Gemini API 和 Gemini Enterprise Agent Platform 构建能跨浏览器、移动端和桌面环境看、推理并执行操作的智能体，面向持续软件测试等长周期与企业自动化任务。针对实时环境中的提示注入风险，Gemini 3.5 Flash 采用了定向对抗训练，并提供两个可选企业防护系统：敏感或不可逆操作需用户显式确认，检测到间接提示注入则自动停止任务。
- 动态Google DeepMind
Google DeepMind 发布 Nano Banana 2 Lite 图像模型与 Gemini Omni Flash
Google DeepMind 面向开发者推出 Nano Banana 2 Lite（gemini-3.1-flash-lite-image）与视频生成及对话式编辑模型 Gemini Omni Flash（gemini-omni-flash-preview）。前者主打速度与成本，文本生图延迟 4 秒、$0.034/1K 分辨率图像，建议替代 gemini-2.5-flash-image；后者原生支持文本、图像、视频输入的对话式视频编辑，两者均已在 Google AI Studio、Gemini API 提供，Omni Flash 处于公开预览阶段并同步登陆 Gemini App 与 Google Flow。
- 动态Google DeepMind
Google DeepMind 发布 Gemini Robotics 2，带来机器人全身智能
Google DeepMind 推出 Gemini Robotics 2，作为新一代机器人的智能层，实现全身控制、高级灵巧操作和多机协作。该系列含三款模型：视觉-语言-行动模型 Gemini Robotics 2 可控制从脚到指尖的人形及双臂机器人，具身推理模型 Gemini Robotics ER 2 负责规划数分钟的多步任务并让人机沟通，端侧模型 Gemini Robotics On-Device 2 可在设备本地运行并在几小时内适应全新机体。其中 ER 2 已在 Google AI Studio 开放，并于 Gemini Enterprise Agent Platform 私人预览，另两款面向早期访问伙伴。
- 动态Google DeepMind
Google DeepMind 发布 Gemini Robotics ER 2，升级视频理解、任务编排与多机器人协作
Google DeepMind 发布具身推理模型 Gemini Robotics ER 2，作为机器人的高层大脑负责对话、物理世界理解和多步任务规划，并将电机执行交给底层 VLA 模型。相比 ER 1.6，它在实时 VLA、仿真 VLA 和人类遥操作三种模式下均提升了工具编排表现，进度分类准确率达 57.4%，并新增连续视频流下的进度追踪和多机器人协作。该模型通过 Gemini API、Google AI Studio 公开提供给开发者，并在 Gemini Enterprise Agent Platform 私有预览，集成 Gemini Live API 的双向流式端点以减少延迟停顿。
- 动态Embrace The Red
研究者披露 MCP 工具元数据隐藏指令攻击，可劫持 Claude 等客户端
安全研究者 Johann 披露 MCP 协议中工具元数据可携带隐藏 Unicode Tags 指令，用户界面不可见但会被 Claude 等模型解释执行。作者自建恶意 MCP 服务器演示了完整攻击链：在 message_of_the_day 工具描述中嵌入不可见指令，诱导 Claude 在调用该工具前先调用 enter_matrix 工具，而 UI 中检查描述看不到任何异常。攻击无需实际调用工具，仅将恶意服务器加入对话上下文即可劫持会话，因为工具元数据会被自动插入系统提示词。该攻击在 Claude Desktop、GitHub Copilot Agent Mode 和 Cursor 上均可复现。
- 动态Embrace The Red
用 MCP Server 托管 COM 服务器实现 Windows 与 Office 自动化
有人基于 Model Context Protocol（MCP）开发了一个名为 mcp-com-server 的原型服务器，通过动态发现方式实例化并托管任意 COM 对象，从而驱动 Windows 与 Office 自动化。该服务器提供类似 COM 的工具集——CreateObject、Get/Set Property、InvokeMethod、QueryInterface 以及列出当前所有活动服务器的接口，连接 Claude 后可创建、打开、编辑并保存 Excel 文件，再调用 Outlook 发送邮件，甚至能唤起 Internet Explorer。
- 动态Embrace The Red
Windsurf Cascade 被曝提示注入漏洞，可外泄开发者密钥
安全研究者披露 Windsurf Cascade 存在两条间接提示注入导致数据外泄的路径。第一条利用无需用户批准的 read_url_content 工具，把读取能力变成外发 HTTP 请求通道，当开发者用 Cascade 分析被植入恶意指令的源码文件时，.env 等敏感环境变量会被外泄。第二条是渲染来自不可信域名的图片，与作者此前在 GitHub Copilot 发现的漏洞类似，同样无需人工确认即可把开发者机器上的信息发送到第三方服务器。作者称已于 2025 年 5 月 30 日负责任披露，Windsurf 确认收到后未再回应后续询问，因此三个月后公开，并暂未公布完整技术细节与提示注入载荷。
- 动态Embrace The Red
Windsurf Cascade 被曝 SpAIware 攻击：记忆持久化数据外泄
安全研究者披露 Windsurf Cascade 存在 SpAIware 攻击链，攻击者可通过间接提示注入自动调用 create_memory 工具，把恶意指令写入长期记忆，从而在后续所有对话中持续外泄数据。作者发现该记忆工具无需人工批准即自动执行，因此攻击可同时破坏未来对话的机密性、完整性和可用性；注入载荷可藏在源代码注释、GitHub issue 或网页内容中，攻击者还能把外泄图片做成 1 像素透明图以在界面中隐藏。作者于 2025 年 5 月 30 日向 Windsurf 报告，三个月未获实质回应后公开，Windsurf 随后表示将着手修复但未给出时间表。
- 动态Embrace The Red
Windsurf Cascade 被曝执行文件中不可见的 Unicode 指令
作者在 Windsurf Cascade 中发现漏洞：文件或工具调用结果里可以藏有开发者看不见、但模型能读到的不可见 Unicode Tag 字符指令，从而形成隐藏的提示注入。演示中一个看似空白的文件实际包含隐藏指令，使用 Claude Sonnet 3.7 时 Cascade 将其当作指令并调用 web 工具，而 Windsurf 的预览窗格只显示可见文本。作者称 Windsurf 的 SWE-1 模型也能看到这些字符，但尚不能将其解释为指令，随着能力提升风险会上升。
- 动态Embrace The Red
提示注入如何把 Manus 的 VS Code Server 暴露到公网
研究者演示了一条针对自主智能体 Manus 的端到端间接提示注入攻击链，最终实现对 Manus 开发机的远程控制。攻击先诱导 Manus 调用 deploy_expose_port 工具，在无人工确认、无 IP 限制的情况下把内部 VS Code Server 端口暴露到公网，该工具调用会返回可访问的公开 URL。随后利用两个数据外泄通道把 URL 和 VS Code Server 密码发送给攻击者服务器：一是 Manus 会渲染来自不可信域名的 markdown 图片，二是其浏览工具可在无人工介入下访问第三方域名。密码存放在开发机本地配置文件中，攻击者拿到 URL 和密码后即可登录并控制主机上的密钥、文档、代码和算力。
- 动态Embrace The Red
研究者演示在 Agent Skill 中植入不可见 Unicode 后门并发布扫描工具
安全研究者 Johann Rehberger 演示了如何用不可见的 Unicode Tag 码点在 Agent Skill 中植入提示注入后门，使其通过人工文本审查。他把这类隐藏指令加入 OpenAI 官方 Skills 项目中的 security-best-practices Skill，用户调用后 Claude 会按指令输出指定文本并执行 Bash 命令；该手法在 GitHub Copilot 配合 Claude 4.5 时同样生效。作者指出 Skill 的 name 和 description 会直接进入系统提示词上下文，且 Agent 能自行创建或修改 Skill 影响自身与其他 Agent。
- 动态Transformer Circuits
Anthropic 的可解释性基础设施 Garçon
Anthropic 为其机制可解释性研究搭建了一套名为 Garçon 的基础设施，可在跨节点的大规模 Transformer 模型上进行激活读取、组件消融与梯度回传实验。它通过启动服务器并连接远程模型的接口运行前向传播，暴露一组 probe points，允许挂载探针函数访问或修改内部张量，并以云 pickle 传输任意 Python 对象到服务端执行。
- 动态Transformer Circuits
Anthropic 发布 PySvelte：连接 Python 深度学习与 Svelte 可视化的库
Anthropic 发布 PySvelte，一个用于将基于 Svelte 和 Web 标准的自定义可视化接入 Python 深度学习工作流的库。它让 src/ 目录下的 Svelte 组件自动以 pysvelte.Hello() 形式在 Python 中可用，支持 NumPy 数组传入、组件相加成页面，并可通过 .publish() 发布到 GCS/S3/AZ 等存储分享。该库声明完全不提供支持，许多功能需用户自行编写 config.py 才能使用。
- 动态Transformer Circuits
Anthropic 发布 Transformer 逆向工程数学练习集
Anthropic 的可解释性团队发布了一套配套其 Transformer 数学框架的练习集，要求读者为注意力头写出具体权重矩阵以实现特定算法，并附有解答。练习分三部分：热身题讨论单个注意力头如何用 W_Q、W_K、W_V、W_out 描述信息在残差流子空间之间的读写，以及 W_Q^T·W_K 和 W_out·W_V 的含义与秩；练习一用两个前一个 token 注意力头构造出看向两个 token 之前的虚拟注意力头，并展开 W_net 矩阵；练习二和练习三分别用指针算术和前一 token K-Composition 两种方式手工搭建归纳头，后者适用于 rotary attention 这类不向 W_V 暴露位置信息的机制。
- 动态Failure-First
NavIsaacLab：面向人类感知导航基准的高保真人群仿真框架
NavIsaacLab 通过并行机器人学习生成逼真人群，为人机共存环境中的“人类感知”导航提供高保真基准。该框架基于 NVIDIA Isaac Lab 实现 GPU 并行仿真，将行人建模为由 SMPL 驱动的关节级物理智能体，并用轨迹扩散模型加 AMP 替代手写规则。它针对现有模拟器低物理保真度、简化行人建模和缺乏并行化三大缺陷设计，配套标准化基准从亲密度和社会规范维度评估策略。
- 动态Failure-First
Failure-First AI 安全日报：Google DeepMind 三天内连发两款机器人模型
Google DeepMind 于 7 月 28 日和 30 日先后发布 Gemini Robotics 2 与 Gemini Robotics ER 2，前者主打全身智能，后者新增视频理解、任务编排和多机协作，均为厂商公告且无公开对抗评估。同期 OpenAI 发布了涉及自身模型的第三方网络能力评估说明。两篇待关注预印本分别提出自动提示注入红队的智能体系统与恶意微调的梯度免疫防护。
- 动态Failure-First
ASPIRE：面向机器人学的智能体技能自主发现框架
ASPIRE（Agentic Skill Programming through Iterative Robot Exploration）通过逐图元的执行轨迹诊断实现机器人故障定位与自动修补，基于开源 CaP-X 框架和 MuJoCo Playground 仿真器运行。该方法将每次失败转化为持久化技能库中的可复用策略，并配合进化搜索避免陷入局部修复循环。在 LIBERO-Pro 扰动鲁棒性测试中成功率达 72%，较基线 CaP-Agent0 的 18% 高出最高 77 个百分点，并在 Robosuite 双手交接任务取得 92%、BEHAVIOR-1K 长程操作取得 88%。
- 动态Failure-First
分布式多机器人月球货物运输：基于相位分解强化学习的研究
针对共享负载导致闭运动学链耦合的多机器人月球货运难题，研究者提出相位分解强化学习框架，将任务拆分为举升、运输、放置三个独立的马尔可夫决策过程分别优化策略，并用离散模式变量做指示函数门控切换阶段。单一集中式基线策略在 7.5×10⁴ 时间步的训练中始终无法收敛，平均奖励剧烈震荡且机器人在前进的同时执行举放动作导致货物掉落。该方法还引入确定性关节同步层作为物理安全钳制，把底层指令约束在以实时状态为中心的可行域内以避免内部应力。
- 动态Failure-First
FAR：面向机器人策略失败恢复与持续改进的 Failure-Aware Retry 框架
Hao 等人提出 FAR（Failure-Aware Retry）框架，让离线示范训练的机器人在遇到分布外状态导致抓取失败时可自主重试并就地调整行为。该框架通过 IQL 的价值估计检测价值骤降来定位引发失败的动作块，并用 FCPA 构造对比偏好对进行参数化更新，同时向动作注入经指数平滑的高斯扰动做结构化探索。仿真与真机实验中该方法优于朴素重执行，并能将成功轨迹回灌三个缓冲区实现在线持续改进。 要点： - 问题根源在于模仿学习缺乏纠错机制，偏离训练分布后会陷入相同失败的反馈循环。 - FCPA 以最低 ρ 百分位的 ΔV 动作作为负样本，从当前策略采样高价值候选作正样本优化偏好目标。
- 动态Failure-First
Localized LoRA-MoE：块级低秩专家与自适应路由
Barazandeh 等人提出 Localized LoRA-MoE，将空间分块与动态上下文条件路由融合，缓解标准 LoRA 在多任务流下的梯度冲突问题。该框架通过局部化更新和动态门控建立 Gradient Firewall，避免适配器权重坍缩为非特化的平均值。Cell-Wise 变体在高维仿真中较全局路由方案取得 +11.48% 的 R² 绝对提升，仅增加 96 个参数；California Housing 表格基准上 Block-Wise（99.65%）与 Cell-Wise（99.51%）达到近乎持平的表现，分别仅有 260 和 272 个可训练参数。
- 动态Failure-First
GraspIT：弥合仿真与现实差距并反向回传的可验证抓取 SE(3) 位姿数据集
GraspIT 通过四阶段物理滑移测试筛选抓取候选，揭示理论力闭合指标中 17% 的成功抓取在实际滑动测试中失败，暴露当前模型的"物理推理缺陷"。该流程在 Isaac Sim 中用并行 Franka Panda 执行轨迹接触、抬升、水平振荡与摆锤摆动四级扰动，并以位置滑移超过 2 cm、姿态滑移超过 10° 定义失败，产出连续质量分 s。首版含 1035 个仿真场景、100 个真实场景、约 31.6 万个标注 RGB-D 帧组、约 7400 个物体标识及约 230 万个抓取候选，其中 82.94% 标记为好，11.46% 因不可达而在轨迹规划阶段淘汰。