事件历史事件
SEEK 黑盒智能体可窃取科学智能体技能
先了解这件事
AI 综述
香港城市大学等机构研究者提出黑盒自演化红队智能体SEEK，通过持久记忆累积响应证据，把可复用交互模式演化为攻击技能，用于提取科学Agent平台的受保护技能。基准覆盖八个开源与闭源平台的40个受保护技能，结果显示八个平台均至少泄露一个技能，四个平台单次直接请求攻击成功率即达100%。
AI 根据报道生成 · 17 天前更新
走势与进展
每小时关注度
现在 39，24 小时 0%·峰值 39（11月7日 01:00）
11月8日11月9日11月10日11月11日11月12日11月13日11月14日现在 39
相关研究
这件事的论文
- SEEK：针对前沿科学 Agent 的演化知识技能提取
arXiv · 2026-10-25 · 深度解读
后续时间线
10月25日
- arXiv：越狱、提示注入、投毒与防御精选SEEK：针对前沿科学 Agent 的演化知识技能提取
香港城市大学等机构研究者提出黑盒自演化红队 Agent SEEK，通过持久记忆累积响应证据并把可复用交互模式演化为攻击技能，用于提取科学 Agent 平台的受保护技能。基准覆盖八个开源与闭源科学 Agent 平台的 40 个受保护技能，结果显示全部八个平台都泄露至少一个技能，四个平台在单次直接请求下攻击成功率即达 100%。在 SpatialAgent 和 Biomni 的 12 个技能上 SEEK 全部提取成功，平均首次成功轮数较 BGIP 分别减少 31.8% 和 38.2%。在 OpenScience 上，能挡住三种基准协议的指令保密策略仍被 SEEK 提取出六个受保护技能中的一个。论文据此认为当前科学 Agent 不能可靠保护其技能，防御评估需覆盖跨轮次累积证据的自适应多轮攻击者。