第三方云聚合器仍可窃取前沿模型推理
先了解这件事
研究者此前披露的推理提取攻击在公开两个月后,作者审计了厂商此后引入的缓解措施,发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 提取推理内容,并已向 OpenAI 和 Anthropic 披露。Jonas Geiping 复盘称所有前沿厂商的推理都可被提取,厂商很难彻底修补,针对 Astra 的攻击一直持续到本周。另一项审计覆盖 OpenAI、Anthropic 直连端点及 AWS Bedrock、Microsoft Azure、OpenRouter 等下游云聚合商,发现修补碎片化且易被绕过:推理重放攻击在 Azure 上对每个 OpenAI 模型(含 GPT-6 Astra)以及 Anthropic 直到 Sonnet 5 的模型仍间歇有效,一次解码即可逐字还原轨迹。作者认为企业需覆盖的攻击面之大令人意外,攻击仍可能绕过防护,并称 Astra/Sol-6.1 的推理轨迹已对公众开放,思维链监控可能相当困难。
AI 根据报道生成 · 3 天前更新
后续时间线
- X @AmyPrb研究者称仍可通过第三方 API 从 Astra/Sol-6.1 提取推理内容
作者在推理提取攻击发布两个月后审计了厂商随后引入的缓解措施,发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 中提取推理内容,并已将发现披露给 OpenAI 和 Anthropic。作者表示,企业需要覆盖的攻击面之大令人意外,攻击仍可能绕过防护;目前 Astra/Sol-6.1 的推理轨迹已对公众开放,作者也因此认为思维链监控可能相当困难。
- X @jonasgeipingJonas Geiping 复盘推理提取攻击:厂商修补困难,Astra 攻击持续到本周
Jonas Geiping 复盘了此前披露的推理提取攻击后续:所有前沿厂商的推理都可被提取,且厂商很难彻底修补,针对 Astra 的攻击一直持续到本周。他提到已把更新整理成报告,并指向 OpenAI 近期关于阻断协同模型蒸馏活动的报告。引用内容显示,在推理提取攻击发布两个月后,作者审计了此后引入的缓解措施,发现仍可通过第三方 API 提供商从 Astra/Sol-6.1 提取推理,并已向 OpenAI 和 Anthropic 披露。
- X @kotekjedi_ml研究者复测推理提取攻击:两个月后仍可从 Astra/Sol-6.1 经第三方 API 提取推理内容
作者在推理提取攻击公开两个月后审计了此后引入的缓解措施,发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 提取推理内容。作者已将发现披露给 OpenAI 和 Anthropic,并附上 OpenAI 关于打击协同模型蒸馏活动的公告链接。
- 日期未标Stolen Thoughts精选研究者称仍可通过第三方云聚合商窃取美国前沿模型的推理轨迹
研究者对 OpenAI、Anthropic 直连端点及 AWS Bedrock、Microsoft Azure、OpenRouter 等下游云聚合商做了审计,发现厂商针对推理轨迹提取的修补碎片化且易被绕过。推理重放攻击在 Azure 上对每个 OpenAI 模型(含 GPT-6 Astra)以及 Anthropic 直到 Sonnet 5 的模型仍间歇有效,一次解码即可逐字还原轨迹;scratchpad 攻击仍能从所有 OpenAI 模型以及 Opus 4.8、Sonnet 5 提取推理,目前只有 Opus 5、Fable 5、Fable 5.1 不暴露推理。作者指出下游主机存在补丁传播延迟和策略漂移,攻击者无需绕过主厂商护栏,只需把请求路由到未同步防护的下游主机即可,并建议对无法同步执行推理轨迹保密与工具范围护栏的云主机不予授权。
相关讨论
关注度走势
每天新增来源
- 10月1日新增5个来源(5家媒体、0个账号)
- 10月2日新增0个来源(0家媒体、0个账号)
- 10月3日新增0个来源(0家媒体、0个账号)
- 10月4日新增0个来源(0家媒体、0个账号)
- 10月5日新增0个来源(0家媒体、0个账号)
- 10月6日新增0个来源(0家媒体、0个账号)
- 10月7日新增0个来源(0家媒体、0个账号)
- 10月8日新增0个来源(0家媒体、0个账号)
- 10月9日新增0个来源(0家媒体、0个账号)
- 10月10日新增0个来源(0家媒体、0个账号)
- 10月11日新增0个来源(0家媒体、0个账号)
- 10月12日新增0个来源(0家媒体、0个账号)