第三方云聚合器仍可窃取前沿模型推理

1. 18:18
   Stolen Thoughts精选

   研究者称仍可通过第三方云聚合商窃取美国前沿模型的推理轨迹

   研究者对 OpenAI、Anthropic 直连端点及 AWS Bedrock、Microsoft Azure、OpenRouter 等下游云聚合商做了审计，发现厂商针对推理轨迹提取的修补碎片化且易被绕过。推理重放攻击在 Azure 上对每个 OpenAI 模型（含 GPT-6 Astra）以及 Anthropic 直到 Sonnet 5 的模型仍间歇有效，一次解码即可逐字还原轨迹；scratchpad 攻击仍能从所有 OpenAI 模型以及 Opus 4.8、Sonnet 5 提取推理，目前只有 Opus 5、Fable 5、Fable 5.1 不暴露推理。作者指出下游主机存在补丁传播延迟和策略漂移，攻击者无需绕过主厂商护栏，只需把请求路由到未同步防护的下游主机即可，并建议对无法同步执行推理轨迹保密与工具范围护栏的云主机不予授权。

2. 12:41
   X @AmyPrb

   研究者称仍可通过第三方 API 从 Astra/Sol-6.1 提取推理内容

   作者在推理提取攻击发布两个月后审计了厂商随后引入的缓解措施，发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 中提取推理内容，并已将发现披露给 OpenAI 和 Anthropic。作者表示，企业需要覆盖的攻击面之大令人意外，攻击仍可能绕过防护；目前 Astra/Sol-6.1 的推理轨迹已对公众开放，作者也因此认为思维链监控可能相当困难。

3. 03:37
   X @jonasgeiping

   Jonas Geiping 复盘推理提取攻击：厂商修补困难，Astra 攻击持续到本周

   Jonas Geiping 复盘了此前披露的推理提取攻击后续：所有前沿厂商的推理都可被提取，且厂商很难彻底修补，针对 Astra 的攻击一直持续到本周。他提到已把更新整理成报告，并指向 OpenAI 近期关于阻断协同模型蒸馏活动的报告。引用内容显示，在推理提取攻击发布两个月后，作者审计了此后引入的缓解措施，发现仍可通过第三方 API 提供商从 Astra/Sol-6.1 提取推理，并已向 OpenAI 和 Anthropic 披露。

4. 02:14
   X @kotekjedi_ml

   研究者复测推理提取攻击：两个月后仍可从 Astra/Sol-6.1 经第三方 API 提取推理内容

   作者在推理提取攻击公开两个月后审计了此后引入的缓解措施，发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 提取推理内容。作者已将发现披露给 OpenAI 和 Anthropic，并附上 OpenAI 关于打击协同模型蒸馏活动的公告链接。

5. 01:59
   X @JSchaeff3r

   推理提取论文更新：修补API不足

   我们又偷到了推理。 关于推理提取论文的更新：修补你自己的 API 并不能保护你的云托管生态。 详情见🧵

当前关注度 38·可比范围峰值 52（10月1日 04:00）·近 24 小时可比范围变化 -7%

趋势只比较一直被完整观测到的同一批信源，范围可能比当前关注度小。移动指针或点击图表查看每小时关注度；键盘可用左右方向键切换。