Skip to content

Translation in progress Some entries still include text in the original language.

EventPast event

第三方云聚合器仍可窃取前沿模型推理

5 reports5 reporting sourcesLatest report

Start here

AI overview

研究者此前披露的推理提取攻击在公开两个月后,作者审计了厂商此后引入的缓解措施,发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 提取推理内容,并已向 OpenAI 和 Anthropic 披露。Jonas Geiping 复盘称所有前沿厂商的推理都可被提取,厂商很难彻底修补,针对 Astra 的攻击一直持续到本周。另一项审计覆盖 OpenAI、Anthropic 直连端点及 AWS Bedrock、Microsoft Azure、OpenRouter 等下游云聚合商,发现修补碎片化且易被绕过:推理重放攻击在 Azure 上对每个 OpenAI 模型(含 GPT-6 Astra)以及 Anthropic 直到 Sonnet 5 的模型仍间歇有效,一次解码即可逐字还原轨迹。作者认为企业需覆盖的攻击面之大令人意外,攻击仍可能绕过防护,并称 Astra/Sol-6.1 的推理轨迹已对公众开放,思维链监控可能相当困难。

Generated by AI from reports · Updated 3 days ago

Progress timeline

Oct 1
  1. X @AmyPrb
    研究者称仍可通过第三方 API 从 Astra/Sol-6.1 提取推理内容

    作者在推理提取攻击发布两个月后审计了厂商随后引入的缓解措施,发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 中提取推理内容,并已将发现披露给 OpenAI 和 Anthropic。作者表示,企业需要覆盖的攻击面之大令人意外,攻击仍可能绕过防护;目前 Astra/Sol-6.1 的推理轨迹已对公众开放,作者也因此认为思维链监控可能相当困难。

  2. X @jonasgeiping
    Jonas Geiping 复盘推理提取攻击:厂商修补困难,Astra 攻击持续到本周

    Jonas Geiping 复盘了此前披露的推理提取攻击后续:所有前沿厂商的推理都可被提取,且厂商很难彻底修补,针对 Astra 的攻击一直持续到本周。他提到已把更新整理成报告,并指向 OpenAI 近期关于阻断协同模型蒸馏活动的报告。引用内容显示,在推理提取攻击发布两个月后,作者审计了此后引入的缓解措施,发现仍可通过第三方 API 提供商从 Astra/Sol-6.1 提取推理,并已向 OpenAI 和 Anthropic 披露。

  3. X @kotekjedi_ml
    研究者复测推理提取攻击:两个月后仍可从 Astra/Sol-6.1 经第三方 API 提取推理内容

    作者在推理提取攻击公开两个月后审计了此后引入的缓解措施,发现仍能通过第三方 API 提供商从 Astra/Sol-6.1 提取推理内容。作者已将发现披露给 OpenAI 和 Anthropic,并附上 OpenAI 关于打击协同模型蒸馏活动的公告链接。

  4. X @JSchaeff3r
    推理提取论文更新:修补API不足

    我们又偷到了推理。 关于推理提取论文的更新:修补你自己的 API 并不能保护你的云托管生态。 详情见🧵

Date not provided
  1. Date not given
    Stolen ThoughtsSelected
    研究者称仍可通过第三方云聚合商窃取美国前沿模型的推理轨迹

    研究者对 OpenAI、Anthropic 直连端点及 AWS Bedrock、Microsoft Azure、OpenRouter 等下游云聚合商做了审计,发现厂商针对推理轨迹提取的修补碎片化且易被绕过。推理重放攻击在 Azure 上对每个 OpenAI 模型(含 GPT-6 Astra)以及 Anthropic 直到 Sonnet 5 的模型仍间歇有效,一次解码即可逐字还原轨迹;scratchpad 攻击仍能从所有 OpenAI 模型以及 Opus 4.8、Sonnet 5 提取推理,目前只有 Opus 5、Fable 5、Fable 5.1 不暴露推理。作者指出下游主机存在补丁传播延迟和策略漂移,攻击者无需绕过主厂商护栏,只需把请求路由到未同步防护的下游主机即可,并建议对无法同步执行推理轨迹保密与工具范围护栏的云主机不予授权。

Related discussion

No discussion links have been collected for this event yet.

Attention trend

New sources per day

12 days total5 ·Maximum5(Oct 1)·Today0

  • Oct 1New5 sources (5 outlets,0 accounts)
  • Oct 2New0 sources (0 outlets,0 accounts)
  • Oct 3New0 sources (0 outlets,0 accounts)
  • Oct 4New0 sources (0 outlets,0 accounts)
  • Oct 5New0 sources (0 outlets,0 accounts)
  • Oct 6New0 sources (0 outlets,0 accounts)
  • Oct 7New0 sources (0 outlets,0 accounts)
  • Oct 8New0 sources (0 outlets,0 accounts)
  • Oct 9New0 sources (0 outlets,0 accounts)
  • Oct 10New0 sources (0 outlets,0 accounts)
  • Oct 11New0 sources (0 outlets,0 accounts)
  • Oct 12New0 sources (0 outlets,0 accounts)

Hourly attention

No comparable trend data

Related events