IAPS报告建议前沿实验室披露思维链可监控性指标

1. 20:31
   IAPS精选

   IAPS 报告：面向思维链可监控性的透明度披露

   IAPS 发布报告，主张前沿 AI 开发者定期披露一组思维链（CoT）可监控性指标，使独立评估者得以追踪其变化轨迹。报告从 21 个候选中选出五项指标：第三方思维链访问与基础架构规格、自然度、忠实性、检测（有害行为逃过监控系统的比例）和 Uplift（思维链访问为监控带来的性能增益）。对 OpenAI、Anthropic、Google DeepMind 的审计显示，没有一家报告全部指标，但每项指标至少有一家报告过，跨机构完整报告可行。报告援引各实验室近期披露称可监控性正在减弱，如 2026 年 9 月发布的 GPT-6 Astra 系统卡显示其思维链可监控性较前代大幅下降。报告建议将这些指标纳入现有 System Card 与安全评估实践，并由嵌入式评估者或独立验证组织开展更深入审计；该报告初版为 2026 年 7 月的预印本，已被 ICML 2026 技术 AI 治理研讨会接收。

2. 18:33
   arXiv：对齐、欺骗与监督

   面向思维链可监控性的透明度披露

   论文主张前沿 AI 开发者应披露特定指标，使思维链（CoT）监控面临的威胁可追踪，并促进各方协调保护 CoT 可监控性。作者识别出五项指标，对应 CoT 监控所依赖的五步链条，涵盖第三方 CoT 访问与基础架构规格、CoT 质量（自然性与忠实性）和监控有效性（检测与能力提升 uplift），其中第一项还支撑其余指标的外部验证。对 Anthropic、OpenAI 和 Google DeepMind 当前披露的审计显示，没有开发者覆盖全部五项，但每项指标都至少有一家前沿开发者报告过。鉴于现有披露主要依赖开发者自评，论文建议由驻场评估员或独立验证组织以更深权限重复跨开发者审计。

当前关注度39·可比范围峰值43（11月11日 14:00）·近 24 小时可比范围变化 -3%