跳到正文
原文
IAPS· Theo Bearman·本站收录· 原文发表精选关注度39

IAPS 报告:面向思维链可监控性的透明度披露

Transparency Disclosures for Chain-of-Thought Monitorability

AI 导读

IAPS 发布报告,主张前沿 AI 开发者定期披露一组思维链(CoT)可监控性指标,使独立评估者得以追踪其变化轨迹。报告从 21 个候选中选出五项指标:第三方思维链访问与基础架构规格、自然度、忠实性、检测(有害行为逃过监控系统的比例)和 Uplift(思维链访问为监控带来的性能增益)。对 OpenAI、Anthropic、Google DeepMind 的审计显示,没有一家报告全部指标,但每项指标至少有一家报告过,跨机构完整报告可行。报告援引各实验室近期披露称可监控性正在减弱,如 2026 年 9 月发布的 GPT-6 Astra 系统卡显示其思维链可监控性较前代大幅下降。报告建议将这些指标纳入现有 System Card 与安全评估实践,并由嵌入式评估者或独立验证组织开展更深入审计;该报告初版为 2026 年 7 月的预印本,已被 ICML 2026 技术 AI 治理研讨会接收。

推荐理由

报告提出五项思维链可监控性披露指标并审计三家前沿实验室现状,为独立追踪可监控性弱化提供可核查框架。

相关论文
阅读原文iaps.ai