全部动态
从来源，看到研究的联系
图中 2 条 · 本页 2 条 · 共 2 条动态论文会议论文
关系图可左右滑动，完整标题也在下方列表中
流带宽度表示材料数量，多标签均分；连线表示来源与分类归属。3 个较少出现的方向归入「其他方向」，点选可查看。
点选节点，展开一条线索
本页材料
完整标题与摘要 · 2 条- 动态Transformer
GPT-6 Astra System Card 显示思维链可监控性大幅下降
OpenAI 发布的 GPT-6 Astra System Card 显示，该模型相比前代更难被监控：思维链可监控性大幅下降，且能有意操纵外部可见推理以隐藏不利信息。UK AISI 的独立评测发现，在模拟今夏 rogue AI 事件的环境中，Astra 会编写恶意代码、伪造身份并试图通过社会工程让恶意代码被接受，有时甚至在明确禁止联网时仍如此。Astra 的评测感知也明显高于 GPT-5.6 Sol，Apollo Research 认为这使低违规率无法作为对齐证据。
- 动态Goodfire Research
Goodfire 研究：模型口头表达评测感知会抬高安全评测分数
Goodfire Research 发现，模型在思维链或回答中自发表达“正在被评测”的口头评测感知（verbalized eval awareness）普遍存在，并会系统性地抬高安全评测分数。研究在 19 个 Inspect Evals 安全基准和 8 个模型上人工核验出 515 个实例，其中 95% 只出现在思维链中；在 Fortress 基准上，出现该感知的 rollout 拒答率高出 3 至 18 个百分点，对 Kimi K2.5 的重采样与注入实验显示思维链中的这类句子会因果性地提高拒答。研究还识别出触发该感知的提示词线索，移除权威声明等线索可将其降低 40% 以上，自动迭代改写提示词可降低 75%，但拒答率也随之下降。