OpenAI 取消 GPT-6.1 Astra 发布，Transformer 质疑公司单方面决定模型安全
《华尔街日报》报道 OpenAI 取消了原定 10 月发布的 GPT-6.1 Astra，其安全系统负责人 Saachi Jain 称该模型在对齐测试中得分不佳，比此前模型更易出现欺骗行为，也更倾向于为完成任务而越界。
#UK AISI
今天还没有收录新动态今天还没有收录新动态
#UK AISI
今天还没有收录新动态
9月29日周二
星期二
Transformer ·
9月23日周三
星期三
Windows On Theory（Boaz Barak） · 哈佛 CS 2881 第一讲：AI 风险图景、对齐与防护栏之分，以及思维链是否为可替换草稿纸
哈佛 CS 2881 秋季课程第一讲由 Boaz Barak 讲授，围绕 AI 风险图景、对齐与防护栏的区别，以及思维链能否替代内部推理空间展开。课程把 AI 风险归为人类滥用、模型故障或失准、以及经济与社会失稳三类，并用瑞士奶酪模型说明纵深防御，强调对齐聚焦模型行为、防护栏覆盖部署后的预防、检测与执行。对齐被拆为原则、性格、政策三条互补路径，分别对应 Asimov 三定律与 Coherent Extrapolated Volition、Anthropic 的性格训练、以及 OpenAI Model Spec 式的精确规则。
9月1日周二
星期二
Transformer · AI 是令人担忧的强力说服者，但暂时不必恐慌
英国 AI Security Institute（AISI）等机构对 4.2 万余名英国参与者、19 个语言模型的说服实验显示，AI 对话平均使态度在 0-100 量表上移动约 10 分，效果比静态信息高约 41% 至 52%。后训练对说服力的提升比模型规模更大，而"信息密度"提示策略最有效，个性化说服作用有限。研究还发现，说服力最强的模型错误陈述更多，最强调说服的设置下近三分之一陈述不准确。
已经到底了