事件历史事件
DeepMind呼吁安全评测考虑语言文化差异
先了解这件事
AI 综述
Google DeepMind 对齐研究负责人 Lora Aroyo 在首尔 AI Festa 的 AI Summit Conference 主题演讲中表示，现有以英语为中心的评测体系无法反映各地法律、语言语境与文化规范，导致 AI 出现文化盲区。她指出，AI 模型已支持约 100 种语言，但主要基准默认使用英语，最多只评测 10 到 20 种语言；以任何形式评测文化差异的基准占比不足 20%，因此模型即便给出安全答案也可能在文化上不当。
AI 根据报道生成 · 5 天前更新
后续时间线
10月6日
- ChosunBizGoogle DeepMind 的 Aroyo 呼吁建立文化敏感的 AI 评测标准
Google DeepMind 对齐研究负责人 Lora Aroyo 在首尔 AI Festa 的 AI Summit Conference 主题演讲中表示，现有以英语为中心的评测体系无法反映各地法律、语言语境与文化规范，导致 AI 出现文化盲区。她指出，AI 模型已支持约 100 种语言，但主要基准默认使用英语，最多只评测 10 到 20 种语言；以任何形式评测文化差异的基准占比不足 20%，因此模型即便给出安全答案也可能在文化上不当。她将文化错误分为语言与文化规范、地方宗教与神话、历史、地缘政治四类，并举例说多数模型会认为把筷子直插米饭是安全的，而这在亚洲多国违反当地礼仪。她还观察到同一英语问题译成马来语后答案准确率降至 50%，译成泰米尔语降至 40%，译成韩语时文化适当性错误率高于新加坡、印度、台湾、孟加拉国和巴基斯坦。
相关讨论
关注度走势
每天新增来源
- 10月6日新增1个来源（1家媒体、0个账号）
- 10月7日新增0个来源（0家媒体、0个账号）
- 10月8日新增0个来源（0家媒体、0个账号）
- 10月9日新增0个来源（0家媒体、0个账号）
- 10月10日新增0个来源（0家媒体、0个账号）
- 10月11日新增0个来源（0家媒体、0个账号）
- 10月12日新增0个来源（0家媒体、0个账号）