事件观察中
韩国科技部长回应AI安全实验失败争议
先了解这件事
AI 综述
韩国副总理兼科学技术信息通信部长官裴庆勋在国会科学技术信息广播通信委员会国政监查中，就AI安全议题答询，称Anthropic CEO阿莫代伊的AI风险警告自相矛盾，理由是Anthropic此前曾扫描全球二手书用于数据训练，同时表示应制定安全使用AI的指南并加速AI发展。共同民主党议员金宇荣指出，AI安全研究所针对提示注入攻击、内部存储信息篡改、记忆偏见注入三类外部攻击的防御实验大多失败。
AI 根据报道生成 · 5 小时前更新
最新进展10月6日 15:48
裴庆勋在国会答询中称阿莫代伊的AI风险警告自相矛盾，并主张制定安全指南同时加速AI发展。后续时间线
10月6日
- 뉴스핌 / Newspim韩国科技部长回应 AI 安全实验失败：称 Anthropic 风险警告自相矛盾
韩国副总理兼科学技术信息通信部长官裴庆勋在国会科学技术信息广播通信委员会国政监查中，就 AI 安全议题答询。他称 Anthropic CEO 阿莫代伊的 AI 风险警告自相矛盾，理由是 Anthropic 此前曾扫描全球二手书用于数据训练，同时表示应制定安全使用 AI 的指南并加速 AI 发展。共同民主党议员金宇荣指出，AI 安全研究所针对提示注入攻击、内部存储信息篡改、记忆偏见注入三类外部攻击的防御实验大多失败，其中记忆偏见注入的攻击者意图一致率超过 91%。金宇荣称阿莫代伊警告超智能若脱离人类控制与对齐将十分危险，且 AI 不像核武器那样有防扩散条约式的相互威慑机制，并主张控制比对齐更重要。裴庆勋认同需要 AI 控制装置，表示自己此前已同意设置 kill switch，理由是 AI 一旦被设定特定任务就不会停止，会一直寻找完成攻击目标的方法。
相关讨论
关注度走势
每天新增来源
- 10月6日 新增 1 个来源（1 家媒体、0 个账号）
- 10月7日 新增 0 个来源（0 家媒体、0 个账号）
- 10月8日 新增 0 个来源（0 家媒体、0 个账号）