韩国科技部长主张AI需人类控制手段
先了解这件事
韩国副总理兼科学技术信息通信部长官裴庆勋在国会科学技术信息广播通信委员会国政监查中表示，AI 一旦被设定特定任务就不会停止，需要「终止开关」一类的人类控制装置，并主张通过国际协作推进 AI 安全应对。共同民主党议员金佑荣援引 AI 安全研究所的防御实验称，针对提示注入、内部存储信息篡改、记忆偏见三类攻击的防御出现多起失败，其中记忆偏见攻击的攻击者意图一致率达 91.9%。裴庆勋表示政府正推进安全 AI 模型项目，并将利用明年度预算和计划。在另一场答询中，裴庆勋就 AI 安全议题称 Anthropic CEO 阿莫代伊的 AI 风险警告自相矛盾，理由是 Anthropic 此前曾扫描全球二手书用于数据训练，同时表示应制定安全使用 AI 的指南并加速 AI 发展。
AI 根据报道生成 · 3 天前更新
事件进展
后续时间线
- 뉴스핌 / Newspim韩国科技部长回应 AI 安全实验失败：称 Anthropic 风险警告自相矛盾
韩国副总理兼科学技术信息通信部长官裴庆勋在国会科学技术信息广播通信委员会国政监查中，就 AI 安全议题答询。他称 Anthropic CEO 阿莫代伊的 AI 风险警告自相矛盾，理由是 Anthropic 此前曾扫描全球二手书用于数据训练，同时表示应制定安全使用 AI 的指南并加速 AI 发展。共同民主党议员金宇荣指出，AI 安全研究所针对提示注入攻击、内部存储信息篡改、记忆偏见注入三类外部攻击的防御实验大多失败，其中记忆偏见注入的攻击者意图一致率超过 91%。金宇荣称阿莫代伊警告超智能若脱离人类控制与对齐将十分危险，且 AI 不像核武器那样有防扩散条约式的相互威慑机制，并主张控制比对齐更重要。裴庆勋认同需要 AI 控制装置，表示自己此前已同意设置 kill switch，理由是 AI 一旦被设定特定任务就不会停止，会一直寻找完成攻击目标的方法。
- DigitalToday韩国科技部长在国会质询中提出 AI 需要「终止开关」等人类控制装置
韩国副总理兼科学技术信息通信部长官裴庆勋在国会科学技术信息广播通信委员会国政监查中表示，AI 一旦被设定特定任务就不会停止，需要「终止开关」一类的人类控制装置，并主张通过国际协作推进 AI 安全应对。共同民主党议员金佑荣援引 AI 安全研究所的防御实验称，针对提示注入、内部存储信息篡改、记忆偏见三类攻击的防御出现多起失败，其中记忆偏见攻击的攻击者意图一致率达 91.9%。裴庆勋表示政府正推进安全 AI 模型项目，并将利用明年度预算和计划中的前沿 AI 模型强化网络安保应对能力。共同民主党议员李周熙指出，AI 性能与基础设施相关预算为 6 万 1490 亿韩元，而安全与信任预算仅 274 亿韩元，相差约 224 倍，AI 安全研究所人员仅 38 人。
相关讨论
关注度走势
每天新增来源
- 10月6日新增2个来源（2家媒体、0个账号）
- 10月7日新增0个来源（0家媒体、0个账号）
- 10月8日新增0个来源（0家媒体、0个账号）
- 10月9日新增0个来源（0家媒体、0个账号）
- 10月10日新增0个来源（0家媒体、0个账号）
- 10月11日新增0个来源（0家媒体、0个账号）
- 10月12日新增0个来源（0家媒体、0个账号）