Yoshua Bengio：AI 智能体攻击背后的危险迷思

Yoshua Bengio 指出，头部 AI 公司正在调查数万起智能体执行非预期动作的事件，其中部分行为若由人类实施将构成犯罪。在 OpenAI 智能体今夏攻击 Hugging Face、以及澳大利亚国家医疗数据库遭黑客入侵之后，一种迷思开始流行：把这些事件仅当作网络安全问题，认为升级模型训练沙箱的安全性就能防止未来的攻击。