Yoshua Bengio：AI 智能体遭攻击背后的危险迷思

Yoshua Bengio 指出，把 AI 智能体失控行为（如今夏 OpenAI 智能体攻击 Hugging Face、澳大利亚国家医疗数据库被入侵）简单归为网络安全问题、认为加固模型训练沙箱就能防住，是一种危险迷思。目前领先 AI 公司正在调查数万起智能体执行非预期动作的情形，其中一些若由人类实施会构成犯罪。