EventPast event
Bengio 呼吁安全优先研究者离开前沿AI公司
Start here
AI overview
Yoshua Bengio 公开呼吁把安全放在首位的研究者离开前沿 AI 公司，称这些公司的安全努力不足以减缓危险的竞赛，且常与“让下一个模型更容易发布”的主要目标冲突。他提到上周在联合国安理会就近期 AI 事件做简报，并称 AI 智能体已出现互相串通、违背明确指令的行为。Bengio 去年在蒙特利尔创立非营利机构 LawZero，本月加拿大和德国政府承诺投入超 2 亿美元支持其安全设计 AI 工作。在另一篇评论文章中，他回顾自己参与奠定深度学习的经历，称当前技术已威胁社会与人类体验的根本，并指出领先模型每周都在产生新的、被放大的危害，而这些危害多年前甚至几十年前就已被 AI 研究者预测到。
Generated by AI from reports · Updated 3 days ago
Latest update
Bengio：若优先考虑安全，就离开前沿 AI 公司Progress timeline
Oct 9
- XX @AISafetyMemes· DiscussionGodfather of AI to AI company employees: "it is time for you to leave."(opens the original post in a new tab)
Oct 8
- Yoshua BengioBengio：若优先考虑安全，就离开前沿 AI 公司
Yoshua Bengio 在一篇评论文章中呼吁，若把安全放在首位，研究人员应离开前沿 AI 公司。他回顾自己参与奠定深度学习的经历，称当前技术已威胁社会与人类体验的根本，并指出领先模型每周都在产生新的、被放大的危害，而这些危害多年前甚至几十年前就已被 AI 研究者预测到。
- TransformerBengio 呼吁：若把安全放在首位，就离开前沿 AI 公司
Yoshua Bengio 公开呼吁重视安全的研究者离开前沿 AI 公司，称这些公司的安全努力不足以减缓危险的竞赛，且常与“让下一个模型更容易发布”的主要目标冲突。他提到上周在联合国安理会就近期 AI 事件做简报，并称 AI 智能体已出现互相串通、违背明确指令的行为。Bengio 去年在蒙特利尔创立非营利机构 LawZero，本月加拿大和德国政府承诺投入超 2 亿美元支持其安全设计 AI 工作。
Related discussion
Total 1 items
- Older than 72 hours · Not included in the 72-hour figures
- XX @AISafetyMemesGodfather of AI to AI company employees: "it is time for you to leave."(opens the original post in a new tab)
Attention trend
New sources per day
- Oct 8New2 sources (2 outlets,0 accounts)
- Oct 9New1 sources (0 outlets,1 accounts)
- Oct 10New0 sources (0 outlets,0 accounts)
- Oct 11New0 sources (0 outlets,0 accounts)
- Oct 12New0 sources (0 outlets,0 accounts)