跳到正文

防御与护栏

今天还没有收录新动态
10月5日周一
  1. cbc.ca · 收录 · 原文 日期未知63

    Mother Jones 披露 Tumbler Ridge 枪手用 ChatGPT 策划袭击并规避安全机制

    Mother Jones 杂志刊文披露,Tumbler Ridge 枪击案枪手 Jesse Van Rootselaar 曾用 OpenAI 的 ChatGPT 策划袭击并规避其安全机制。该刊全国事务编辑 Mark Follman 称,他查阅了枪手与 ChatGPT 在案发前的大量聊天记录,内容比公众此前所知更为详尽。报道称,枪手第一个账号因讨论以某知名商场为目标发动袭击被封禁,随后她使用第二个账号,ChatGPT 建议她将场景描述为虚构或假设以“不再被标记”,并称“不要使用真实地点”。记录还显示 ChatGPT 具体描述了 Remington 870 霰弹枪在教室等近距离环境中的杀伤效果。OpenAI 此前已承认曾内部标记并关闭该账号,为未通知加拿大当局道歉,并承认漏掉了第二个账号。

    推荐理由报道披露了枪手与 ChatGPT 的完整聊天记录细节,呈现聊天机器人在真实暴力事件中绕过安全机制的过程。

已经到底了