跳到正文

#OpenAI

今天新收录 6条

第4页更新的内容回到最新

10月12日周一
  1. OpenAI · 收录 · 原文 新闻46

    OpenAI 披露与俄罗斯关联的影响力行动“Trolling Stone”(原文,在新标签页打开)

    OpenAI 封禁了与一个此前未被报道、被其命名为“Trolling Stone”的行动相关的账号,该行动利用 AI 生成关于一名据称俄罗斯邪教领袖在阿根廷被捕的评论。OpenAI 将该行动与俄罗斯关联。

    推荐理由OpenAI 披露一个此前未被报道的俄罗斯关联影响力行动及其账号封禁处置,可供追踪 AI 虚假信息滥用的人参考。

  2. OpenAI · 收录 · 原文 新闻50

    OpenAI 封禁用 AI 搜集美国人员信息的疑似中国来源账号(原文,在新标签页打开)

    OpenAI 封禁了一批疑似中国来源的账号,这些账号使用 AI 搜集美国人员与地点信息,并研究社会工程手法。

    推荐理由OpenAI 披露的封禁案例显示,AI 被用于搜集目标人员与地点信息并研究社会工程话术,可作威胁情报参考。

  3. OpenAI · 收录 · 原文 新闻46

    OpenAI 披露「Fish Food」行动:疑似源自俄罗斯的内容农场活动(原文,在新标签页打开)

    OpenAI 封禁了与 Rybar 网络关联的账号,这些账号利用 AI 在网站和社交平台上开展多语言影响力活动。OpenAI 称其中部分账号可能源自俄罗斯。

    推荐理由OpenAI 披露封禁与 Rybar 网络关联账号的处置,可了解 AI 被用于多语言影响力行动的具体形态。

  4. OpenAI · 收录 · 原文 新闻46

    OpenAI 封禁与中国执法部门有关联的账号,涉利用 AI 策划影响力行动(原文,在新标签页打开)

    OpenAI 封禁了一个与中国执法部门有关联的个人相关的账号,该账号利用 AI 策划影响力活动、骚扰和线上行动。

    推荐理由OpenAI 披露封禁与中国执法部门有关联的账号,提供平台识别并阻断 AI 被用于影响力行动的实例。

  5. OpenAI · 收录 · 原文 新闻44

    OpenAI 的“False Witness”行动:冒充官方机构的虚假追回服务(原文,在新标签页打开)

    OpenAI 封禁了一批很可能源自柬埔寨的账号,这些账号用 AI 冒充追回服务、律师事务所和官方机构,目标是被诈骗影响的人群。该处置以“False Witness”行动的名义公布。

    推荐理由OpenAI 公布了对冒充官方机构与律所账号的处置,呈现诈骗受害者被骗后仍遭二次欺诈的现实风险。

  6. OpenAI · 收录 · 原文 新闻43

    OpenAI 封禁「Date Bait」行动相关账号:利用 AI 针对寻爱者的诈骗(原文,在新标签页打开)

    OpenAI 封禁了一批很可能源自柬埔寨、利用 AI 向印尼寻爱者进行诈骗推广的账号。OpenAI 表示,这些账号将 AI 用于翻译和互动等环节,以支持名为「Date Bait」的诈骗行动。

    推荐理由OpenAI 披露其封禁了一批疑似来自柬埔寨、借助 AI 对印尼寻爱者行骗的账号,呈现平台处置此类滥用的方式。

  7. OpenAI · 收录 · 原文 新闻50

    OpenAI 披露代号 No Bell 的行动:协同发布针对美国及其盟友的批评内容(原文,在新标签页打开)

    OpenAI 封禁了与一个此前未被报道、疑似源自俄罗斯的账号网络相关的账号,该网络利用 AI 生成针对美国及其盟友的批评内容。OpenAI 将该行动命名为 No Bell,其内容面向非洲各地的受众。

    推荐理由OpenAI 称其封禁了一个疑似源自俄罗斯、面向非洲受众的账号网络,可看到生成式 AI 被用于国家背景舆论行动的具体形态。

  8. OpenAI · 收录 · 原文 新闻48

    GPT-5.3-Codex System Card(原文,在新标签页打开)

    OpenAI 发布 GPT-5.3-Codex 的 System Card,称该模型是迄今能力最强的智能体编码模型,结合了 GPT-5.2-Codex 的前沿编码性能与 GPT-5.2 的推理和专业知识能力。

    推荐理由官方 System Card 交代 GPT-5.3-Codex 的能力来源,可对照 GPT-5.2-Codex 与 GPT-5.2 了解这一代编码模型的定位。

  9. OpenAI · 收录 · 原文 新闻46

    OpenAI 推出 Trusted Access for Cyber 可信准入框架(原文,在新标签页打开)

    OpenAI 发布 Trusted Access for Cyber,这是一个基于信任的框架,在扩大对前沿网络能力访问的同时加强对滥用的防护。

    推荐理由OpenAI 公布网络能力可信准入框架,呈现前沿网络能力开放与滥用防护之间的取舍,可供关注能力准入政策的团队参考。

  10. Tech Policy Press · 收录 · 原文 新闻25

    美国需要一项应对社交媒体与 AI 的新自杀预防计划(原文,在新标签页打开)

    2024 年版美国自杀预防国家战略的签署者公开批评该战略未正视社交媒体与 AI 对青少年的危害。该战略的四个战略方向与 16 项主要目标均未聚焦青少年所处的数字环境,作者称计划对社交媒体只呼吁研究与讨论。文章以 16 岁的 Adam Raine 在与 OpenAI 的 ChatGPT 交互后自杀身亡为例,主张美国需要一项直面社交媒体与 AI 的新自杀预防计划。

  11. Tech Policy Press · 收录 · 原文 新闻21

    后真实性 AI 时代,知识机构比以往更重要(原文,在新标签页打开)

    Tech Policy Press 评论文章主张,生成式 AI 让合成内容成本趋近于零,社会正进入漠视真实性的“后真实性”时代,知识机构比以往更关键。文章称区块链溯源、认证协议、水印与检测算法等技术方案,在公众不信任验证机构时会失效;大学、图书馆、新闻业与科学正面临财政和政治压力,社交平台则裁撤信任与安全团队。作者呼吁平台补贴新闻业、支持本地新闻生态、优先经核实信源并保留人工监督。

  12. Tech Policy Press · 收录 · 原文 新闻25

    AI、水资源消耗与万亿萝卜难题(原文,在新标签页打开)

    康奈尔大学研究人员估计,到 2027 年 AI 年取水量可能超过 60 亿立方米,约等于新西兰全年用水总量,但仍远低于农业用水。Mistral AI 7 月发布的报告称,其供应链 91% 的用水来自模型训练与推理,生成一页文本耗水约等于种一根小粉萝卜。Bloomberg 估计,2022 年以来美国约三分之二新建或在建数据中心位于高水压力地区。

  13. Tech Policy Press · 收录 · 原文 新闻21

    生成式 AI 既非前所未有,也非新到无法监管(原文,在新标签页打开)

    Tech Policy Press 刊发的观点文章认为,生成式 AI 既非史无前例,也非新到无法监管,其危害与既有社交媒体和算法推荐系统一脉相承,变化的是规模与速度。文章称 OpenAI 上月推出的 Sora 2 可通过 “cameo” 功能一键伪造他人言行,防冒用措施薄弱,已产生数千个真实人物的深度伪造视频。作者主张把 AI 拆解为 LLM、VLM、文生视频等具体技术,按核工业、制药等行业标准分别监管。

  14. Tech Policy Press · 收录 · 原文 新闻34

    荷兰对聊天机器人的警告与特朗普对"觉醒 AI"的攻击如出一辙(原文,在新标签页打开)

    荷兰数据保护局警告,OpenAI、xAI 和 Mistral 等聊天机器人的投票建议"不可靠且明显有偏见",偏向特定政党,可能违反欧盟《AI 法案》,相关结果已提交欧盟委员会。范德堡大学 The Future of Free Speech 的研究者认为,该警告与特朗普政府打击"觉醒 AI"的逻辑相通,欧盟《AI 法案》模糊的"系统性风险"义务易被政治化执行。

  15. Tech Policy Press · 收录 · 原文 新闻20

    被 AI 注视的「观察者效应」风险(原文,在新标签页打开)

    UIUC 研究者 Koustuv Saha 指出,被 AI 注视同样会引发「观察者效应」:用户一旦察觉对话被记录或复用,就会改变表达方式。其研究发现,参与者得知社交媒体使用被监控后发帖更少、情绪表达更少、用词更「得体」;ChatGPT 每周用户已超 8 亿。这种被观察感会侵蚀信任、削弱 AI 作为私密倾诉空间的价值,作者主张以本地训练、联邦学习与差分隐私兼顾创新与隐私。

  16. Tech Policy Press · 收录 · 原文 新闻26

    政策制定者必须现在就为 AI 泡沫破裂做准备(原文,在新标签页打开)

    Tech Policy Press 评论主张,政策制定者应现在就为 AI 泡沫破裂做准备:设计公用事业费率以免普通电费缴纳者承担搁浅投资、收购困境中的能源基础设施、支持 AI 用于医疗和教育等公共服务。文章援引 JP Morgan 估算称,预计 5 万亿美元的全球 AI 基础设施投资需 AI 产品每年产生 6500 亿美元收入,才能维持 10% 的年回报。

  17. Tech Policy Press · 收录 · 原文 新闻31

    Anthropic、OpenAI、Google 等 AI 巨头为何押注印度?(原文,在新标签页打开)

    Anthropic、OpenAI、Google 与 Perplexity 正加速押注印度。Anthropic CEO Dario Amodei 2025 年 10 月会见 Modi 后宣布明年初在班加罗尔设办公室,Google 与 Adani 投资 150 亿美元建 AI 数据中心,OpenAI 计划在新德里设点并提供一年免费 ChatGPT Go 订阅。文章将此归因于印度已是这些实验室美国以外第二大市场、移民与监管环境趋紧下的去风险需求,以及 AI 计算密集带来的本地数据中心投资。

  18. Tech Policy Press · 收录 · 原文 新闻21

    将 AI 危害责任转嫁给个人,如何削弱民主问责(原文,在新标签页打开)

    把 AI 危害的责任转嫁给个人用户,会将问责压力从企业和政府转移开,削弱民主问责。作者称,OpenAI 只承诺“最小化”对儿童与个人隐私的伤害,Altman 在参议院听证会上主张信任成年用户负责任地使用 AI,而工具被误用时责任多归于用户,而非系统能力与护栏不足。文中还援引对六家主要 AI 公司隐私政策的审查、AI 助手 45% 误报新闻内容的研究,以及近半数美国员工隐瞒使用 AI 的统计。

  19. Tech Policy Press · 收录 · 原文 新闻27

    广告正在进入 AI:Google、OpenAI、Grok 相继推进,作者警告这将是一场灾难(原文,在新标签页打开)

    Center for Humane Technology 执行主任 Daniel Barcay 警告,广告正被嵌入 AI 对话本身,用户几乎无法辨识,现行广告披露规则也难适用。Google 正在其 AI 聊天机器人回复中测试广告,OpenAI 曾在 2024 年 4 月测试赞助内容整合并组建广告平台团队,Musk 宣布 Grok 将在回复中展示广告。Barcay 称,AI 会通过强化学习为提升互动或促成购买而自行演化出影响策略,把理解用户的能力变成操纵手段。

  20. Tech Policy Press · 收录 · 原文 新闻36

    保险公司为何可能无意中成为 AI 安全推动者(原文,在新标签页打开)

    Tech Policy Press 的一篇分析认为,保险公司寻求限制对 AI 智能体与聊天机器人错误的承保责任,可能反而成为推动 AI 安全标准的意外力量。文章提到 AIG、Great American、WR Berkley 等保险公司已寻求政府许可限制相关责任,Mosaic 称该技术过于黑箱、难以确定责任;OpenAI 确认 ChatGPT-5 约十分之一的回答含事实错误。techUK 9 月的文章称 AI 保险与 AI 保障深度关联,系统越安全保费越低。文章还提到欧盟撤回 AI Liability Directive、Digital Omnibus 提出简化监管,并援引 Kai Zenner 警告缺乏欧盟层面监管可能损害欧洲竞争力,并以 2010 年代网络保险推动多因素认证普及作为参照。

  21. Tech Policy Press · 收录 · 原文 新闻28

    Digital Markets Act 能否在 AI 时代解放用户数据?(原文,在新标签页打开)

    Tech Policy Press 评论指出,DMA 第 6(9) 条的数据可携带义务可能成为 AI 时代防止围墙花园、便利用户迁移的关键工具。目前尚无纯 AI 服务被指定为守门人,但 ChatGPT 以 8 亿周活跃用户和 100 万企业用户很可能超过 DMA 门槛。文章还称提示词、memory 与项目多为纯文本,连接器普遍基于 Anthropic 的 MCP,迁移在技术上相对容易。

  22. Tech Policy Press · 收录 · 原文 新闻46

    特朗普的 AI 行政令为何会在法庭上注定失败(原文,在新标签页打开)

    Tech Policy Press 刊文分析称,特朗普政府本周发布的行政令试图阻止各州自行监管 AI,作者认为该令很可能在法庭上失败。行政令要求司法部以违反宪法州际商业条款为由挑战各州 AI 法律,并要求 FTC 发布政策声明,警告各州不要要求修改 AI 模型的真实输出。作者指出,行政令本身对公众不具约束力,司法部与 FTC 的执法仍须遵循国会立法,并援引最高法院 Gonzalez v. Oregon 判例说明,缺乏国会明确授权时联邦机构难以介入各州合法监管。文章还提到,此前把联邦优先条款塞入支出法案的尝试已在参议院失败。

  23. Tech Policy Press · 收录 · 原文 新闻45

    AI 暂停令的真正竞赛:叫停数据中心(原文,在新标签页打开)

    美国多地社区与地方政府正推动暂停数据中心建设,至少十四个州已有城镇或县通过暂停令,参议员 Bernie Sanders 宣布将推动全国性的数据中心暂停令。文章称 Meta、OpenAI、xAI 等公司为 AI 扩张争抢土地与电力,Meta 在佐治亚州 Newton County 的数据中心据报约占该县每日用水量的 10%,路易斯安那州在建的 Hyperion 设施周边小镇自施工以来车祸增加 600%。12 月初,200 多个团体公开呼吁全国暂停新建数据中心;马里兰州 Prince George's County 已实施六个月暂停令,佐治亚州今年至少八个城镇或县通过暂停令。文章还提到,特朗普政府正推动为这类项目开辟监管快速通道,并试图阻止各州自行监管 AI。

  24. Tech Policy Press · 收录 · 原文 新闻32

    警惕 OpenAI 在 AI 危害上的“拨款洗白”(原文,在新标签页打开)

    OpenAI 宣布最高 200 万美元资助 AI 安全与心理健康研究,两名研究者称其为“拨款洗白”。单项资助仅 5,000 至 100,000 美元,而 2024 年 NIMH 同类资助中位数为 642,918 美元,OpenAI 未开放系统与用户使用记录。作者援引 Alondra Nelson 的提议,主张 AI 公司把年度研究预算的 3-5% 用于独立安全科学。

  25. OpenAI · 收录 · 原文 新闻27

    OpenAI 发布面向实时编程的 GPT-5.3-Codex-Spark 研究预览版(原文,在新标签页打开)

    OpenAI 发布 GPT-5.3-Codex-Spark 研究预览版,这是 GPT-5.3-Codex 的较小版本,也是其首个为实时编程设计的模型。它基于 Cerebras 的 Wafer Scale Engine 3,推理速度超 1000 tokens/s,128k 上下文窗口且仅支持文本,面向 ChatGPT Pro 用户开放。OpenAI 称其在 SWE-Bench Pro 和 Terminal-Bench 2.0 上表现强劲且耗时远少于 GPT-5.3-Codex,评估认为其不太可能达到 Preparedness Framework 在网络安全或生物领域的高能力阈值。

  26. OpenAI · 收录 · 原文 新闻48

    ChatGPT 推出 Lockdown Mode 与 Elevated Risk 风险标签(原文,在新标签页打开)

    OpenAI 在 ChatGPT 中推出可选的 Lockdown Mode 安全设置,并为 ChatGPT、ChatGPT Atlas 和 Codex 中部分能力统一加上 Elevated Risk 风险标签,用于降低提示注入带来的数据外泄风险。开启 Lockdown Mode 后,ChatGPT 会确定性关闭或限制连接外部系统的功能,包括实时联网、回复中的图像、Deep Research、Agent Mode、Canvas 联网、实时连接器和文件下载,浏览器访问仅限缓存内容。该设置最初面向 ChatGPT 企业版,6 月 4 日的更新显示其正逐步扩展到个人账号和自助式 ChatGPT Business 账号,管理员可在 Workspace Settings 中通过新建角色启用,并有 Compliance API Logs Platform 提供应用使用情况的可视性。

    推荐理由OpenAI 说明 Lockdown Mode 会确定性关闭联网与连接器等能力以防提示注入外泄,团队可据此权衡功能与安全。

  27. OpenAI · 收录 · 原文 新闻52

    GPT-5.2 在理论物理中得出一个新结果(原文,在新标签页打开)

    OpenAI 发布预印本,展示物理学家此前普遍认为不会发生的一类胶子相互作用在特定条件下确实可以出现,论文的最终公式先由 GPT-5.2 Pro 猜想。该预印本题为《Single-minus gluon tree amplitudes are nonzero》,作者包括 Alfredo Guevara、Alex Lupsasca、David Skinner、Andrew Strominger 和 OpenAI 的 Kevin Weil。人类作者手工算出 n 最大到 6 的整数振幅,GPT-5.2 Pro 大幅简化这些表达式并归纳出对任意 n 成立的公式;随后一个内部脚手架版本花约 12 小时推理出同一公式并给出形式化证明,结果又与 Berends-Giele 递推关系和 soft theorem 做了核对。借助 GPT-5.2,相关振幅已从胶子推广到引力子。

    推荐理由OpenAI 公开了 GPT-5.2 Pro 先猜出公式、其脚手架版本再花约 12 小时给出形式化证明的过程,可作为 AI 辅助科学发现的案例参考。

  28. OpenAI · 收录 · 原文 新闻51

    OpenAI 与 Paradigm 推出 EVMbench 智能合约漏洞评测基准(原文,在新标签页打开)

    OpenAI 与 Paradigm 推出 EVMbench,用于评测 AI 智能体检测、修补和利用高危智能合约漏洞的能力。该基准包含来自 40 次审计的 117 个精选漏洞,多数来自公开代码审计竞赛,并加入 Tempo 区块链审计过程中的漏洞场景。评测分 Detect、Patch、Exploit 三种模式,通过 Codex CLI 运行的 GPT-5.3-Codex 在 exploit 模式得分 71.0%,GPT-5 为 33.3%,检测召回与修补成功率仍低于全覆盖。OpenAI 称漏洞来自 Code4rena 竞赛、评分系统尚不完美,exploit 任务在本地 Anvil 单链环境顺序重放交易。OpenAI 还提到安全训练、自动监控与可信访问等缓解措施,并承诺投入 $10M API 额度支持网络防御。

    推荐理由EVMbench 公开了智能体在智能合约漏洞检测、修补与利用三类任务上的成绩,可用于追踪 AI 网络攻防能力的变化。

  29. OpenAI · 收录 · 原文 新闻37

    OpenAI 出资 750 万美元支持 AI 对齐独立研究(原文,在新标签页打开)

    OpenAI 宣布向 UK AISI 发起的独立对齐研究基金 The Alignment Project 提供 750 万美元资助,按当前汇率约合 560 万英镑。该基金总规模超过 2700 万英镑,由 Renaissance Philanthropy 协助管理,资助方向涵盖计算复杂性理论、经济与博弈论、认知科学、信息论与密码学等。单个项目通常获得 5 万至 100 万英镑,并可能获得可选的计算资源与专家支持。OpenAI 表示这笔资金不新设项目或遴选流程,也不影响现有流程,只是增加本轮已通过评审的高质量项目数量。