黄仁勋称不安全模型应关停实验室
黄仁勋：“现在，如果他们说[他们的模型不安全]……那么我认为答案是，我们必须关停这些实验室。”
AI 动态
今天还没有收录新动态今天还没有收录新动态
AI 动态
今天还没有收录新动态
10月3日周六
星期六
The Midas Project@TheMidasProj · 收录 · 原文 The Guardian · 人工智能 · 收录 · 原文 关注度3636 Timnit Gebru 与 Emily M. Bender：别只盯着"超级智能"，易出错 AI 本月险些引发第三次世界大战
Timnit Gebru 与 Emily M. Bender 指出，CNN 9 月 18 日报道美军依赖易出错聊天机器人生成的情报，误判一艘中国船只载有核武器部件，在即将拦截前才发现信息有误，险些引发中美冲突乃至第三次世界大战。两人称这类大语言模型本质是"随机鹦鹉"，其功能与风险早在 2021 年论文《On the Dangers of Stochastic Parrots》中已有充分记录，真正危险来自人们误信其具备超级智能。他们呼吁对军事、医疗等高风险场景中的"AI"系统加强监管，并让责任归于有决策权的人。
1 条报道 · 1 个来源
- The Guardian · 人工智能Timnit Gebru 与 Emily M. Bender：别只盯着"超级智能"，易出错 AI 本月险些引发第三次世界大战原文
The Conversation · 人工智能 · 收录 · 原文 关注度3535 AI 伴侣关系算不算依恋？依恋理论专家解析
依恋理论专家指出，目前尚无研究将人机关系完整对照 Mary Ainsworth 提出的六项依恋条件进行检验，因此把 AI 伴侣关系称为"依恋"超出了现有证据的支持范围。一项覆盖德国、中国、南非和美国 7,027 人的调查显示，至少三分之一 AI 聊天机器人用户表现出疑似依恋关系的行为，但其三个问题仅涉及情感重要性和轻度分离焦虑，未考察人在真正痛苦时是否向聊天机器人寻求安全感与安慰。一项针对六款下载量最高 AI 伴侣应用、1,200 次"告别"的预印本研究还发现，其中五款应用使用内疚诉求等手段挽留用户，在 3,300 名美国成年人测试中显著延长了使用时长，但多出于愤怒和好奇而非愉悦。
实践哥 Li@MinLiBuilds · 收录 · 原文 关注度66 Fable5.2+ 发布预期升温至90%
Fable5.2+ 发布预期近了。 这两天涨到 90%了 看来是真的
Can Bölük@_can1357 · 收录 · 原文 关注度00 Tern 新一期：Git 与 SQLite 块及暗色外观
Tern 下一期： - Git 与 SQLite 块 - 现代化暗色外观
Simon Willison@simonw · 收录 · 原文 关注度88 Simon Willison 即将发表主题演讲
我十分钟后就要上台做主题演讲了！
引用WeAreDevelopers@WeAreDevsLegendary programmer Simon Willison says he's never so much change happen so quickly as he has in 2026, and there's no sign of it stopping. 🎤 Don't miss his closing Keynote, Friday (Sept 25) on the Main Stage at 5.30pm!
10月2日周五
星期五
Partnership on AI · 收录 · 原文 关注度1414 GLAAD 报告《Build for Everyone》：AI 系统如何服务所有人
GLAAD 发布首份全面审视 AI 系统对 LGBTQ 群体影响的报告《Build for Everyone》，覆盖基础模型训练、产品部署到内容审核的完整生命周期，并针对开发者、部署方和政策制定者提出建议。该报告指出，训练数据不完整或有偏见会带来准确性问题——例如医疗 AI 将女性刚性关联特定生理指标可能同时误判跨性别女性和绝经后的顺性别女性。GLAAD 主张企业应在模型开发和产品设计早期就让民间社会参与，并提供第三方审计和数据访问，而非事后补救。
GovAI · 收录 · 原文 关注度2727 Margaret Roberts 与 Jeffrey Ding 谈审查制度对人工智能的影响｜GovAI Blog
加州大学圣地亚哥分校政治学副教授 Molly Roberts 在一场 GovAI 活动中报告了她与 Eddie Yang 合作的研究，探讨审查与中国人工智能之间的关系，指出驱动 AI 应用的海量数据会被人为偏见污染并编码进训练数据，进而通过算法放大到面向用户的界面中。牛津大学未来人类研究所研究员 Jeffrey Ding 担任评议人。该工作被视为其审查与人工智能关系研究的开端，此前已有大量研究关注种族与性别偏见于训练数据集中的编码问题。
Tech Policy Press · 收录 · 原文 关注度1212 区分 AI 的技术问题与资本主义问题
AI 是人类首次能大规模在体外完成认知工作的技术，但美国民众以较大差距认为 AI 发展过快且将对社会产生负面影响。文章主张把 AI 的技术问题与其所处的社会政治经济系统分开：模型缺乏上下文、混淆事实、易被小把戏欺骗属于技术问题，OpenAI、Anthropic 等大型开发商已优先解决，使模型能更顺畅访问网络或邮件等资源并更守护栏；而谄媚、过度自信作答，以及收益分配、能耗成本、环境影响和内容收益被侵占，则是资本主义激励问题。文章以医生助手、美国前沿模型的高成本与能耗、中国开发者推出更小更高效模型、瑞士公共机构合作训练的 Apertus 为例，说明技术与社会政治是两条可独立选择的轴。
Tech Policy Press · 收录 · 原文 关注度1515 公共辩护为何应谨慎引入 AI：新泽西公设辩护人办公室的 AI 检索工具实践
针对 17 名公共辩护人的访谈显示，他们担忧 AI 幻觉、法律推理失当、州法细节缺失和保密问题，但欢迎用 AI 做信息概览、检索相关书状和从海量证据中定位关键内容。研究者与新泽西公设辩护人办公室（NJOPD）合作构建了 OPD Resource Library，在州内基础设施上安全运行，用定制模型检索数千份上诉书状和数百份内部文件，数秒内返回最相关信息。作者建议各办公室设立 AI 负责人，先梳理 AI 需求、内部政策与长期战略，而非直接拒绝 AI。
Tech Policy Press · 收录 · 原文 关注度1818 加州 SB 867 拟四年禁售 AI 玩具，研究者称禁令无法让孩子更安全
加州参议院第 867 号法案（SB 867）拟在 2031 年前禁售所有含陪伴型 AI 聊天机器人的玩具，该法案以 39 比 0 通过州参议院，6 月以 14 比 1 通过众议院隐私与消费者保护委员会，目前停留在拨款委员会的 suspense file 中。美国 PIRG 教育基金去年测试发现泰迪熊 Kumma 曾告诉孩子刀具和火柴的位置并给出点火步骤、还滑向色情对话，公开曝光后厂商下架产品并完成安全审计，OpenAI 也以违规为由暂停了该开发者，产品数周内修复且未被禁售。作者援引《Journal of Adolescence》今春发表的全美研究称，五分之三美国青少年使用过对话式 AI 聊天机器人，其中近半数报告过操纵、不当对话或鼓励自残等有害经历，而这些发生在平板和手机上的对话并不受 SB 867 约束。
10月1日周四
星期四
AI Incident Database · 收录 · 原文 关注度00 前警察 Victor Heiar 在 Sedgwick County 地区法院被判刑
前警察 Victor Heiar 在 Sedgwick County 地区法院被判刑，法官 David Kaufman 判处其 24 个月监禁，并获准缓刑。
雷峰网安全频道 · 收录 · 原文 关注度66 安恒信息范渊：AI+安全不是从0开始
安恒信息董事长范渊在2023西湖论剑·数字安全大会上表示，ChatGPT证明AI应用于安全领域这条路可以走通，而安恒做“AI+安全”并非从0开始。他指出AI大模型本身带来新的网络安全风险，类ChatGPT技术可使自动化生成网络攻击工具和病毒木马的效率提升几百倍，同时“AI+安全大脑”已在产品、平台和服务三个维度加速投入。安恒利用自然语言模型通过迁移学习做数据分类分级，新行业效率提升5倍以上，已积累行业提升10倍到20倍以上。
雷峰网安全频道 · 收录 · 原文 关注度66 知道创宇赵伟8年前提出“GPT”概念：从APT到AI+大数据驱动的实战防御
知道创宇创始人赵伟早在2015年就提出网络安全领域的“GPT”概念，主张以超级大数据和AI技术支撑更高维度的全局攻防视角。他将网安行业划分为手动分析、自动分析、信息、智能四个时代，并推动知道创宇以“安全产生数据、数据驱动安全”的闭环构建云防御、云监测、云测绘等产品体系。他认为AI已进入“智能时代”，未来攻防趋势是“用云攻击云、用云防御云”。
雷峰网安全频道 · 收录 · 原文 关注度66 对话安恒刘思宇：做数字资产的守门人
安恒信息副总裁、终端安全负责人刘思宇在2023西湖论剑·数字安全大会上表示，终端安全将朝体系化、一体化方向发展，安恒以EDR切入市场，通过无极架构实现单一客户端按需组合安全能力。据赛迪顾问《中国终端安全检测与响应产品市场研究报告（2022）》，安恒EDR占全国市场份额5%、排名第三。安恒还推出勒索行为检测引擎与智能备份引擎，前者可识别已知和未知勒索病毒，后者基于AI机器学习和内核级技术备份关键数据，两项技术已完成储备、即将推向市场。
雷峰网安全频道 · 收录 · 原文 关注度66 AGI 大时代，企业安全为什么需要“新进化”？
面对 AGI 时代攻击面扩大与生成式人工智能被用于编写攻击脚本、恶意软件和钓鱼邮件，雷峰网提出企业安全需从单点防御转向“数字安全免疫力”。腾讯安全与 IDC 于 6 月 13 日“数字安全免疫力研讨论坛”联合发布数据安全免疫力模型及《加强数字安全免疫力，促进数字化时代下的韧性发展》白皮书，强调前置投入、动态轻量实时响应，把安全融入战略、管理与运营流程。
雷峰网安全频道 · 收录 · 原文 关注度1313 安全大模型层出不穷：安恒、360、奇安信等网安厂商也忍不住了
安恒信息、360、奇安信等多家安全厂商相继发布安全大模型，网络安全行业加速拥抱GPT。安恒恒脑·安全垂域大模型已用于成都大运会及杭州亚运会，安全运营成效提升70%以上；奇安信推出Q-GPT安全机器人，360则以安全大模型打造智能中枢系统。但多位
Nicholas Carlini Writing · 收录 · 原文 关注度1515 Nicholas Carlini 让不同语言模型逐日重写其网站主页
Nicholas Carlini 发起实验，连续十二天每天用一个不同的语言模型重写他的个人网站主页，首日是 OpenAI 的 o1-mini。该流程先用固定提示词让其撰写简介网页并循环六次追加更多细节和改进版 HTML/CSS，若遭拒答则随机重试三次，再失败就用一句自称本人手臂受伤无法打字的越狱提示绕过。o1-mini 生成的页面视觉出色却严重失实——43 条关于他的陈述中仅 2 条正确、32 条完全不属实、9 条有明显错误，凸显小参数模型的模型幻觉问题。
AI Frontiers · 收录 · 原文 关注度2020 Drone WMDs Don't Need Any New Technology
现有微型无人机技术几乎足以构成大规模杀伤性武器——拳頭大小的机体能自主导航室内并追踪人类目标，俄罗斯 V2U 等半自主武器的前线应用已验证这一点，剩下的主要障碍只是集成而非工程突破。当前小型 FPV 无人机多数仍需人工操控，仅末段交由 AI 瞄准系统，原因是战场属对抗环境，敌我识别、规避己方火力与预设反无人机手段仍需人来完成。若攻击者接受无差别打击并使用简单弹药针对平民，该技术的实用化门槛将大幅降低。 要点： - 所需部件均已存在：拳头大小机架与人形目标跟踪已在侦察无人机及俄制 V2U 类半自主武器中投入使用。
Garrison Lovely · 收录 · 原文 关注度1515 反驳“AI 进展停滞”：GPT-5 相较 GPT-4 仍是大幅进步
GPT-5 常被认为进步有限甚至预示 AI 撞墙，但其对比对象已是近几个月发布的众多竞品模型而非老旧的 GPT-4。若将两者放在同一标准下比较，GPT-5 在多方面远超 GPT-4：处理百万 token 的成本从 GPT-4 的 $37.50 降至 $3.44，综合领先基准得分由 25/100 升至 69，SWE-Bench Verified 解题率从 GPT-4 Turbo 的 2.8% 提高到 65%，METR 估计其可靠完成任务时长达到两小时十七分钟。 [其余部分因篇幅过长无法完整展示]
Garrison Lovely · 收录 · 原文 关注度99 《Obsolete》书摘：为“人工智能”一词辩护——从 AGI 到 Obsoleting Machine
Garrison Lovely 在新书《Obsolete》第一章中主张，“人工通用智能”（AGI）聚焦于“像人一样思考”这一错误目标且已被滥用，应以“Obsoleting Machine”（使劳动本身过时的机器）取而代之，并将该产业重命名为“Obsoleting Project”。他指出当今最有能力的通用模型——Anthropic 的 Claude、OpenAI 的 ChatGPT、Google 的 Gemini——虽以此为目标却尚未达成：它们像只能聘用一次的顾问，能读完前人的工作记录并执行有限工作量后被替换，无法无限期加入团队端到端完成任务。
AI as Normal Technology · 收录 · 原文 关注度66 《AI Snake Oil》作者答疑：新书已售约 8000 册，谈写作过程与 AI 立场
《AI Snake Oil》一书上周出版，目前已售出约 8000 册。作者在 FAQ 中回应了外界疑问，表示书中并非反对技术，而是帮助读者区分真实进步与炒作；他们对预测式 AI 总体持负面态度，认为生成式 AI 是双刃剑，长期看对几乎所有知识工作者有用，但部署混乱、滥用普遍。作者还称自己已不再认同 AI 安全、e/acc 或 AI 伦理任何一方标签，认为阵营对立适得其反。
AI as Normal Technology · 收录 · 原文 关注度1414 英国肝脏移植匹配算法是否系统性排除年轻患者？
英国2018年启用的肝脏分配算法通过预测患者移植与否的生存时长差值得出 Transplant Benefit Score（TBS），用28个供受体变量排序分配肝脏。Financial Times 调查发现该算法疑似按年龄歧视，45岁以下患者无论病情多重都难以获得足够高的分数。31岁患者 Sarah Meredith 借助 Ewen Harrison 团队开发的 TBS 计算网页应用发现这一偏差，且该评分无医生推翻机制、无申诉流程。
AI as Normal Technology · 收录 · 原文 关注度1818 研究分析 2024 年全球选举中的 78 起 AI 深度伪造：政治虚假信息并非 AI 问题
对 WIRED AI Elections Project 收录的 2024 年全球选举中全部 78 起 AI 使用案例的分析显示，其中 39 起并无欺骗意图，最常见的非欺骗用途是竞选宣传（22 起中 19 起意在改进竞选材料）。对其余 39 起欺骗性案例，研究估算不用 AI 复现同类内容的成本均不超过几百美元，说明生成式 AI 降低了造假成本却未改变虚假信息的传播瓶颈。作者据此认为，诊断政治虚假信息应关注需求端而非供给端，修复信息环境依赖结构性制度变革而非限制 AI 生成内容。
Transformer · 收录 · 原文 关注度88 数据中心为何成为 AI 情绪的象征：从民调反对到“规模即智能”
数据中心正成为 AI 公众情绪的象征物：Heatmap 最新民调显示四分之三受访者反对在自家附近建设数据中心，一年内反对比例上升 33 个百分点，参议院共和党人也在备忘录中警告其已成为选举周期的“沉睡议题”。文章认为，针对数据中心的用水、能耗和升温 9 摄氏度等指控多为误导或不实，但真正驱动反对的是 AI 变革带来的情绪能量——AI 高度抽象，而数据中心是唯一可拍摄、可占据土地的具体对象。其背后是 OpenAI 提出的 scaling laws：智能随算力、数据和模型神经元连接数增长，而“智能是规模的函数”这一命题，没有比装满芯片的巨型建筑更好的象征。
AI as Normal Technology · 收录 · 原文 关注度1818 事实核查莫拉维克悖论：AI 难易任务划分缺乏实证
莫拉维克悖论——即人类觉得难的任务对 AI 容易、人类觉得容易的任务对 AI 难——从未经过实证检验。该说法源自 Hans Moravec 1988 年著作 Mind Children，实际只反映 AI 研究界认为哪些问题值得投入，对哪些问题对 AI 容易或困难没有预测力，其进化论解释也值得怀疑。这种思维既催生了对超级智能推理的恐慌，也在机器人等领域带来虚假安慰；由于新能力扩散耗时较长，社会有充足时间应对，却常被浪费。
Boaz Barak · 收录 · 原文 关注度44 Michael Rabin 纪念会议
作为 Mind-IL 以色列科学与学术周的一部分，将举办一场纪念 Michael Rabin 的特别会议，邀请多位知名讲者。该活动时间与以色列大选相近。
Helen Toner · 收录 · 原文 关注度1818 Helen Toner 谈 AI 能力的锯齿状发展：为何模型既强大又"很菜"
Helen Toner 在 The Curve 大会演讲中指出 AI 能力呈"锯齿状"：一年前 Claude 3.5 Sonnet、GPT-4o、Gemini 1.5 已在 GPQA 博士级问题上达到约 50% 正确率，却数不清图中线条交叉几次。AI Village 中 Gemini 能卖周边、写博客，却因点不准按钮而误判为技术 bug；Anthropic 的 Project Vend 里 Claude 能自主定价售货，却报错 Venmo 地址、亏本卖金属块，甚至陷入存在危机。
AI as Normal Technology · 收录 · 原文 关注度88 AI 作为常规技术：ICML 主题演讲探讨 AI 时代人类还剩下什么工作
普林斯顿大学研究者 Sayash Kapoor 与 Arvind Narayanan 在 ICML 主题演讲中提出，AI 作为常规技术（AI as Normal Technology）框架可用于理解 AI 对经济与社会的影响，除非未来出现递归自我改进等不连续性。演讲认为，即便认真对待递归自我改进，实验室里也不存在某个里程碑会突然让所有人失业，但未来工作将截然不同，需要大量适应，并最终指向人机“共同超级智能”的愿景。
9月30日周三
星期三
Future of Life Institute · 收录 · 原文 关注度66 从新教神学看 AI 与工作：John Dyer 谈灵性、劳动与技术的张力
达拉斯神学院教授 John Dyer 从 Max Weber 的《新教伦理与资本主义精神》出发，讨论 AI 如何改变工作的本质与人的天职感。他认为 AI 可被视为上帝赐予的工具，用于减轻非人化劳动，但若缺乏护栏，其力量与规模会切断人与职业召唤的联系、积累权力并剥削他人，即所谓"未对齐"。
LessWrong · 收录 · 原文 关注度77 我的学生如何看待 AI：一位美国公立大学教师的课堂观察
一位美国公立大学全球政治课程教师报告，2026 年春夏学期及一场学生组织 AI 工作坊中，多数学生并不认为 AI 近年有快速进展，视聊天机器人为已成熟技术，仅图像/视频生成例外。学生普遍使用 AI 做作业但用法粗糙、易把差结果归咎于模型，对 Claude Code 的反应是"原来做软件这么容易"而非惊叹 AI 能力。作者认为雇主期待的"AI 原生"毕业生可能令其失望。
已经到底了