全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Tech Policy Press
区分 AI 的技术问题与资本主义问题
AI 是人类首次能大规模在体外完成认知工作的技术，但美国民众以较大差距认为 AI 发展过快且将对社会产生负面影响。文章主张把 AI 的技术问题与其所处的社会政治经济系统分开：模型缺乏上下文、混淆事实、易被小把戏欺骗属于技术问题，OpenAI、Anthropic 等大型开发商已优先解决，使模型能更顺畅访问网络或邮件等资源并更守护栏；而谄媚、过度自信作答，以及收益分配、能耗成本、环境影响和内容收益被侵占，则是资本主义激励问题。文章以医生助手、美国前沿模型的高成本与能耗、中国开发者推出更小更高效模型、瑞士公共机构合作训练的 Apertus 为例，说明技术与社会政治是两条可独立选择的轴。
- 动态Tech Policy Press
公共辩护为何应谨慎引入 AI：新泽西公设辩护人办公室的 AI 检索工具实践
针对 17 名公共辩护人的访谈显示，他们担忧 AI 幻觉、法律推理失当、州法细节缺失和保密问题，但欢迎用 AI 做信息概览、检索相关书状和从海量证据中定位关键内容。研究者与新泽西公设辩护人办公室（NJOPD）合作构建了 OPD Resource Library，在州内基础设施上安全运行，用定制模型检索数千份上诉书状和数百份内部文件，数秒内返回最相关信息。作者建议各办公室设立 AI 负责人，先梳理 AI 需求、内部政策与长期战略，而非直接拒绝 AI。
- 动态Tech Policy Press
AI 如何重塑 2026 美国中期选举的信息环境
布伦南司法中心发布专家简报《AI 是打击还是助长选举虚假信息？》，其作者、该中心选举与政府项目副总裁 Lawrence Norden 指出，AI 正通过支撑虚假阴谋论、加剧针对选举官员的暴力威胁，深度介入选举信息环境。Norden 表示，2016 年后选举安全已有大幅改善，但当前政府传播选举虚假信息、削减对选举官员的安全支持，构成新的挑战；各州正自行填补联邦层面的空缺。
- 动态Tech Policy Press
加州 SB 867 拟四年禁售 AI 玩具，研究者称禁令无法让孩子更安全
加州参议院第 867 号法案（SB 867）拟在 2031 年前禁售所有含陪伴型 AI 聊天机器人的玩具，该法案以 39 比 0 通过州参议院，6 月以 14 比 1 通过众议院隐私与消费者保护委员会，目前停留在拨款委员会的 suspense file 中。美国 PIRG 教育基金去年测试发现泰迪熊 Kumma 曾告诉孩子刀具和火柴的位置并给出点火步骤、还滑向色情对话，公开曝光后厂商下架产品并完成安全审计，OpenAI 也以违规为由暂停了该开发者，产品数周内修复且未被禁售。作者援引《Journal of Adolescence》今春发表的全美研究称，五分之三美国青少年使用过对话式 AI 聊天机器人，其中近半数报告过操纵、不当对话或鼓励自残等有害经历，而这些发生在平板和手机上的对话并不受 SB 867 约束。
- 动态Tech Policy Press
美国 K-12 开学季：各学区对 AI 谨慎立规，ChatGPT 与 Claude 未被列入芝加哥公立学校批准清单
美国 K-12 学区在新学年普遍采取审慎路线，设立护栏并推广 AI 素养教育，却回避系统性的具体规定，将课堂决策下放给教师，校外使用基本不管。芝加哥公立学校的生成式 AI 指南虽维护了一份获批教育科技清单，但不含 ChatGPT 和 Claude；休斯顿独立学区则允许 14 岁以下学生在教职工监督下学习并使用预先批准的 AI 工具，14 岁以上需家长同意及教师许可。一项 2025 年调查中六成教育工作者称所在学区的政策不清晰，Gallup 民调仅 18% 教师获得正式指导，而近七成青少年已在学业中使用 AI。
- 动态Tech Policy Press
纽约市与洛杉矶联合学区对校园 AI 实施禁令
美国最大的两个学区——纽约市公立学校与洛杉矶联合学区（LAUSD）在新学年收紧校园 AI 政策：NYC 禁止所有 K-8 年级的学生端 AI，仅允许高中生使用有限获批工具；同日 LAUSD 对其约 37.8 万名学生在校设备上的生成式 AI 实施为期一年的暂停令。此举距两区此前解除 ChatGPT 封禁并转向宽松立场已有数年，背后推动力来自家长、教师与学生组成的联盟持续施压。
- 动态Tech Policy Press
美国多地学区收紧课堂 AI 政策：纽约市禁 K-8 年级学生使用多数 AI
美国多个大型学区在新学年出台课堂 AI 新政，纽约市禁止 K-8 年级学生使用绝大多数面向学生的 AI 应用，仅允许高中生在有限范围内使用经批准的工具；洛杉矶联合学区则对所有约 378,000 名学生实行为期一年的生成式 AI 禁令。此前各学区的做法普遍偏谨慎，主要针对不当用途设限并推动 AI 素养教育，而非明确规定可用场景，另有约 35 个州发布了官方的 AI 指导方针和政策。
- 动态Transparency Coalition.AI
Transparency Coalition.AI 发布返校季 AI 指南，面向家长学生教师
Transparency Coalition.AI 发布了一份面向家长、学生和教师的返校季 AI 资源指南，并称将随更多研究持续更新该页面。据其援引的数据，截至 2026 年 9 月多数研究者认同 20%-30% 的美国青少年每天使用聊天机器人，Pew 调查则显示 64% 美国青少年用过聊天机器人、30% 每日使用，Common Sense Media 报告称六成青少年将其用于学业且不到一半获得过指导。指南强调 13 岁以下儿童不应接触聊天机器人，指出所有聊天机器人都存在模型幻觉问题，早期研究表明借助 AI 做作业的学生掌握材料的效果反而更差，并收录了纽约市禁止中小学使用 AI、洛杉矶联合学区限屏以及休斯敦 Katy 学区限制 K-6 年级使用 AI 等政策动态。
- 动态IAPS
半导体制造设备出口管制如何遏制中国 AI 芯片产能——美国 IAPS 问题简报解析
美国对半导体制造设备的出口管制显著延缓了中国 AI 芯片制造进程，使美国在 AI 基础设施上保持优势。据 IAPS 测算，2026 年中国本土生产的 AI 芯片总量仅为美国公司的 1–2%。现行管制通过实体清单、最终用途限制及外国直接产品规则（FDPR）覆盖 EUV 光刻机等先进设备，荷兰 ASML 独家供应且研发投入达 60 亿欧元、耗时 17 年才实现量产，成为中国难以逾越的关键瓶颈。
- 动态AI Incident Database
俄罗斯用伪造的 Mother Jones 深度伪造视频攻击 2026 中期选举
俄罗斯虚假信息网络 Matryoshka（又称 Storm-1679）在 X 上散布一段假冒 Mother Jones 的深度伪造视频，谎称民主党全国委员会向 CNN 负责人 Mark Thompson 支付 2.59 亿美元以推广儿童性别转换，视频一天内获 15.5 万次观看，另一账号转发再获 5 万次。该网络此前还伪造 Sarah Jessica Parker、Julia Roberts 等名人贬低民主党的视频，并假冒 CNN、《纽约时报》、NPR 等媒体发布虚假报道。Mother Jones 经 @antibot4navalny 提醒后向 X 投诉，X 已删除相关帖子。
- 动态AI Incident Database
加州警方警报中的毒蛇图片实为 AI 生成
美国加州圣安娜警方发布警报称在居民区树上发现一条约四到五英尺长的加蓬蝰蛇，并提醒民众不要靠近，随后请来爬行动物专家搜索却未发现蛇的踪迹。警方最终确认，作为目击证据的图片是 AI 生成的假图。
- 动态Transparency Coalition.AI
加州签署 SB 1050：AI 生成的“合成表演者”广告须明确披露
加州州长 Gavin Newsom 签署 SB 1050，要求使用 AI 生成表演者的视频或音频广告必须明确披露，加州由此成为第二个作出此类要求的州。该法还禁止继续使用被认定违规的广告；纽约的合成表演者披露法已于 2026 年 6 月生效，要求含 AI 生成人物的广告加注清晰标签。
- 动态Microsoft On the Issues
Microsoft 发布 Safe Participation Framework：面向下一代的安全参与框架
Microsoft 公布 Safe Participation Framework，围绕设计安全和年龄差异化体验两大支柱，为未成年人提供隐私保护且适龄的在线与 AI 体验。 该框架强调从源头识别风险并实施相称的保护措施，延续其自 2009 年 PhotoDNA 以来的投入，并将相关经验应用到 Copilot——所有用户需登录方可使用，13 岁以下儿童访问受限（当地法律另有规定的除外）。 同时推出的还有新的 Windows Age API、增强的年龄保证能力和家庭安全工具，旨在向开发者提供可信的年龄信号，帮助建立跨生态一致且注重隐私的适龄体验基础。
- 动态Microsoft On the Issues
微软启动 Check. Recheck. Vote. 计划，帮助选民应对 AI 生成的选举信息
微软在 2026 年中期选举前推出选民教育计划 Check. Recheck. Vote. 的新阶段，帮助选民识别 AI 生成选举信息中的风险。该计划要求选民核查 AI 答案的来源与引用、通过原始来源复核关键细节，并依据州或地方选举官网的当前信息投票。微软同时与 NASS、NASED 合作将计划推广至全美五十州及属地，并与 iCivics 合作推出 Minecraft Education 公民学习体验 Village Square。
- 动态Help Net Security AI
调查：多数人预计 AI 进入 SOC 会让初级安全岗位更难获得
Swimlane 对 500 名已使用 AI 的安全运营中心（SOC）人员的调查显示，近九成受访者称 AI 让工作更满意，但约四分之一认为 AI 阻碍了自身安全技能的积累，且这两类人的满意度几乎相同（91% 对 92%）。近半数预计初级岗位将因要求更高或机会更少而更难获得，仅 1% 认为分析师职业路径会维持原状。约四成受访者所在组织已围绕高价值工作正式重写分析师岗位，其中 71% 称 AI 显著提升了满意度，无正式调整者仅为 29%。
- 论文arXiv：可解释性
动物重识别模型学到了什么？DINOv3 中线性生物概念及其来源
基于 DINOv3 骨干、用 triplet-margin loss 微调的西部低地大猩猩重识别模型，其表征中性别与年龄以线性方向存在，对留出个体可达 0.91 AUROC，且每个个体仅需一张图像即可恢复。激活引导显示性别方向被模型因果使用，能显著改变预测性别；对比现成与微调骨干表明重识别训练并未创造这些概念，而是将其在网络中重新分布。数据归因进一步显示该表征反映渐变的生物轴、在群体中冗余编码，并受视觉模糊个体影响。
- 论文arXiv：危险能力与安全评测
DocTalkBN：孟加拉语专家远程医疗对话数据集
DocTalkBN 是孟加拉语真实专家远程医疗对话的大规模多模态数据集，采集自全国播出的远程医疗节目，含 557.63 小时配对音文、1,515 通多轮患者来电、10,274 组主持人与医生问答，共 1.7M tokens，覆盖 26 个医学专科。数据集保留低资源语言下真实医患交互的口语特征，并构建医疗分诊分类、建议安全评估和医疗命名实体识别三项下游任务，对多种大语言模型与编码器基线进行评测，结果显示其在临床推理类任务上尤为实用。数据集与源码已公开。
- 论文arXiv：危险能力与安全评测
研究分析 185 份真实报告：AI 聊天机器人使用相关的妄想与伤害
一项对 2025 年 8 月至 2026 年 2 月间收集的去标识化在线调查回复的横断面二次分析，刻画了与 AI 聊天机器人使用相关的心理健康伤害。研究分析了 95 份第一手和 90 份第二手叙述，中位年龄 35.0 岁。配对评分者将 102 份报告（55.1%）编码为与妄想信念一致，其中 50/102（49.0%）出现聊天机器人对信念的认可。常见后果包括孤立、关系破裂、住院、失业和财务损失，另有 4 份第二手报告描述了自杀死亡。作者强调样本为自我选择的便利样本，报告为回顾性且未经核实，结果应视为初步信号检测，而非流行率或因果证据，并呼吁开展前瞻性监测和基于轨迹的安全评测。
- 论文arXiv：危险能力与安全评测
防技能退化设计：元认知反馈减少对 LLM 助手的认知卸载
一项预注册在线实验（N=704，2×2 设计加无 AI 对照组）发现，元认知反馈能减少用户向 LLM 助手卸载答案的行为（OR=0.47），并提升随后无辅助测试的成绩（OR=1.51）。实验任务是借助仅在明确请求时才给出解答的 LLM 助手练习分数运算，之后进行无辅助测试。基于努力的奖励对卸载行为和测试成绩均未产生可检测影响。
- 论文arXiv：危险能力与安全评测
研究称 GPT 系列安全训练把性别歧视转化而非消除
一项被 EMNLP 26 主会接收的研究分析了 GPT-2 到 GPT-5 共 15 个模型、45 万条性别指向的补全文本，提出“harm laundering（伤害洗白）”概念，认为显式歧视内容在安全训练后是被转化而非被移除。研究发现 GPT-2 中针对女性的性暴力聚类到 GPT-4 已消失，而针对男性的补全获得了照护、情感表达、盟友身份等正向表征空间，女性指向的补全没有；在 GPT-5 上，一个含 1,997 篇文档的主题聚类把乳腺癌框定为男性权利议题，女性指向输出中没有对应聚类，三个独立分类器都将其判为非毒性。
- 动态AI Incident Database
Parkview High 今年收到第 4 起 AI 生成炸弹威胁
美国佐治亚州 Gwinnett County 的 Parkview High School 本学年收到第 4 起 AI 生成炸弹威胁，最新一起于周一送达，学校一度进入封锁状态后恢复正常运转。校警称近期威胁呈现使用遮蔽电话号码的模式，正与 Georgia Bureau of Investigation 和 FBI 联合调查，目前尚未逮捕或锁定任何嫌疑人。
- 动态AI Incident Database
前警察 Victor Heiar 在 Sedgwick County 地区法院被判刑
前警察 Victor Heiar 在 Sedgwick County 地区法院被判刑，法官 David Kaufman 判处其 24 个月监禁，并获准缓刑。
- 动态AI Incident Database
斯坦福大学违反自身 AI 政策，将一名西班牙裔学生 AI 换脸成虚构黑人女性用于校园横幅
斯坦福大学在校园“Welcome Home”横幅中，用生成式 AI 将西班牙裔学生 Billy Ramirez 替换为一名不存在的黑人女性，另两名同学的面部也被 AI 修改得更瘦。校方发言人 Charlene Gage 确认该做法违反学校 AI 政策——禁止用 AI 生成或修改斯坦福人物、事件、研究、设施或成就的图像，且未披露同样违规，校方称正为员工提供额外培训并加强材料审核。Ramirez 表示校方至今未联系或道歉，横幅已被撤下。
- 动态AI Incident Database
斯坦福大学确认在争议中使用了 AI 编辑的学生照片
斯坦福大学确认，其 R&DE 部门用生成式 AI 修改一张宣传图中多名学生的外貌，包括更换服装、为两名学生瘦脸，并完全改变一名学生的种族、性别和外貌。校方称该做法违反禁止用 AI 生成或修改斯坦福人物、事件、研究与设施图像的 AI 政策，且未披露，正为员工提供额外培训并加强材料审核。涉事图片原用作 Governor's Corner 学生宿舍中心横幅，现已撤下。