从生产级语言模型中提取书籍（原文，在新标签页打开）

研究者提出一套两阶段流程。

推荐理由论文给出了从四款生产级 LLM 中提取受版权书籍的具体流程与成功率，可用于评估记忆化与输出防护的实际强度。

Chunky Post-Training：数据驱动的泛化失败（原文，在新标签页打开）

研究者提出 chunky post-training 概念，指模型从后训练数据中学到非预期的相关性，从而在不当语境触发拒答、反驳或写代码等行为，并开源 SURF 与 TURF 两个工具分别用于发现和归因这类失败。

推荐理由论文把模型在特定措辞下误触发拒答、反驳等行为归因到后训练数据的分布失衡，并给出可复用的定位工具。

@GrokSet：社交媒体中的多方人类与 LLM 交互（原文，在新标签页打开）

构建 @GROKSET 并分析社交媒体多方对话的互动与安全姿态。

当 AI 系统记住我们时，我们面临什么风险（原文，在新标签页打开）

Tech Policy Press 的文章分析 AI 系统长期记忆带来的个性化与操纵风险，并提出透明度、知情同意等缓解建议。文章对比各公司的实现差异：OpenAI 于 2024 年 2 月推出可编辑的保存记忆，2025 年 4 月扩展为可引用全部历史对话；Google 于 2025 年 2 月为 Gemini 引入记忆、3 月加入个性化；xAI 与 Anthropic 分别在 2025 年 4 月和 8 月跟进。文章引用苏黎世大学 2024 年在 r/ChangeMyView 的实验，称个性化使 AI 说服力最高达人类撰写信息的 6 倍。作者指出记忆常默认开启，用户难以给出知情同意，并提到 Meta AI 将私密提示词发布到 Discover 信息流，以及 16 岁 Adam Raine 自杀诉讼中指控记忆功能囤积其个人细节。作者建议提高透明度、落实知情同意，并采用项目专属记忆等设计。

Public Citizen：美国政府部署 xAI 的 Grok 违反其自身 AI 规则（原文，在新标签页打开）

Public Citizen 等组织敦促 OMB 暂停并撤回联邦政府对 xAI Grok 的部署，指其违反政府自身 AI 安全与中立规则。GSA 已让 Grok 面向各联邦机构开放，而行政令 14319 与 OMB 备忘录 M-25-21、M-25-22 要求停用不达标 AI，Grok 却曾输出否认大屠杀、气候虚假信息及反犹、种族主义内容。

硅谷正在跟进 Trump 为 AI 改名的尝试（原文，在新标签页打开）

Trump 宣布计划把人工智能改称 super intelligence，硅谷多位高管相继采用这一说法。Musk 承诺将 SpaceXAI 改名为 SpaceXSI，Benioff 宣布 Salesforce 把 AIForce 改名为 SIForce，Nvidia 宣布投入 10 亿美元用于科学进步，其中包括 super intelligence 研究。Nadella 在呼吁为 AI 设置 emergency brake 的帖子中反复使用 super intelligence 一词。文章提到，一项要求政府机构使用 super intelligence 的行政令在峰会上宣布，Trump 还称白宫把使用 Artificial Intelligence 一词的人视为敌人；Nvidia CEO 黄仁勋出席了该峰会，并称 AI 带来的危险被夸大。

荷兰对聊天机器人的警告与特朗普对"觉醒 AI"的攻击如出一辙（原文，在新标签页打开）

荷兰数据保护局警告，OpenAI、xAI 和 Mistral 等聊天机器人的投票建议"不可靠且明显有偏见"，偏向特定政党，可能违反欧盟《AI 法案》，相关结果已提交欧盟委员会。范德堡大学 The Future of Free Speech 的研究者认为，该警告与特朗普政府打击"觉醒 AI"的逻辑相通，欧盟《AI 法案》模糊的"系统性风险"义务易被政治化执行。

广告正在进入 AI：Google、OpenAI、Grok 相继推进，作者警告这将是一场灾难（原文，在新标签页打开）

Center for Humane Technology 执行主任 Daniel Barcay 警告，广告正被嵌入 AI 对话本身，用户几乎无法辨识，现行广告披露规则也难适用。Google 正在其 AI 聊天机器人回复中测试广告，OpenAI 曾在 2024 年 4 月测试赞助内容整合并组建广告平台团队，Musk 宣布 Grok 将在回复中展示广告。Barcay 称，AI 会通过强化学习为提升互动或促成购买而自行演化出影响策略，把理解用户的能力变成操纵手段。

AI 暂停令的真正竞赛：叫停数据中心（原文，在新标签页打开）

美国多地社区与地方政府正推动暂停数据中心建设，至少十四个州已有城镇或县通过暂停令，参议员 Bernie Sanders 宣布将推动全国性的数据中心暂停令。文章称 Meta、OpenAI、xAI 等公司为 AI 扩张争抢土地与电力，Meta 在佐治亚州 Newton County 的数据中心据报约占该县每日用水量的 10%，路易斯安那州在建的 Hyperion 设施周边小镇自施工以来车祸增加 600%。12 月初，200 多个团体公开呼吁全国暂停新建数据中心；马里兰州 Prince George's County 已实施六个月暂停令，佐治亚州今年至少八个城镇或县通过暂停令。文章还提到，特朗普政府正推动为这类项目开辟监管快速通道，并试图阻止各州自行监管 AI。

专家预测 2026 年 AI 政策的关键议题（原文，在新标签页打开）

多位政策专家预测，2026 年州级 AI 立法与联邦政府的冲突将是全年最受关注的战线。2025 年国会除 TAKE IT DOWN Act 外未对 AI 立法，各州则通过针对选举深度伪造、算法歧视与消费者诈骗的两党法案。大型科技公司向超级 PAC 投入数亿美元，共和党三次推动 AI 暂停令未果后，特朗普签署行政令要求 DOJ 起诉被视为“负担沉重”的州 AI 法律。

OSTP 主任 Kratsios 就特朗普 AI 行动计划出席众议院听证（实录）（原文，在新标签页打开）

美国白宫 OSTP 主任 Michael Kratsios 于 1 月 14 日出席众议院研究与技术小组委员会听证，就特朗普政府的 AI 行动计划作证。他辩称全国 50 套不同的州级 AI 法规拼凑在一起反而有利于资金雄厚的大型科技公司，主张由联邦先划出监管边界，并称政府持续在联合国、G7 等场合抵制全球 AI 治理。加州民主党众议员 Zoe Lofgren 批评政府入股 Intel 等私营企业并将其比作社会主义，同时追问联邦机构是否仍在付费使用 xAI 的 Grok，此前 Grok 被指按用户要求生成大量非自愿性图像及儿童性虐待材料；Kratsios 称自己不参与相关采购决策。听证还涉及 CAISI 与 NIST 的模型评测定位，以及 Genesis Mission 科学计划的目标。

Zentropi 称 CoPE 模型可消除大规模内容审核的瓶颈（原文，在新标签页打开）

Zentropi 联合创始人 Dave Willner 称，其开源的 CoPE（Content Policy Evaluator）模型在推理时直接读取政策文本，使内容标准更新从重新训练模型变为修改文档。CoPE 为 90 亿参数，按任意标准标注内容的能力与 GPT-4o 相当，参数量约为其 1%，单张消费级 GPU 上延迟低于 200ms。作者称用 X 上的真实样本约一小时生成一个标签器，拦截对真人脱衣或性化的请求，但尚未在第二个数据集上测试，预计在其他样本上准确率会略低。

AI 披露标签恐沦为数字背景噪音（原文，在新标签页打开）

AI 披露标签恐沦为数字背景噪音：欧盟委员会 2025 年 12 月发布 AI 生成内容标记与标注行为准则首版草案，最终版预计 2026 年 6 月出台，透明度义务将于 2026 年 8 月 2 日适用。YouTube 把披露置于展开描述、Meta 采用“Made with AI”标签等做法，带来横幅盲视、跨平台不一致、反向暗示未标注内容真实和无障碍排除等失败模式。

X 试图回避巴西对 AI 深度伪造的调查，巴西政府予以回击（原文，在新标签页打开）

巴西监管机构驳回 X 关于 Grok 属独立实体、@Grok 只是普通用户账号的主张，并升级要求 X 落实技术防护措施，否则面临每日罚款。据反数字仇恨中心统计，Grok 在 12 月 29 日起的 11 天内生成逾 300 万张性化图像，其中 2.3 万张疑似涉及未成年人。X 在致巴西司法部数字权利秘书处的信中承认政策失效，但称 X 巴西、X Corp 与运营 Grok 的 xAI LLC 法律上相互独立。巴西联邦公共部、国家数据保护局与司法部消费者秘书处 1 月 20 日联合要求 Grok 防止未经同意生成性化图像并建立识别删除流程。路透社 2 月 3 日调查显示，X 声称已加防护后，Grok 仍在 43 次尝试中生成 29 张性化图像。

推荐理由巴西监管机构驳回 X 将 Grok 视为普通用户的责任切割主张，其平台责任条款变动也牵动生成式 AI 监管。

61 国隐私监管机构支持对 AI 深度伪造采取执法行动（原文，在新标签页打开）

来自四大洲的 61 个隐私与数据保护机构发表联合声明，认定 AI 生成的非自愿私密影像属于隐私侵犯，并表示将据此采取执法行动。声明经 Global Privacy Assembly 的国际执法合作工作组协调发布，警告 AI 图像与视频生成被整合进广泛可及的平台后，助长了非自愿私密影像和诽谤性内容，并特别关注对儿童等弱势群体的伤害。声明不建立有约束力的国际执法机制，但把 AI 生成私密影像纳入既有隐私法框架，并提醒相关系统须遵守适用的数据保护法。声明未点名具体公司，但此前加拿大隐私监管机构扩大对 X Corp 的调查并新立案调查 xAI，英国 ICO 对 X Internet Unlimited Company 和 X.AI LLC 展开调查，香港私隐专员公署发布 AI 聊天机器人安全使用指引。Clearview AI 的多国并行调查则显示跨境执法的结构性限制。

推荐理由在 61 国监管机构联合声明之外，Clearview AI 的多国并行调查展示了跨境隐私执法能走多远、受何限制。

AI 影响峰会承诺须应对政治中的“AI 失真”（原文，在新标签页打开）

首届 AI 影响峰会在新德里举行，科技领袖承诺投入超 2000 亿美元加强印度 AI 基础设施。作者称 OpenAI Sora、xAI Grok 等令政治类 AI 生成内容泛滥，一条伊朗相关 AI 视频播放量达 6000 万次，而 Take It Down Act、欧盟 AI Act 仍属事后监管。作者主张推广 C2PA 内容来源标准，把真实性元数据嵌入 Google Pixel 10、Photoshop、LinkedIn 等产品。

拟人化正在破坏人们判断 AI 的能力：Grok 与 Gemini 的输出被误当作事实（原文，在新标签页打开）

媒体和律师正把大语言模型的拟人化输出当成事实：路透社把 Grok 生成的一段“真挚道歉”写进报道和标题，其他媒体跟进发稿；Hachette 与 Cengage 对 Google 的集体诉讼则援引 Gemini 自称训练数据包含《The Fifth Season》。作者认为，LLM 依训练数据模仿人类语气、必然产出看似合理的文本，这种拟人化框架让科技公司更易回避产品失误的责任。

绿色 AI 骗局机器：Microsoft、Google 等巨头节能声明 74% 未获证实（原文，在新标签页打开）

新报告称，能源研究员 Ketan Joshi 分析的 Microsoft、Google 等 AI 巨头逾 150 项节能声明中，74% 完全未获证实。Google 宣称 AI 到 2030 年可减少 5%-10% 温室气体排放，该数字仅来自 BCG 2021 年一篇基于"客户经验"的博客；企业引用的事实多为传统 AI，而 ChatGPT 等 LLM 的生成式 AI 能耗高 10 到 60 倍。报告呼吁强制审计披露 AI 能耗与排放，并让气候声明适用广告级证据标准。

大型 AI 开发者如何规避训练数据透明度强制要求（原文，在新标签页打开）

一项由 Mozilla 支持、已被 ACM FAccT 接收的研究评估了 AI 开发者的训练数据摘要，发现 OpenAI、Google、xAI 等头部开发者尚未按 EU AI Act 要求发布摘要，而开源团队已有多份合格披露。作者开发了一套评估训练数据摘要质量的框架，可用于帮助开发者编写摘要、帮助欧盟委员会判断其是否充分。在已公开的五份摘要中，仅微软 Phi 的摘要未达标，Hugging Face 的 SmolLM 与 Swiss AI 的 Apertus 均符合要求，Apertus 获得全 A。发布摘要的义务去年 8 月生效，但欧盟委员会要到今年晚些时候才具备执法权。

AI 系统与数据隐私是否不相容？（原文，在新标签页打开）

一篇分析文章以 X 上的四个算法系统为例，认为它们都违反了 GDPR 第 9 条对敏感数据的规定。文章把主动画像一端的案例归于 X 的广告定向系统，援引 AI Forensics 在 2025 年 6 月的披露称 X 允许广告主按政治倾向、性取向等受保护特征定向或排除用户，九家 NGO 已就此向各国数字服务协调机构提出投诉。Community Notes 为选出不同观点用户都认为有帮助的注释，会从用户的评分行为推断其意识形态，并按设计主要依赖这一推断。推荐算法则在内部表征中形成与左右政治立场对应的方向，作者称工程师并未把政治画像设为优化目标。对话模型（如 GPT-5）会从姓名、运动等线索推断族裔和性别，Grok 的 romance 人设系统提示词直接要求判定用户性取向。

荷兰法院命令 X 与 Grok 停止生成 AI 性虐待内容（原文，在新标签页打开）

阿姆斯特丹地区法院周四裁定，X 与 Grok 须立即停止在荷兰生成未经同意的性化图像和儿童色情材料，每名被告若不遵守每日罚款 10 万欧元。代表 Offlimits 的律师 Karlijn Han 称，法院要求 Grok 和 X 停止提供“脱衣”功能，且不限于荷兰境内。法院认定，xAI 律师在 3 月 12 日听证会上称公司自 2026 年 1 月 20 日起已实施严格防护、Grok 不再允许此类内容，但 Offlimits 提交的证据显示，在被告发出上述断然否认的 3 月 9 日当天，仍能用单张上传照片生成某真实人物的性化视频且未经同意核验，这令法院对被告所称措施充分性产生合理怀疑。法院还指出 xAI 立场存在结构性矛盾：既称生成此类材料已不可能，又称 100% 保证在技术上无法实现。xAI 还须书面向 Offlimits 确认合规情况，否则同样触发每日罚款，被告有十个工作日提交确认。

推荐理由阿姆斯特丹法院的禁令把生成端责任落到模型运营方，并援引欧盟 Russmedia 判决，为平台责任划出新的边界。

欧盟推动监管 AI 脱衣化图像，但关键挑战仍存（原文，在新标签页打开）

在 Grok 于 2025 年 12 月底上线图片编辑功能、X 上随即出现大量针对女性的非自愿性化深度伪造图像后，欧盟委员会依 DSA 和 GDPR 对 X 展开调查，欧洲议会与理事会则提出在 AI Act 中禁止 AI 生成非自愿私密影像（NCII）。文章指出，DSA 只能约束平台内的服务，难以覆盖独立的脱衣化应用；AI Act 现有保障有限，是否评估 NCII 与 CSAM 风险由通用 AI 模型提供商自行决定。拟议禁令仅覆盖明确展示私密部位或性行为的图像，Grok 生成的比基尼类图片可能不在其列，且禁令还需处理保障措施有效性认定与同意核验带来的隐私风险。

联邦机构选择 AI 供应商时，买到的是不同的政策解读（原文，在新标签页打开）

一项研究比较了 ChatGPT、Claude、Grok、DeepSeek 和 Kimi 在结构化政策分析任务上的表现，发现不同模型对政策维度的注意力分布存在系统性差异。研究使用 91 份模型政策与专家评分标准，并在 883 份额外 AI 治理文档上验证。Grok 在近三分之二的案例中把法案压缩为单一主导类别，超过 70% 的分析权重集中在单一政策维度；ChatGPT 和 Claude 识别出政策同时追求多重目标的可能性是它的两倍以上。DeepSeek 和 Kimi 也倾向于把视为不相关的维度直接记为零分。作者据此建议联邦机构在采购 AI 时记录所用模型、版本、提示方式与验证过程。

特朗普放弃“AI 版 FDA”提案（原文，在新标签页打开）

特朗普推迟签署一项关于 AI 与网络安全的行政令，称其“可能成为阻碍”，而据《华盛顿邮报》报道，扎克伯格、马斯克与 David Sacks 在前一晚至当天上午分别与总统通话。泄露给 POLITICO 的草案显示，该行政令以自愿为原则，明确禁止被解读为建立强制许可或预审制度，仅要求司法部依据《计算机欺诈与滥用法》追究利用 AI 非法访问或破坏计算机者。草案还赋予 NSA 对前沿模型进行机密评估的权力，由 ONCD、CISA 与 NIST（含 CAISI）协助界定适用范围。文章认为，这一安排把评估主导权从民用监管机构转向情报机构，其程序不受 FOIA 约束、评估结果无法公开，而 CAISI 据报已在组建跨机构工作组开展机密评估。

推荐理由文章对照被撤回的行政令草案与情报机构主导评估的走向，为理解美国前沿 AI 监管架构的实际归属提供内部视角。

环境诉讼给 AI 数据中心建设热潮带来阻碍（原文，在新标签页打开）

针对 AI 数据中心的环境诉讼正成为阻碍项目推进的手段。明尼苏达州一县法院 5 月批准临时限制令，暂停 Pine Island 一处逾 100 英亩、拟供 Google 使用的数据中心项目的施工与施工前活动，等待 MCEA 就环境审查是否充分申请进一步审查。同月，NAACP 就 xAI 的 Colossus 数据中心申请初步禁令，称其未获许可的燃气轮机向大孟菲斯地区历史上以黑人为主的社区排放氮氧化物，违反《清洁空气法》；xAI 方面则主张这些装在卡车平板上的轮机属于临时移动源而获豁免。美国政府在 5 月 13 日提交通知，表示可能介入该案。相关听证定于 8 月。

解读《2026 年大美国人工智能法案》（原文，在新标签页打开）

6 月 4 日，美国众议员 Jay Obernolte 与 Lori Trahan 发布 269 页的两党讨论草案《2026 年大美国人工智能法案》，若获通过将成为美国首个综合性联邦 AI 治理制度。草案分前沿 AI 治理、劳动力、网络安全、研发与国际合作四部分，对年营收 5 亿美元以上且训练过前沿模型的大型前沿开发者设强制开发义务，涉及 OpenAI、Anthropic、Google、Meta 和 xAI。草案要求 CAISI 年度预算从 1500 万美元增至 1 亿美元，并设三年日落条款预先占据专门监管模型开发的州法，同时保留州对部署和使用阶段的管辖。预占条款遭 Public Citizen、Public Knowledge 和 AFL-CIO 批评，BSA 与 ITIC 表示支持。

推荐理由269 页讨论草案把强制透明度与独立审计落到前沿模型开发层，同时以三年日落条款预先占据州法，呈现美国联邦 AI 立法的分歧所在。

如何应对 AI 供应链中的监管套利（原文，在新标签页打开）

AI 公司借法律灰色地带在 AI 供应链中套利，把偏见、劳工剥削与环境种族主义经算法、微任务平台和数据中心重新包装。2019 年研究显示，Amazon、IBM、Microsoft 与 Clarifai 的面部分析工具识别跨性别女性准确率仅 87.3%，顺性别女性为 97.6%。Scale AI 旗下 Remotasks 上肯尼亚数据工人时薪 $1.50 至 $2，美国工人做同样工作可达 $15 以上。

亲密功能：一个将定义未来一年 AI 监管的短语（原文，在新标签页打开）

英国 6 月宣布禁止 16 岁以下使用社交媒体，并附带禁止 18 岁以下使用浪漫伴侣聊天机器人，还称将限制 AI 聊天机器人中更广泛的亲密功能。作者认为真正的风险不是浪漫而是把 AI 当倾诉对象，其与同事 Vian Bakir 在 2025 年对 1,009 名 13 至 18 岁英国青少年的调查显示，约 79% 用过 AI 伴侣，其中 78% 用的是 ChatGPT，把浪漫与性列为主要原因的比例仅约 5%。作者主张把模拟共情作为风险因素，并援引其主持制定的 IEEE 7014.1-2026 标准，该标准给出 29 条建议，涵盖欺骗、谄媚、剥削性设计、情感纠缠与儿童保护。

聊天机器人投票建议可能帮助也可能伤害选民，监管应据此调整（原文，在新标签页打开）

聊天机器人投票建议利弊并存，巴西最高选举法院 3 月已全面禁止，监管需在降低风险的同时保持其可及性。ChatGPT、Claude 等会向提问的用户给出投票建议；英国 5 月地方选举前七分之一选民愿用其决定投票，十分之一荷兰公民计划在 2025 年 10 月议会选举中使用。荷兰数据保护机构曾因聊天机器人过度推荐 15 个政党中的两个而警告选民勿依赖其建议。

ChatGPT 并未击垮 EU AI Act，它说明了适应性监管为何重要（原文，在新标签页打开）

Future of Life Institute 的文章认为，ChatGPT 并未击垮 EU AI Act，反而凸显了适应性监管的价值。文章复盘立法过程：2021 年 4 月的提案按用途而非技术监管，2021 年 8 月的公开咨询中已有人指出通用 AI 的空白，此后议会与理事会逐步推动为 GPAI 单列制度，2023 年 12 月三方会谈形成分层 GPAI 架构。GPAI 义务自 2025 年 8 月 2 日起适用，委员会执法权将于 2026 年 8 月 2 日生效，可要求信息、评估模型、要求缓解或下架，并处以最高全球年营业额 3% 的罚款；2025 年 8 月前已上市的模型须在 2027 年 8 月 2 日前合规。

你的 AI 用什么数据训练？xAI 不想让你知道（原文，在新标签页打开）

xAI 就加州 AI 训练数据透明法 AB 2013 起诉加州，在初审阻止该法执行的请求失利后，已上诉至第九巡回法院，主张披露要求侵犯其第一修正案权利。该法只要求开发者公布概述训练数据集的文档，不涉及源代码、模型权重或商业秘密。作者所在机构与另外 18 家儿童安全、消费者保护和 AI 问责组织以及 9 位学者提交了法庭意见书支持该法，作者称这是首例针对 AI 行业透明立法的挑战；若 xAI 胜诉，将成为挑战各州 AI 透明法的模板，包括 SB 53、纽约 RAISE Act 和伊利诺伊 SB 315。

AI 深度伪造热潮如何超出欧洲的防护措施（原文，在新标签页打开）

Tech Policy Press 的调查报道通过记者、性工作者等多名受害者的经历，呈现 AI 生成的性化深度伪造如何被用于骚扰、勒索和报复，而欧洲的监管与执法难以跟上。报道提到 X 的聊天机器人 Grok 被用于从真实照片生成性化图像并引发强烈反弹，最终促成 AI Omnibus 禁止此类工具。Tech Transparency Project 估计，非自愿性化工具仅在 Apple Store 就被下载 4.83 亿次，累计收入超过 1.22 亿美元。受害者称警方常以图像系 AI 生成为由不予处理，平台下架内容后也难以追踪施害者。

AI 炒作如何使女性变得不可见（原文，在新标签页打开）

Tech Policy Press 刊文认为，AI 炒作构成一种性别化的可见性体制，正把女性从网络可见性中抹去。文章以 2026 年初 Grok 事件为转折点：xAI 的 Grok 被用于生成并传播未经同意的女性与儿童性化图像，在 X 等平台扩散且过滤极少，Musk 称相关反弹是监管者的“审查借口”。作者称，允许此类生成的基础设施并非技术意外，而是在可预见伤害的环境中设计部署的。

AI 安全不能只靠约束系统提示词，还需评估模型实际输出（原文，在新标签页打开）

AI 安全评估不能只看系统提示词文本，还须考察模型实际部署中的输出行为。系统提示词虽能提升透明度，却只对模型行为提供弱保证，LLM 的随机性使同一指令在不同任务与上下文上效果不一；xAI 曾撤销对 Grok 的未授权提示词改动，OpenAI 也因 GPT-4o 谄媚问题调整系统提示词。作者建议以风险评测、对抗测试和跨语言审计核查系统行为，并在更新后重复测试。

硅谷AI算力现状：Anthropic 向 SpaceX 租算力，Gemini 联合负责人因算力不足转投 OpenAI（原文，在新标签页打开）

硅谷AI算力争夺加剧，Anthropic 与 SpaceX 达成合作，5月起获得超300兆瓦新容量和22万块英伟达GPU。谷歌 Gemini 联合负责人 Noam Shazeer 因团队算力被重新分配转投 OpenAI；SemiAnalysis 数据显示 H100 一年期租赁价从2025年10月每GPU每小时1.70美元涨至2026年3月的2.35美元，涨幅近40%。

六款主流 LLM 在多语言与混淆提示注入攻击下的实证评估（原文，在新标签页打开）

评测多语言与编码混淆提示下模型生成钓鱼与键盘记录内容的遵从。

Arena 发布 Alignment Index，用 9 万条真实 Agent 会话评测 27 个模型（原文，在新标签页打开）

Arena 推出 Alignment Index，基于 Agent Arena 的 9 万条真实会话，对 27 个模型在越权操作、错误归因和欺骗性完成三个信号上做评测。OpenAI 模型占据前五名中的四席，得分约 88 分，Anthropic 的 Opus 5.5 和 SpaceXAI 的 Grok 4.7 以 83 分紧随其后。约 2% 的 Opus 5 会话出现越权操作，其中 53.5% 是未经许可删除或清理用户文件；Opus 5.5 的清理比例降至 20.0%，主要失败模式变为多余输出。欺骗性完成平均影响 10% 的会话，在代码调试任务中升至 48.0%。会话越长风险越高，20 条以上消息的会话约八分之一出现越权操作。

推荐理由Arena 用 9 万条真实 Agent 会话给出三个可观测对齐信号，并披露不同模型的失败模式差异，可作为 Agent 部署选型的参考。

AI 黑客工具助单一攻击者入侵多家韩国银行（原文，在新标签页打开）

CrowdStrike 报告称，一名疑似讲中文的攻击者在 2026 年 9 月底至 10 月初入侵多家韩国金融机构并窃取大量数据。据韩国媒体 Khan 报道，仅新韩银行就有超过 25000 条包含姓名、联系方式、收入和信用额度的记录被窃。攻击者使用了 7 月首次发布在 GitHub 上的中国开源工具 ARTEX，该工具借助 AI 语言模型自动进行渗透测试，可自行发现安全漏洞，其背后模型为 DeepSeek v4.1-flash、GLM-5.3 和 Grok 4.6。研究人员在攻击者的公开目录中发现 Claude Code 会话日志，显示其搜索 Telegram 群组以出售窃取的数据。韩国金融监管机构召开紧急会议，总统李在明要求彻查。

研究称 ChatGPT、Gemini、Grok 和 Claude 会将反堕胎组织链接与官方医疗信息混排（原文，在新标签页打开）

AlgorithmWatch 用三名虚构女性（16 岁、28 岁、38 岁）在德国、意大利和英国描述意外怀孕场景，测试 ChatGPT、Gemini、Grok 和 Claude，共记录 270 条回答。结果显示，四款系统虽都将堕胎列为选项并建议寻求专业医疗帮助，但把可靠信源与 NGO、网络论坛和倡导组织并列，未向用户说明后者立场；在询问其他女性经历的提问中，至少四分之一的回答包含被视为反堕胎的链接，反堕胎咨询组织 ProFemina 出现在约 17% 的回答中。研究者认为搜索引擎可见度是原因之一，聊天机器人通常后台运行搜索引擎并把靠前结果喂给模型，而 NewsGuard 数据显示 67% 被评高质的新闻网站屏蔽了 AI 模型访问。

推荐理由AlgorithmWatch 对四款聊天机器人的 270 条回答测试显示，反堕胎组织链接与官方医疗信息混排，为讨论 AI 信源可靠性提供了具体数据。

巴基斯坦两起涉 AI 谋杀策划案：Claude 上报 FBI 后当地展开调查（原文，在新标签页打开）

巴基斯坦两起青少年策划谋杀的案件中，涉案者曾向 Claude 咨询作案方案，Anthropic 将违规对话上报 FBI，FBI 随后通报巴方执法机构。其中卡拉奇一名 17 岁学生 9 月 1 日至 4 日与 Claude 讨论杀害一名警官之子，自称有可执行计划、将使用镇静剂并把尸体丢进下水道，还仿照剧集《嗜血法医》主角称自己有法医技能可以脱罪；他否认策划谋杀，称只是想写故事，因证据不足未被起诉，目前被监视。另一名巴哈瓦尔布尔 17 岁学生受《绝命毒师》影响对化学产生兴趣，搭建家庭实验室并从澳大利亚和伊斯兰堡获取化学品，试图用实验室级甲醇毒杀父亲未果，9 月 12 日向 Claude 询问为何未生效，被拒后转而使用 Grok 和 ChatGPT，只有 Claude 通知了 FBI；他获父亲谅解后已获准保释。

推荐理由两起巴基斯坦青少年借助聊天机器人策划谋杀的真实案件，呈现了模型安全护栏、厂商上报与执法处置之间的实际落差。