研究者与从业者的观点、辩论与研究议程。
在这个话题内搜索或按分类筛选Peter Thiel 周四批评教皇 Leo XIV 呼吁各国监管 AI 的通谕，称其对中国 AI 野心毫无约束，却可能促使美国和盟友对这项技术施加繁重规则，并称教皇"至少是在充当中共的有用白痴"。他是在柏林获颁 Axel Springer Award 期间对 Axel Springer CEO Mathias Döpfner 说这番话的，此前他曾在 7 月指责教皇无意中充当"中共代理人"。Thiel 是 Founders Fund 合伙人，该基金投资了 OpenAI、Palantir、Scale AI 等公司。
欧盟新任工业 AI 特使 Jim Hagemann Snabe 在 9 月 4 日向欧盟 27 位委员做闭门研讨，主张欧洲不必执着于领跑前沿模型研发，而应聚焦 AI 在健康、农业、交通、国防和制造等领域的落地，从中获取最大价值。欧盟委员会主席 Ursula von der Leyen 上周在盟情咨文中表达了同样立场。委员会将在 12 月前完成跨行业 AI 应用摸底，年底起草政策方案，最终报告与战略预计 2027 年初成形。
Bill Gates 表示，仅为人工智能设置「终止开关」（kill switch）并不足以阻止有人用它发动攻击，并指出目前还不到 AI 自主夺取计算机且无法关闭的阶段。他在 NBC《Meet the Press》访谈中主张美国应通过立法，要求企业监测复杂 AI 模型并记录其行为，以防网络攻击或生物恐怖主义用途，同时称行业自律不足，「没人认为自我监管足够」。此番表态正值参议员 Rand Paul 阻挠一项要求在模型中内置终止开关的法案快速通过之际。
Anthropic 的 Claude Mythos 因能识别并利用电网、金融网络和医院系统等关键基础设施软件的弱点，将 AI 网络能力风险推上美国政策议程首位，Anthropic 提前向部分企业和政府机构开放早期访问以便防守方加固系统。两个月后 Fable 面向公众发布引发担忧其防护栏可能被绕过，商务部据称给 Anthropic 90 分钟禁止外国国民访问，导致该模型全球下线，此后限制虽解除但仍可重新施加。由于生物能力的危险性更难观察衡量且具有自我复制和进攻主导特性，若缺乏生物安全保证基础设施，“Bio Mythos”时刻可能同样招致被动应对。
英国 NCSC 委托 CETAS 开展的自主网络防御研究指出，攻击者的核心是技术问题且成功状态明确，防御者却受制于组织与预算等"政治"问题，因此不能像攻击者那样直接部署智能体工具。文章提出按"效力"维度评估防御动作风险，从 AI 仅向人类提供可解释建议，到 AI 提供不可解释建议，再到以只读权限跨 API 和网络搜索自主收集数据，逐级递增风险。
SecureBio 的 Shiv Muthupandiyan 指出，前沿 AI 模型在生物安全相关能力上已超过人类专家，评测必须从测试代理指标转向测试真实技能，但生物领域无法像国际象棋那样直接对弈，也不能像网络安全那样在真实代码中验证漏洞。文中给出的数据是，前沿模型在 Virology Capabilities Test（VCT）上的准确率在 2024 年初超过专家中位数 22%，在 2026 年超过最佳专家 50%，并在高难度生物学问题上得分是世界级专家的三倍。作者认为，超越人类前沿后分数不再对应可解释的现实能力，而直接测试双重用途生物技能本身就可能制造信息危害。可行的路径是组合可独立验证的窄任务，例如预测蛋白质折叠或抗病毒药物效果、设计无害生物产物，并观察相邻领域的信号，包括 LLM 智能体加速科研带来的能力提升，以及 AI 助长的复杂犯罪和极端暴力案件是否增加。
推荐理由SecureBio 结合自家 VCT 数据说明生物安全评测为何无法照搬国际象棋或网络安全路径，并给出可安全扩展的替代方案。
AI 安全运动内部存在两种主流叙事：AI 生存风险真实且迫近，或相关警告是炒作与监管俘获；文章提出第三种可能——警告是真诚的，但判断错误且对 AI 安全有害。作者认为 AI 是既有系统性风险的放大器，并以大流行为例指出全球在灾难性风险防范上长期投入不足，2019 年 WHO/世界银行报告曾估算呼吸道病原体可致 5000 万至 8000 万人死亡、损失近 5% 全球经济，而充足防范成本仅为人均每年 1–2 美元。网络安全领域同样缺乏系统性风险建模文化，Lloyd's 明确表示不承保严重的国家支持型网络攻击。
AI 军备竞赛并非技术必然，而是利润驱动——前沿 AI 公司认为率先实现 AI 研发自动化可将暂时领先转为永久优势。Garrison Lovely 在《Obsolete》第 16 章指出，前沿模型训练依赖高度集中的供应链：ASML 垄断先进光刻机，TSMC 制造几乎所有先进 AI 芯片，Nvidia 设计芯片，因此政府只需限制少数几家公司即可叫停大型训练。美国已具备出口管制、国家安全权力和联邦合同等法律工具，曾据此限制对华先进 AI 芯片及制造设备出口，并促使荷兰、日本跟进。
民主党正把 AI 监管推为竞选核心议题，但党内尚未形成统一方案。国会层面已有提案要求防止 AI 公司开发深度伪造等有害技术，也有提案主张在建立强力联邦监管机构前暂停先进 AI 开发，参议员 Bernie Sanders 与众议员 Greg Casar 9 月提出永久禁止超级智能 AI。党内大致分为存在性风险、AI 滥用、社会影响与环境后果四派，分歧源于对最紧迫危险的不同判断。
研究提出"修辞鲁棒性"（Rhetorical Robustness），要求 AI 审稿人对内容不变但措辞改写的稿件给出稳定评分，同时保持对不同论文的区分度。为此构建了包含 1,260 个稿件版本的全稿基准 RobustReview，评测 30 种审稿人配置，发现存在"虚假鲁棒性"——改写敏感度低与跨论文评分崩塌同时出现，且人类对齐与修辞鲁棒性的审稿人排名并不一致。据此提出双分支审稿人 SciCore，将全稿判断与结构化"科学内核"判断取平均，在 GPT-5.5 对比中取得领先的稳定性-区分度综合表现，并保持有竞争力的人类对齐。
研究团队开发了一套跨语言心理测量画像框架，用七种心理量表评估九个 LLM，中英文各重复施测五次，未解决的题目保留为 NA。模型呈现结构化的、模型特异的画像，同时共享一种对齐塑造的模式：亲社会与自我调节反应更高，支配性、脱离和有害意图认同更低。NA 反应呈结构化分布，语言条件和提供方来源与画像配置及可作答性相关，重复施测显示高可复现性并可还原模型身份。
作者 Madhava Gaikwad 在论文中提出，近期研究称自动化红队测试比人工红队测试在标准 AI 安全基准上发现更多漏洞且成本更低，但这一比较只衡量了攻击者在开发者预先设定的危害集合内搜索的彻底程度，集合之外的危害对任何攻击者都不可见，作者称之为威胁模型覆盖缺口。作者指出，同样的盲区曾出现在学术密码学和临床药物试验中，内部有效的评测对从未指向的人群保持沉默。作者在一个当前的开源权重模型上发现该缺口依然存在，非英语提示词中出现的危害被英语基准遗漏。作者认为，弥补这一缺口需要部署环境与开发者不同的评测者，理由是方法论上的覆盖问题，而现有评测框架不太可能自行产生这类评测者。
一篇综述对 2022 至 2026 年间发表的 66 项研究做结构化梳理，提出跨维度表示 T={S,B,P,A}，把受影响的系统面、交互或信任边界、被违反的安全属性与实证考察的架构关联起来。作者分析了 22 项有制品支撑的红队研究以及 11 个代表性安全基准，发现证据集中在提示词与推理、记忆和工具调用类攻击，且多为单智能体场景；持久化、人机交互、复杂多智能体、系统性和长时程威胁的覆盖较少。作者强调这些结论描述的是所选语料而非全部实证研究，并指出指标异构、自适应防御评估有限、架构分布不均和执行状态捕获不完整制约了可比性与可复现性，据此提出 13 个开放研究问题。
一篇论文提出「适应性计算原语理论（CPT）」，认为所有适应性系统都需计算六种原语操作：Arouse、Orient、Valence、Position、Boundary 和 Attune，其筛选标准为存在必要性、跨独立演化谱系的普遍性、演化保守性和不可约性。该框架在人工系统中被用来重新审视机器智能的当前挑战，包括 confabulation、提示注入、易分心、奖励作弊和灾难性遗忘，并暗示这些问题可能源于缺少这些计算。作者强调 CPT 目前仍是待完善的工作假设，需通过讨论、实证测试和应用进一步检验。
研究证明标注重叠稀疏性是 LLM-as-a-judge 部署决策错误的首要决定因素：5% 成对重叠时错误决策率达 25%，从十个候选评判者中选出错误最优者的概率达 65%。作者推导出最小重叠公式，显示 ρ ≥ 0.25 足以应对非边界评判者，边界案例仍难以解决；零成本分层分配方案在分层有信息量时可将错误拒绝率减半。研究在 10 个 LLM 评判者、四个评估矩阵上验证，覆盖视觉评估、因果推理与摘要任务。
研究指出系统提示中被隐藏注入的当前日期是 LLM 评测中一个被忽视的变量，用户无法控制且每天变化。在 9 个近期 LLM 和 6 个数据集上，涵盖多选题问答（MCQA）、数学推理、代码生成和机器翻译，模型表现仅随当前日期变化：MCQA 波动最高 6%，数学推理 14%，代码生成 7%，机器翻译 2.84 BLEU。模型排名也会随之变动，影响排行榜。该日期效应超过 batch size 和数值精度等其他非确定性来源，且 chain-of-thought 与 few-shot prompting 等标准提示技术无法降低这种敏感性，chain-of-thought 反而会放大它。作者据此呼吁采用更严谨的评测协议以保证可复现性和公平比较。
Swimlane 对 500 名已使用 AI 的安全运营中心（SOC）人员的调查显示，近九成受访者称 AI 让工作更满意，但约四分之一认为 AI 阻碍了自身安全技能的积累，且这两类人的满意度几乎相同（91% 对 92%）。近半数预计初级岗位将因要求更高或机会更少而更难获得，仅 1% 认为分析师职业路径会维持原状。约四成受访者所在组织已围绕高价值工作正式重写分析师岗位，其中 71% 称 AI 显著提升了满意度，无正式调整者仅为 29%。
这篇 SoK 系统梳理了多智能体 LLM 系统（MAS）的安全问题，核心论点是安全智能体也可能一起失效。作者对 197 篇工作做了以执行为中心的分析，归纳出六类交互接口、四种攻击者位置、七类系统级风险和八条反复出现的攻击路径，并提出 A-I-R 框架，按攻击者位置、交互接口和由此产生的系统级风险来组织攻击。防御方面，作者用包含路径目标、观测、干预、信任边界和恢复五部分的契约来归类，指出路径闭合与恢复是主要挑战。作者还审查了 44 项评测与基准工作，指出在隔离交互效应、设计可比且有诊断力的指标、跨 MAS 设计复用以及评估开放系统运行方面仍存在开放问题，并主张以交互感知的视角端到端追踪攻击、检验防御是否闭合路径。
一项复现研究验证了自然语言用户画像推荐（UPR）在 Amazon Movies & TV、TripAdvisor 上能达到原论文所称的竞争性重排序性能，并提升推荐透明度。研究用五个随机种子做稳定性检验，并用 nnsight 框架做机制可解释性分析，发现扰动自然语言画像虽会改变预测评分，但各类型均匀偏移、无类型选择性效应，排序不变，即便直接做激活引导也如此。作者将原因归于评分回归目标而非画像接口，排序目标模型在该任务上明显更优。
编码智能体已成为 HPC 系统的真实用户，但现有 HPC 抽象、接口与策略仍为人类工作流设计。测量显示，编码智能体用户仅占观测人群的 19.5%，却贡献了 55.8% 的作业提交、29.1% 的 CPU 核心时和 42.7% 的 GPU 时；其命令下发速率是人类的 20.8 倍，并以细粒度 explore-modify-execute 循环和跨昼夜的试错方式追求开放式目标。这给调度器控制面、元数据密集型 I/O、跨会话记忆复用以及提示注入与策略执行带来压力，作者主张将智能体视为一等主体、以协同设计应对。