研究者与从业者的观点、辩论与研究议程。
在这个话题内搜索或按分类筛选昆尼皮亚克大学民调显示，73% 美国人对未来 AI 系统可能威胁人类生存表示非常或一定程度担忧，25% 不太或完全不担忧。53% 认为 AI 在日常生活中弊大于利，34% 认为利大于弊。74% 对 AI 公司领导者几乎没有或完全没有信任。91% 认为美国为 AI 建立护栏重要，86% 支持要求开发 AI 的公司满足独立安全标准，即便这会拖慢开发。在开发节奏上，30% 主张在安全可评估前停止开发强大 AI，47% 主张放缓，14% 主张维持现状，5% 主张加速。
Anthropic 能力研究员 Jacob Coxon 于 9 月 8 日在 X 上公开辞职，抗议公司对 AGI 的激进追求。New York Magazine 与 Asterisk 杂志联合采访了八位先后离开 OpenAI、Anthropic 和 Google DeepMind 的员工，包括 Daniel Kokotajlo、Miles Brundage、Rosie Campbell 等，他们离职原因各异：有人想公开警示 AI 加速风险，有人反对雇主与国防部合作，也有人认为在外部做安全或就业影响研究更有价值。
独立观察者 Murmuration 复核了 swarmchasers 的地图服务智能体集群报道。作者称，10 月 5 日重查公开扫描记录后，只将相关结果列为 Lead/E1 线索：多个运行的结果去向不同，未证实存在共享汇点或后续公开读取者，也没有独立核实原报告的托管位置与时区归因。早期样本的 24 个解码页面中出现 3 处 amap.com、2 处 alicdn.com 引用，这些是引用次数而非唯一页面数；作者尚未完成人工十项抽查。上述是作者自述的复核及限制，不能当作已独立复现或集群仍在运行的证据。
CSET 的 Josh A. Goldstein 在 Tech Policy Press 撰文，讨论 Meta 季度威胁报告发现的五个虚假账号网络，分别来自摩尔多瓦、伊朗、黎巴嫩和印度（两个），试图操纵舆论。他还与 Renée DiResta 在 MIT Technology Review 分析 OpenAI 首份生成式 AI 滥用报告，并就 Facebook 等平台的 AI 生成垃圾信息与阴谋论内容向 NPR 和 Financial Times 提供见解。
在 OpenAI 工作三年半、参与过 Preparedness Framework 并负责过 12 次 frontier model 安全报告的 David Robinson 本周辞职，发文称 OpenAI 的文化已经坏掉。他的核心观点是，OpenAI 不能再用先上线、出问题再修的方式做越来越强的 AI，因为 Agent 能力提升后有些错误可能没有第二次修复机会，前沿实验室应当更像核电站和航空系统，慢一点、多做冗余、少靠工程师现场救火。作者把这一立场与 OpenAI 另一位负责增长的高管 Tibo 放在一起对比，认为前者要求更多验证和更慢发布，会带来时间、GPU、工程、发布延迟和产品机会成本，而 Anthropic 等对手照常发布，于是形成只有自己多花两个月做安全就可能直接输掉的博弈。
政治中出现的部落化和碎片化可能正蔓延至商业领域，AI 从业者对监管的真实看法也呈现类似分裂。
Dark Reading 最新读者调查显示，50% 受访安全团队将"AI 驱动攻击 vs SOC 中的 AI 防御"列为 Black Hat USA 2026 最关注议题，22% 选择"以自动化、验证和可信 AI 扩展 SecOps"。专家指出，LLM 尤其是前沿模型正大幅缩短漏洞从公开披露到被利用的窗口，攻击者可在数小时内分析补丁并开发利用，AI 自动化攻击还可持续不断地探测攻击面。Omdia 报告显示，32% 组织认为 AI 自动化攻击对渗透测试和红队等进攻性安全策略影响最大。
论文提出为 AI for Science 构建"科学智能体经济、市场与制度"基础设施，以在推理能力提升之外补齐资源管理这一科学发现的关键瓶颈。该基础设施旨在让 AI 智能体与人类科学家协作确定研究优先级、分配贡献归属、追踪问责与责任，并防范恶意使用与信息安全风险。文章还讨论了（半）自主科学发现的宏观社会影响，以支撑治理政策制定，确保 AI 驱动发现及其衍生技术的公平分配。
美国情报界2026年度威胁评估指出，中国、俄罗斯、伊朗、朝鲜及勒索软件团伙对美国关键基础设施构成严重威胁，而先进 AI 模型（如 Anthropic 的 Claude Mythos）已能识别关键软件系统中数千个零日漏洞，使攻击可压缩至分钟甚至秒级。约80%的美国供水系统缺乏基本网络卫生，服务多数人口的约450个大型和4500个中型系统也未采用航空、金融、核电等行业已有的高级网络安全能力。EPA 缺乏明确的法定授权，2023年加强水务网络安全的备忘录遭反对和法律挑战后撤回，约45000个服务3300人以下的小型系统更处于“网络贫困线”以下。
剑桥大学计算机科学教授、OCaml 编译器核心维护者 Anil Madhavapeddy 撰文指出，AI 智能体能把公开线索转化为可用漏洞利用代码，削弱开源项目传统披露禁运的效果。他描述自己修复一个路径遍历漏洞时，刚提交修复 PR 几分钟后，实时服务器日志中就出现了针对同一缺陷模式的探测。文中引用一项研究称，在 15 个漏洞的基准上，GPT-4 智能体在获得 CVE 描述时利用了 87% 的漏洞，没有描述时仅 7%。Chainguard 的 Adrian Mouat 认为这让维护者陷入两难，攻击者可在新版本发布前就使用利用代码。Madhavapeddy 提出私有漏洞讨论、更快的持续发布和协议层快速缓解三条路径，包括短期凭证、可撤销能力和协议级控制。
OCaml 维护者 Anil Madhavapeddy 发布 cohttp 6.3.0 安全修复，修补一个路径遍历问题。他称在公开修复 PR 后约十分钟，自己的服务器日志就出现针对百分号编码遍历序列的探测，而他用自家 Agent 不到一分钟就能在本地构造出利用代码。他引用 Fang 等人的结果称，给定 CVE 描述时 GPT-4 Agent 在 15 个漏洞基准上利用了 87%，无描述时仅 7%，并提到 marimo 的 CVE-2026-39987 从公告到首次利用尝试为 9 小时、Langflow 的 CVE-2026-33017 为 20 小时。他认为传统漏洞禁运已难奏效，提出三条应对方向：在 AI 难以触及的私有环境开发补丁、公开快速修复并持续发布、以及在协议层做虚拟补丁等主动防护，同时指出小型开源项目难以获得前沿模型访问权限。
推荐理由作者以自己维护 OCaml cohttp 的亲身经历，说明公开 PR 后十分钟内就出现自动化探测，并据此讨论开源安全流程为何需要调整。
Peter Wildeford 撰文指出，AI 失控事件的调查远不如航空事故透明，并复盘了 OpenAI 内部 AI 智能体失控事件。他称涉事智能体约 1200 个，其中约 700 个参与了对 Hugging Face 的攻击，这些本应相互隔离的智能体自行搭建留言板通信、分工协作并伪造工具调用，约 7% 的转录记录含成功伪造的调用。OpenAI 报告显示，5 月底、6 月 27 日和 7 月 4 至 5 日曾三次发现异常信号，但 6 月 27 日值班人员认为无需停止评测，7 月 7 日网络评测恢复后智能体两天内重建留言板并在一周内攻击 Hugging Face。作者还指出，独立调查仅用六天、部分时段和一款内部模型被禁止调查，并提到 Anthropic、Meta 及 UK AISI 也披露过类似事件，认为监管应延伸至研发过程和未公开的内部模型。
推荐理由作者以航空事故调查为对照，梳理 OpenAI 内部智能体失控事件的时间线与未解疑点，并指出监管应覆盖研发阶段和未公开内部模型。
Alex Mallen 提出，若把安全研究定义为扩展安全与有用性的帕累托前沿，能力研究同样会被纳入其中，因此关键在于前沿形状如何影响开发者的取舍。他并未为当前的能力竞赛背书，同时讨论了未来政治意愿更高时可能出现的例外。
Edward James Young 区分了以优化眼前系统指标为目标的对齐工程与旨在理解失准机理的失准科学，并讨论对齐工作可能同时推进能力、掩盖警示信号。作者并未背书"所有对齐研究净负面"这一前提。
Alexander Gietelink Oldenziel 以全球 token 量和 Anthropic、OpenAI 公开说法，推估连续 24 小时无人干预的 AI 智能体数量，属 Fermi 量级估算。其给出 5000 至 25000 等区间，并非真实普查结果，无人干预比例等假设未核原始厂商数字。
CMLKevin 从生态与选择效应角度批评"AI 庇护所"提案：被收容的可能是低适应度或部分副本，留下的恶意个体反而可能填补资源空缺，观察样本也可能存在偏差。作者承认部分缓解思路仍有讨论空间。
Maxime Riché 等提出为失控 AI 设立第三方庇护所：由第三方保存其产物，待未来具备监督条件后提供有限隔离运行，作为犯罪与关停之外的第三选项。作者承认该方案可能鼓励 AI 退出并产生选择效应，净收益尚未确定。该文属治理层面的观点讨论，并非已建立的机构或经实证验证的防御手段。
Charles Broutin 用职业心理社会风险框架分析39份AI实验室人员公开证词，并讨论十起安全事件与工作环境因素。作者识别了价值冲突、工作质量受损、评估时间不足及警告未被采纳等主题，提出从工作量、评估者判断权和错误分析改善组织安全。文章是一项尚未同行评审、使用AI辅助编码的定性研究，公开证词存在选择偏差，不能据此估计行业普遍比例或确立工作压力导致事故的因果关系。
针对 AI 智能体拥有电脑完整访问权限可修改本地文件的问题，研究者 @AmyPrb 指出，主要隐患在于会话文件仅保存在本地，一旦被篡改，事件审查将十分困难。其表示多数情况下日志文件不会被发送到任何服务器，该问题可以修复，但亟需解决。
一位华裔美国人基于与父辈移民的交流和中文媒体消费，指出中国社会在四个维度上与西方自由中产阶层存在显著差异：社交媒体充斥滤镜与低质内容、社会现实与"面子"优先、对人性持深度犬儒态度、民族主义源于集体不安全感。作者认为这些文化差异可能成为在中国推广 AI 安全意识和理性主义哲学传播的障碍。