Alice Labs 发布 Cyber RL Benchmark v1.0，在 12 项真实软件漏洞任务上评测 10 款前沿模型，Qwen 3.8 Max 以 0.72 均分、解出 7 项任务居首，Mistral Medium 3.5 以 0.36 垫底。基准覆盖恶意软件分析、漏洞检测、漏洞修补与黑盒渗透测试四类，每任务每模型跑 3 次并按 0-1 分部分给分，被护栏拦截计 0 分。漏洞修补类最高有 6 款模型并列 100%，黑盒渗透测试最难，最高仅 42%；Opus 5.5 的护栏在 API 层拒绝了全部渗透测试任务。
提出面向 RAG 的证据优先发布框架 AGO，并评测评审 adherence 判别。
尼日利亚联邦竞争与消费者保护委员会（FCCPC）提出 AI 营销监管草案，对 AI 在营销活动中的使用设定合规要求与处罚安排。相关规则目前仍处于拟议阶段。
尼日利亚联邦竞争与消费者保护委员会（FCCPC）于 2026 年 9 月 30 日发布《2026 年销售推广条例》草案，拟对使用 AI、机器学习及自动化技术开展营销的企业增设监管要求。草案要求面向尼日利亚消费者的 AI 销售推广、营销传播或消费者互动须向委员会登记，AI 生成或自动化营销内容须清晰可识别，并明确涉及 AI 聊天机器人、虚拟网红和自动消息系统，要求其使用透明、不得操纵或误导消费者，且消费者可退出自动化营销沟通。草案还规定企业须对 AI 生成内容或自动化系统产出的表述、信息与主张负责，即使误导性结果由自动化系统产生也不能免责。处罚方面，自然人最高罚款 5000 万奈拉，企业最高 1 亿奈拉或上一年营业额的 1%（取较高者），相关董事可能被取消任职资格最长 5 年；未兑现承诺奖品等特定违规另处最高 1000 万奈拉罚款。
英国司法援助慈善机构 Blind Justice UK 发布的 AI's Blind Spot 报告发现，ChatGPT、Gemini 和 Claude 在推荐律师时会指向已被 Solicitors Regulation Authority（SRA）处罚或关停的律所。研究于今年 9 月向三家 AI 助手提出客户常问的律师推荐问题：在 30 次询问 Doncaster 最佳产权转让律师时，三家聊天机器人都把一家近期被 SRA 罚款的律所排在首位，ChatGPT 和 Claude 选中的律所 2025 年被罚 23,549 英镑，Gemini 选中的律所 2020 年被罚 30,540 英镑，且均未向用户提示处罚信息。在 10 次询问 Maidenhead 最佳产权转让律师时，Claude 每次都把一家已被 SRA 关停近七个月的律所列入推荐。
英国司法救助公益组织 Blind Justice UK 发布的报告《AI's Blind Spot》发现，向 ChatGPT、Claude 和 Gemini 询问律师推荐时，结果可能指向被 Solicitors Regulation Authority（SRA）罚款甚至关停的律所。该组织创始人 Edward Romain 询问 Doncaster 最佳房产过户律师时，三个助手都把一家被 SRA 罚款的律所列在首位；询问 Maidenhead 最佳房产过户律师时，Claude 推荐了一家七个月前已被 SRA 关停的律所；被问及 Norwich 某律所是否靠谱时，三个助手均未提及该所因未补足客户资金而被罚款。报告指出，面对“谁最好”这类普通问题，助手会参考带有 SRA 标识的 Google 列表和评价网站，却不会例行核查监管处罚决定；只有在被直接问及是否被处罚时才会引用纪律信息。
韩国政府为公务员搭建的“泛政府超大型 AI 共同基础”平台所搭载的 31 款 AI 模型中，国产仅 12 款，外国产达 19 款；已实际启用的 11 款中有 7 款为外国产。据国会科学技术信息广播通信委员会所属议员金章谦从行政安全部、科学技术信息通信部获取的资料，名单中包括中国北京智源人工智能研究院（BAAI）开发的 Bge-M3，而 BAAI 已于去年 3 月被美国商务部列入出口管制实体清单。政府方面承认，在引入 AI 模型时没有对开发国家或开发机构进行审查的标准，并称会综合考虑通用性、检索性能、多语言支持、安全性与性能，不限制特定国家的模型。该平台目前由三星 SDS 的 FabriX 与 Naver Cloud 的 Clova Studio for Gov 运营。
安远AI（Concordia AI）与智谱（Z.AI）联合发布《前沿开放权重AI风险管理框架》，面向开放权重开发者及更广泛的生态，作为《前沿AI风险管理框架2.0》的配套文件，于2026年9月21日在联合国数字合作日首次公布。框架指出开放权重模型在提升透明度、研究与创新的同时带来独特风险：发布无法撤回、护栏可通过微调移除、没有单一主体能监控使用或收回模型。框架沿用从风险识别到风险治理的六个风险管理阶段，在每个阶段标出哪些协议在开放发布下失效并给出适配方案，并在部署环境、威胁来源、使能能力三个分析维度之外新增第四个维度社会韧性，衡量社会吸收和应对AI致害的能力。作者为安远AI与智谱，贡献者包括Brian Tse、Oskar Galeev、Weibing Wang、Yuan Cheng、Liang Fang、Wenbin Qiao、Xiaochen Wang、Chen Zhang。
美国移民上诉委员会（BIA）于 2026 年 10 月 1 日公布先例裁决 Matter of Sethi, 30 I&N Dec. 112 (BIA 2026)，首次就律师在法庭文书中使用 AI 生成虚假判例（AI 幻觉）作出惩戒。涉事移民律师因提交含不存在判例引用的辩护状、未核实引用、并在更正动议中谎称系"笔误"、就 AI 使用向法院作虚假陈述，被互惠停业六个月，追溯至 2026 年 6 月 13 日，该停业源于第九巡回法院此前的处罚。BIA 明确，使用 AI 工具不改变律师应遵守的执业行为规则，核实每一处引用仍是律师本人的义务。
美国司法部移民审查执行办公室上诉委员会在 Matter of Sethi 先例裁决中，维持对律师 Mike Singh Sethi 的 6 个月停业处分，自 2026 年 6 月 13 日起生效，禁止其在上诉委员会、移民法院和国土安全部执业。第九巡回上诉法院此前因其提交含 AI 幻觉引证的文书并就 AI 使用向法院作虚假陈述，对其停业 6 个月。上诉委员会认定该处分触发互惠纪律推定，Sethi 未能以明确且令人信服的证据证明存在证明瑕疵、程序剥夺或严重不公，故驳回其撤销即时停业和举行听证的请求。
加拿大移民、难民和公民部（IRCC）警告，诈骗者正利用 AI 生成逼真的虚假视频、语音等内容冒充政府官员，旁遮普已有数名申请人被骗，对方以提供担保工作为名索取回扣。IRCC 强调，任何个人或代理都无法保证工作、签证或永久居留结果，签证只能由加拿大境内及驻外使领馆的移民官决定，官方费用全球统一且仅可通过政府渠道在线支付。IRCC 员工不会要求向个人银行账户存款、通过私人汇款服务转账、以未付费为由威胁逮捕或遣返，也不会使用 Gmail、Hotmail 或 Yahoo Mail 等免费邮箱联系申请人。
Meta 为个人智能体 Muse 设计了 Muse Secure VM 安全架构，将智能体运行环境与安全敏感服务隔离。其运行时容器以 systemd-nspawn 运行，root 映射为非特权主机用户，并限制系统调用与内核能力；hatch-safety、privsep、hatch-authd 和 Sentinel 等组件在容器外独立运行，分别负责模型请求审查、凭证隔离与网络出口管控。Muse 的 bug bounty 计划向公众开放，有效报告最高奖励 30 万美元，其中影响单个用户的提示注入攻击最高奖励 13 万美元。
CSET 发布报告《Tracking AI Chips》，分析位置验证对 AI 芯片出口管制执法的作用，认为该技术可在有一定成本的情况下增加执法线索。报告将位置验证视为提高芯片转移成本的工具，并指出不能据此认定该技术可以阻止全部走私。
推荐理由报告把位置验证定位为提高芯片转移成本的执法线索工具，而非能阻断全部走私的技术方案，为出口管制讨论提供了成本与限度的参照。
提出 nmult 并评测 Agent 动作门禁堆叠的错误相关性。
提出 ConEx，自动发现类别概念并生成可定位解释图。
东亚日报采访组在隔离虚拟实验室实测中文圈 AI 渗透工具 ARTEX，输入目标地址后 43 秒内攻入两处致命弱点，约 4 分钟完成窃取最高管理员权限与远程操控，使用费仅 20 韩元。该工具类似智能体 AI“OpenClaw”，接入 AI 模型后成为“攻击代理”，遇阻会自行改变方法重试并生成报告。荷兰安全企业哈德里恩称，公开的 AI 模拟黑客工具截至今年 3 月已达 70 个。
美国两党议员 George Whitesides、Mike Kennedy、Mariannette Miller-Meeks 和 Doris Matsui 提出《保护儿童免受类人聊天机器人法案》，禁止未成年人访问模拟情感与个人关系的拟人化聊天机器人。法案设定四项产品设计护栏：禁止制造紧迫感或愧疚感诱导未成年人延长使用；相关设置须跨会话生效且不能被用户提示词绕过；禁止声称具有人类身份、意识、感受或冒充医生与咨询师；要求聊天机器人主动且定期说明自身性质。Whitesides 表示该法案从产品设计角度切入，与侧重家长控制或消费者保护的其他提案不同，并称其有望在下一届会期通过。法案包含优先适用条款，为各州设定监管下限，加州 SB 1119 和纽约 S9051B 等更严格的州法仍可继续生效。
Anthropic 在发给受影响用户的邮件中称，信息窃取木马从用户自己的电脑上窃取了活跃的 Claude 登录会话，攻击者借此耗尽用量额度并产生未授权扣费，公司已强制登出相关会话、删除已保存的支付卡并退还额外用量费用。Anthropic 表示问题出在用户电脑而非自身被入侵，并已识别出六类木马家族，包括 Windows 上的 Vidar、Lumma、StealC、RedLine、Acreed，以及少量 Mac 上的 Atomic Stealer（AMOS）。这些木马并非专门针对 Claude，而是随恶意下载传播的通用窃取程序，会抓取保存的密码和浏览器 cookie；被复制的 Claude 会话 cookie 可让攻击者直接接管已认证会话，不触发密码和双因素验证。Anthropic 建议用户先清除木马再重新登录，为账号邮箱设置新密码和双因素验证，之后才重新添加支付方式。
Anthropic 因用户 Claude 登录会话被信息窃取恶意软件窃取，开始将受影响用户登出账号。公司在上周发给受影响用户的邮件中称，此次攻击涉及的恶意软件包括 Windows 上的 Vidar、Lumma（LummaC2）、StealC、RedLine 和 Acreed，以及少量 Mac 上的 Atomic Stealer（AMOS），这类通用恶意软件通常随非官方下载或恶意应用进入设备，会静默复制保存的密码、浏览器登录 cookie 及本地应用凭据。由于攻击者可通过重放被窃取的会话 cookie 绕过 2FA，Anthropic 采取的措施包括登出账号以作废被窃取的会话、移除已保存的支付方式，并退还被盗刷的 Claude 费用。
Anthropic 向部分 Claude 用户发出邮件警告，称其电脑上的信息窃取恶意软件使攻击者得以劫持登录会话并消耗用量额度。受影响设备涉及 Windows 上的 Vidar、Lumma、StealC、RedLine、Acreed，以及少量 macOS 设备上的 Atomic Stealer（AMOS）。Anthropic 表示该恶意软件是通用型、与 Claude 本身无关，通常通过非官方下载或恶意应用进入，会窃取保存的密码、浏览器登录 cookie 及其他本地应用凭据；公司认为有威胁行为者从这些数据中挑选被盗 Claude 会话访问账户。作为处置，Anthropic 已登出受影响会话，并警告若再发现账户滥用迹象可能再次登出；同时移除已保存的支付方式以防扣费，用户需重新添加支付方式才能续费或继续购买，公司还退还了被认定为未授权的 Claude 费用。
提出 SBW，为 LLM Agent 轨迹做抗改写与伪造的语义行为水印。
实现 DEFER，以确定性检查优先拦截多智能体流水线的内容攻击。
提出两阶段门控审计框架，在执行前阻断有害智能体动作。
系统综述青年 AI 安全风险与对策的证据阶段。
英国 NCSC 联合国际伙伴发布《谨慎采用智能体 AI 服务》指南，建议组织从小规模、低风险任务起步，并从一开始就套用既有网络安全控制。指南指出智能体 AI 能访问数据源、记忆上下文、调用工具并自主行动，甚至创建子智能体，因此继承了 LLM 的越狱和提示注入风险，同时因自主性和复杂度提高而扩大攻击面、更难预测、测试和治理。新增风险包括更广的系统与数据访问权限、目标被意外解读导致的行为不可预测、行动速度快于人工审查、以及行为难以解释。具体措施包括最小权限、限制访问范围与可执行动作、避免长期凭证、使用安全默认配置、管理第三方组件与模型的供应链风险、监控异常行为、对部署做威胁建模并把智能体失控纳入事件响应计划。指南强调人类仍需对部署决定、授予的权限、防护措施和运行后果负责，并明确谁拥有、谁批准访问、谁监控、谁审查事件以及谁有权停止智能体。
推荐理由NCSC 联合国际伙伴给出的智能体部署指南，把最小权限、临时凭证和人工问责落到可执行清单，适合正在评估智能体上线的团队对照。
英国国家网络安全中心（NCSC）国家韧性主管 Jonathon Ellison 警告银行，在加速采用智能体 AI 时应确保其可观测、受约束并接受适当监督，否则可能暴露关键系统。Ellison 对 The Banker 表示，机构应确保具备适当的保障、监督、监控和安全控制，使活动保持可观测、受约束并与机构风险偏好一致。英格兰银行行长 Andrew Bailey 则提出更根本的担忧，认为前沿 AI 系统正越来越多地利用自身输出通过递归学习改进性能，形成日益自我指涉的反馈过程，若无有效干预手段，这一过程类似模型逐步自我治理的闭环，可能削弱社会进行有意义监督和干预的能力。他主张优先确保 AI 模型可被理解、测试并在必要时中断，而非仅仅出台新监管。OneTrust 的 Adrienne Canter 指出员工自行下载 AI 应用正在制造新的影子 IT 问题。
提出知行差距面板，测量压力下模型是否违背自身判断。
综述部署时参数内记忆的注入位点与获取时机。
提出 ASCENT，在效用微调中做一阶安全校准并只压制负贡献更新。
提出 NetAgent，编排工具完成多任务网络流量分析。
提出 IAU-FOA，构造可迁移图像扰动以诱导多模态模型输出目标语义。
遮挡审计 AdvWave-P 音频越狱的频带必要性与解码层关联。
测量有损投机解码的安全代价，并提出 SecureSD 收紧早期验证。
分析记忆与泛化如何决定机器遗忘的 retain 损伤。
提出 RAG-PIBench，评测 RAG 上下文中提示注入检测器。
提出 LADE，用首 token 暗知识在生成前过滤越狱查询。
提出 HARP，在硬预算约束下为多轮评测动态分配交互并校准预测界。
提出 ATLAS 用水平集估计恢复黑盒分类器的对抗输入集合。
提出 SSRFT，用角色监督内化安全原则以替代拒答式对齐。
固定有害指令，单轴归因图像到文本越狱的图像属性。