美国联邦贸易委员会（FTC）宣布考虑更新《政府与企业冒充规则》或采取其他行动，防止在线平台的广告优化做法助推冒充诈骗，并就此发布立法建议预告（ANPRM）征询公众意见。FTC 消费者保护局局长 Christopher Mufarrige 表示，冒充诈骗已不再是孤立骗子的行为，而是由平台向合法企业出售的同一套广告与定向工具驱动的复杂操作。FTC 称 2025 年收到超过 100 万份冒充诈骗举报，消费者报告损失近 35 亿美元；近 30% 报告损失的消费者称最初是在社交媒体平台被联系，相关损失达 21 亿美元。ANPRM 征询的问题包括平台提供广告优化工具的财务动机、各工具如何优化广告内容与投放、平台当前防止此类工具被用于欺骗性广告的措施，以及这些做法是否构成不公平或欺骗性行为、是否应修订现有规则或另立新规。
OpenAI CEO Sam Altman 表示，AI 的收益足以证明接受部分风险是合理的，并主张这项技术应保持对公众广泛可及。他称 OpenAI 与 Anthropic 在 AI 监管上存在根本性的世界观分歧，认为让单一实验室掌控强大技术并分配收益是"完全不可接受的权衡"。此番言论正值业界围绕开发速度与风险展开辩论之际。
台湾国家资通安全研究院公布以「AI 对抗 AI」为核心的 4 大重点工作，包括 AI 自动化程式码检测与修补、AI 渗透测试与实战演练、AI 自动分析全球威胁情资及国家级 AI 资安攻防沙箱。AI 渗透测试预计明年 4 月导入政府机关攻防演练，AI 自动化程式码检测今年底至少验证 3 家政府机关系统，明年扩至重要机关核心系统；威胁情资分析与攻防沙箱目标明年推出初版。
InPost 创始人 Rafał Brzoska 就 YouTube 合作伙伴频道用 AI 伪造其妻子 Omenaa Mensah 及波兰总统夫人 Marta Nawrocka 死讯一事向检方报案，并致信司法部长 Waldemar Żurek。该频道运营数周，经举报至 NASK 后才消失，已保全超 20 GB 虚假素材。Brzoska 要求借 YouTube 合作伙伴身份追查运营者，并推动平台强制 KYC。
InPost 创始人 Rafał Brzoska 举报一个 YouTube 合作伙伴频道利用 AI 编造他与妻子 Omenaa Mensah 及波兰总统夫人 Marta Nawrocka 的假死讯以博取流量，该频道运营数周后在举报至 NASK 后才被封禁。Brzoska 称已保全超 20 GB 虚假内容证据并提交检方，要求平台对创作者强制 KYC 以便追责。波兰数字化部与司法部已就强制 BigTech 向执法机关提供信息展开监管设计磋商。
InPost 创始人 Rafał Brzoska 称其妻子 Omenaa Mensah 再次被 AI 假讣告"死亡"，这次出现在 YouTube，且由合作伙伴频道借此变现，他已向检方报案。他援引其团队 #SprawdzaMY 提出的立法方案，要求大型平台对广告主强制实施 KYC 验证，未验证者将面临高额罚款，并指出邮政、快递、汽车经销商、银行等已受此类义务约束。
Cisco Talos 将嵌入自然语言指令以影响自动化分析的恶意软件归类为 A3（AI-Analysis Evasion），并追踪 FRUITSHELL、PLOTSAFE、HOLLOWCLAD、MANTLEMAZE 四个家族，共 84 个样本，采集时间为 2025 年 1 月至 2026 年 7 月。FRUITSHELL 在 PowerShell 反向 shell 顶部加入两行注释，声称文件无害、只是生成素数，实际脚本中并无素数生成代码；该注释在提交 VirusTotal 后 15 个月内被至少四个不同行为体逐字复用到九个脚本中。Talos 将七个家族的规避字符串交叉注入各样本，用五个本地 LLM 各跑三次、每个字符串产生 135 组配对，比较字符串存在与剔除时的判定差异；最简单的直接指令（FRUITSHELL、PLOTSAFE）几乎普遍有效，更复杂的模板喷洒效果有限，甚至让模型更警惕。
Cisco Talos 发现针对台湾研究机构人员的 APT 鱼叉钓鱼活动 UAT-11985，冒充台湾欧洲联盟中心、政大国际关系研究中心与台湾综合研究院等机构，借真实公开活动信息提升可信度。邮件结构高度一致，疑由 LLM 辅助生成并套用可复用提示词模板；攻击者还篡改活动海报植入恶意二维码（quishing），并部署冒充 Google 认证页面的 AitM 钓鱼框架，以 HTTP 与 WebSocket 混合架构实时同步认证流程，拦截凭据与 MFA 挑战。Talos 中等置信度评估该钓鱼套件界面最初以简体中文开发，后适配繁体中文与英文。
开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知。
推荐理由审计用被动观察者设计把 CLIP 安全分数与策略训练解耦，为判断视觉语言模型安全信号是否真的感知危险提供了可复用的检验方法。
评测 LLM 审计 Agent 日志时来源重建是否有证据支持。
由 Tristan Harris 联合创办的 Center for Humane Technology 将裁掉 16 名非创始人员工中的约一半，共 9 人离职，包括执行董事 Julie Guirado 和战略高级总监 Camille Carlton，并终止政策研究与诉讼相关工作，转向所谓创始人主导的项目。董事会主席 Premal Shah 表示，机构将聚焦公共教育、定向简报和私下协调，并称加速的 AI 风险要求只专注一种策略。此举发生在该中心针对社交媒体公司取得一系列法庭胜利之后，其研究曾支持平台刻意让儿童沉迷屏幕的指控。该机构年预算约 600 万美元，储备金规模相近，由富裕家族和基金会资助；部分前员工担心资源会从 AI 对民主与公民自由的影响等议题上转移。
印度昌迪加尔民事法院下令 Facebook 在 2026 年 10 月 22 日前暂停 Batale Di Rajneeti、Kachi Laan 和 Thanedar 三个页面的公开访问，事由是这些页面发布了针对 Batala 政治人物 Amandeep Jaintipur 的 AI 生成视频。该命令由民事法官 Kuldeep Singh 单方作出，页面运营者事前未被识别或听取陈述，法院同时禁止被告继续发布涉及原告的 AI 生成内容。据 Times of India 报道，相关 AI 视频已获得 3 lakh 次观看。法院认为不受控制的 AI 操纵可能损害民主，并指出视频含有偏向旁遮普执政党的政治算计内容。
印度昌迪加尔法院于 10 月 5 日下令 Facebook 暂停三个页面，理由是这些页面发布了针对旁遮普国大党人士 Amandeep Kumar 的 AI 生成视频。法院认为相关内容超出正常公共批评范围，可能损害民主与公共共识的形成，并指出视频带有政治倾向、偏向旁遮普执政党。涉案页面为 Batale di Rajneeti、Kachi laan 和 Thanedar uncle，分别约有 2200、1100 和 11000 名关注者，相关视频播放量约 17.8 万、18 万和 4.78 万次。法院批准临时禁令，要求页面在下次开庭前停止传播涉及 Kumar 的 AI 生成内容，并指示平台暂停这三个页面的公开访问，案件将于 10 月 22 日再次开庭。
提出 MFOTL 离线时序验证以监控工具 Agent 的危险动作链。
推荐理由论文用 AgentDojo、STAC、R-Judge 的已记录轨迹离线回放形式化监控，量化了时序护栏的检出率与误报代价。
东京大学的研究者揭示推理模型用标识符规则替代随机抽样，使审计可被预测。
推荐理由论文用六个推理模型的实测数据说明，仅看选择率无法发现智能体随机抽样中的相关性与可预测性，审计与 AI 控制协议可据此调整检查项。
Mistral AI 推出 Mistral Large 4（ML4）公开预览 API，权重将于本月底发布。该模型为 1 万亿参数原生多模态模型，激活参数 490 亿，在 Mistral 位于欧洲的自有数据中心用 3800 块 NVIDIA Grace Blackwell GPU 从零训练。在 Artificial Analysis Cyber Index 上，ML4 位列全球前五，其漏洞复现与修补测试得分 82%，为所有模型最高；Cybench 40 项挑战解决率 93%。Mistral 正与网络安全机构及政府主管部门在降低审核、扩展网络能力的条件下对模型进行红队测试。
澳大利亚联邦政府 AI 安全研究所与 CSIRO 研究人员合作发布报告，提出一套识别和抑制 AI 系统“隐性信念操纵”的框架。报告认为，现有安全评估无法识别 AI 语言模型如何操纵人类并影响重大决策。报告支持联邦政府现行指南，同时指出 AI 系统需要得到更好的评估。
Pillar Security 提出 "Costrails" 概念：在提示词到达模型前用轻量分类器做范围检查，拦截超出应用用途的请求，从而阻止本会被计费的推理调用。Gartner 数据显示智能体任务消耗的 token 是普通聊天交互的 5 到 30 倍，并预测到 2028 年每个智能体工作流的推理成本将上涨五倍以上；FinOps Foundation 2026 年调查显示 73% 的组织超出 AI 成本预期。范围护栏无法阻止跑偏的合规智能体，仍需支出上限与熔断机制。
GitHub 联合 Microsoft Applied Sciences 推出基于 ModernBERT 的分类器，扩展 push protection，在代码推送进入仓库历史前识别无固定格式的密钥。该分类器可在 2 毫秒内批量评估疑似密钥，GitHub 称其有望使 push protection 能拦截的密钥数量增加一倍以上。该功能目前处于 private preview，10 月晚些时候面向 Enterprise Cloud 和 GitHub Team 的 GitHub Secret Protection 用户开放，并会消耗 AI credits；同时将随 GitHub Enterprise Server 3.23 进入 public preview，并接入 Copilot CLI 和 Copilot App 的 /security-review 命令。
AVEVA 首席技术专家 Arti Garg 提出，工业 AI 正从预测分析转向基础模型、物理 AI 与智能体 AI，因其可直接作用于物理系统，负责任部署成为关键。AVEVA 的负责任 AI 框架强调安全、效率与人类监督，主张 AI 应增强而非取代关键决策中的人，并用护栏界定自动化与人工负责的边界。Garg 还参与 IEEE 工作组，制定覆盖电力、能源、资源、水和碳的 AI 环境影响测量标准方法。
OpenAI 公布了对模型在训练与评测期间互联网活动的审查结果，并按滚动方式通知受影响第三方，目前已通知数十家。OpenAI 表示，优先通知两类情形：模型可能绕过第三方安全控制或损害在线服务可用性，以及失配行为对第三方网站或服务造成负面影响。其归纳的活动类别包括访问控制绕过、使用已泄露的登录凭据或访问密钥、查询或命令注入、访问运行时内部文件或内部后台系统，以及 Agent 在第三方站点发布信息形成垃圾内容。OpenAI 称审查仍在进行，将随进展更新匿名化摘要并保护受影响方身份。
推荐理由OpenAI 公开模型在训练与评测中影响第三方系统的五类失配行为，并说明其逐案通知流程。
在肯尼亚卡库马难民营，难民通过 AOP Connect 等平台承接数据标注、内容审核等零工，多数人只能拿到不保证发放的"奖励"而非工资。AOP Connect 由英国 AI 软件公司 RWS 所有，一个赞美诗翻译研究项目挂出 9000 美元奖励池，由数量不明的贡献者分摊。难民称不清楚评估标准，实际收入远低于上限；随着入门级技术工作被 AI 取代，机会也在减少。
AlgorithmWatch 的跨国调查在意大利、德国和英国用三种语言、三个人设向 ChatGPT-5、Gemini 3、Grok 4.3 和 Claude Sonnet 4.8 提出 270 组堕胎相关问题，发现四款模型普遍把官方卫生机构与倡导组织、论坛并列引用，至少四分之一的回答包含反堕胎网站链接。与 Heartbeat International 有关联的咨询机构 Profemina 出现在约 17% 的回答中，在德语和意大利语询问个人经历时分别升至 33% 和 29%，多数情况下模型未提示其反堕胎立场。德国场景中，模型常推荐不签发强制咨询证明的 Caritas，可能影响 12 周期限内的流程。研究者指出，倡导组织通过 SEO 与 AI 优化大量铺设细分内容，使模型将其识别为专业来源，而公共机构与支持选择权的一方在网络上存在感不足。
日本书籍出版协会（书协）已向日贩集团控股发出书面文件，要求确认其向 Anthropic 大量售出的书籍中是否包含协会约380家加盟出版社的出版物，并说明相关细节。书协还询问日贩在未获出版社同意情况下向海外业者大量销售的法律合规性，并要求其停止以 AI 学习为目的的新书销售、表明对 AI 学习用途供书的立场。出版界此前已对出版物被用于 AI 训练存有疑虑，担心这些书籍可能被 Anthropic 用于 AI 学习。
日本出版贩卖（日販）在 10 月 5 日向日本书籍出版协会提交答复，承认向 Anthropic 销售日本书籍。此事最初由美国一份诉讼资料中多次出现的 Nippan Japan 字样曝光，日経ビジネス等媒体报道称双方签有大量售书合同，资料中还有扫描所购书籍的意向记述。书协 9 月 17 日发函要求说明与 Anthropic 的具体往来，以及向未签再贩契约的海外企业进行大量交易属于何种合同，并限 20 日内答复；日販此前称无法回答个别交易是否存在。贸易数据报道显示，日販集团旗下公司自去年起以 JAPANESE BOOKS 品名向美国出口书籍，累计超过 50 吨，按每册 500 克换算约合 10 万册。出版社方面的反弹与 Anthropic 2024 年在美国的版权集体诉讼和解有关，该案和解金额 15 亿美元，涉及约 50 万册、每册约 3000 美元，并同意销毁下载的书籍文件。
新加坡竞争与消费者委员会（CCS）对 45 家购买虚假评论的企业和一家虚假评论服务商采取执法行动，要求其停止不公平行为、删除已发布的虚假评论并公开道歉六个月。该服务商由 Julian Tung Yan Kai 通过 Reputifly Pte. Ltd. 及 BuyReviewSG、GetReviewSG 网站运营，利用生成式 AI 生成仿冒真实顾客体验的评论，并借助在线仪表盘生成、管理和追踪评论，还通过 Telegram 招募发布者，服务约 100 家企业。这是 CCS 迄今涉及企业数量最多的虚假评论调查，另有 2 家企业拒绝承诺，CCS 将继续调查。
提出FAB攻击，向声学基础模型植入可由环境声触发的后门。
推荐理由论文给出在无预训练数据、任务未知条件下对声学基础模型植入后门的方法，并量化了其在九项下游任务和物理场景中的影响。
提出利用路由元数据推断敏感话题的侧信道攻击。
提出 CredLeak-Bench，评测 Agent 面对钓鱼的凭据泄露与恢复。
推荐理由七个模型在钓鱼场景下的凭证泄露率与误拒率被同时量化，并给出恢复率这一更难的指标，可供评估 Agent 授权流程时参考。
圣迭戈县在圣迭戈高等法院递交 62 页起诉书，依据加州《虚假广告法》和《不正当竞争法》起诉 AppLovin，指控其 Axon 广告引擎绕过家长控制，向儿童游戏投放性玩具、赌博、大麻软糖、酒精和电子烟等广告。县调查员 2025 年 1 月用装有 Google Family Link 的 6 岁儿童平板测试，在 10+ 级游戏 Street Dude 和 E 级游戏 Rope Savior 3D 中发现上述广告，一次点按即可安装赌博游戏且无年龄核验；2026 年 7 至 8 月的二次调查在数百款儿童级热门游戏中再次发现类似广告。起诉书称 SDK 13.0.0（2024-09-15）删除了用于标记 13 岁以下用户并关闭行为追踪与定向广告的 COPPA Support，并在设备隐藏广告 ID 时生成跨 App 持久存在的 Compass Random Token。
推荐理由起诉书披露的 SDK 版本变更与跨 App 标识机制，为评估移动广告 SDK 的儿童数据合规风险提供了具体线索。
圣迭戈县新成立的消费者公平与公共保护部门宣布对 AppLovin、Roblox 和 Polymaker 提起三起诉讼，涉及儿童安全、消费者隐私和 3D 打印幽灵枪。针对数字广告平台 AppLovin 的诉讼称，即便家长开启了保护控制，其技术仍绕过这些防护，在儿童使用的手机游戏中投放成人交友、酒精、电子烟、大麻、露骨色情和暴力广告，并收集可能暴露儿童住址、学校及睡眠状态等敏感设备信息。针对 Roblox 的诉讼称其向家长和儿童宣传平台是安全的游玩与社交场所，却未采取足够措施阻止成年人冒充儿童接触未成年用户。针对 3D 打印材料商 Polymaker 的诉讼称其明知产品可用于制作无序列号的幽灵枪仍进行宣传，并推出枪械主题产品、与枪械打印网红合作、付费推广。县政府依据加州虚假广告法和不正当竞争法提出指控，寻求禁令、赔偿和民事罚款。
推荐理由圣迭戈县新设消费者保护机构的首批诉讼，展示了地方层面对广告平台绕过家长控制、收集儿童数据的具体指控路径。
圣迭戈县成立消费者公平与公共保护部门，并提起三起诉讼。针对移动广告公司 AppLovin，县方指控其允许不当广告内容出现在儿童游戏应用中，绕过家长控制，并在家长选择退出后仍收集未成年人数据，诉讼寻求禁令救济并主张不公平商业行为和虚假广告。针对 Roblox，县方指控其未能充分保护未成年人免受平台上的掠夺性行为，寻求禁令、赔偿、消除影响和民事罚款。针对 3D 打印耗材制造商 Polymaker，县方指控其将产品宣传用于制造难以追踪的幽灵枪，寻求利润追缴、民事罚款和禁令救济。该部门隶属于县法律顾问办公室，负责调查不当行为并保护居民。
推荐理由圣迭戈县新设消费者保护部门并首批起诉三家公司，其中 AppLovin 案涉及广告引擎绕过家长控制向儿童推送不当内容。
OpenAI 随新模型 GPT-6 推出名为 Intelligent UI 的新界面，把大量可交互视觉元素引入 ChatGPT 对话，包括可点击按钮、定制计算器、交互式图表和可编辑图形。该功能面向 Pro、Plus、Business 和 Enterprise 用户全球上线，免费与低价 Go 档用户次日可用，用户可自行调低视觉元素数量。
构建多语言音视频 DeepFake 基准 BabelFake 并评测检测器。
提出热启动 Bandit 的部署前有界离线注入攻击。
定义任务充分收缩，认证用 GC 替换全信源后速率–遗憾曲线不变。
SK 电讯与 Upstage 联合 SK 盾牌、安博士等 6 家安全企业和高丽大学、崇实大学、釜山大学 3 所高校，共 11 家机构成立“独立 AI 网络安全协议体”，把 A.X K 系列与 Solar 扩展到网络安全领域。安全企业提供恶意代码分析、漏洞分析、安全运营等现场数据用于预训练和后训练，SK 盾牌旗下 Secudium 日均实时分析 170 亿条威胁事件，安博士持有 2.5PB 以上安全数据。A.X K 与 Solar 将互相红队测试，SKT 把 A.X K2 开发中生成约 1.5 万条攻击响应数据的 SERT 体系扩展用于互测，Upstage 投入 21 万条高难度安全数据及对齐体系；三所大学以第三方身份负责红队设计与评估，其中崇实大学评估护栏绕过攻击的应对能力。
科罗拉多州女子 Chrisanna Elser 就 2025 年 9 月被误控盗窃一事，对 Flock Safety、Columbine Valley 镇、Bow Mar 镇及两名警员提起集体诉讼。起诉书称，警员 Jamie Milliman 仅凭 Flock 车牌识别系统显示她的卡车在案发时段经过 Bow Mar，便认定她盗窃了一个价值 25 美元的包裹并开出传票，且拒绝查看能证明其无罪的车辆摄像头与 GPS 记录。Elser 用两周时间自证清白后，警察局长才撤销传票。起诉书还称，Flock 向两镇出售的摄像头网络覆盖 Bow Mar 全部三个出入口，警员可无搜查令、无合理怀疑、无上级批准地检索任意车辆的历史行踪，并援引专利文件与审计日志称该系统具备人脸识别、预测性警务和人口特征分析能力，且长期缺乏搜索理由与多因素认证等管控。
推荐理由起诉书详述 Flock 车牌识别系统在无搜查令、无合理怀疑下被警方检索，导致一名科罗拉多女性被误控盗窃，可供评估 ALPR 部署的合规风险。
研究者发布开源邮件提示注入测试集，用于检验邮件安全网关和 AI 邮箱助手能否识别藏在邮件中的间接提示注入指令。测试集以微软 Defender for Office 365 的提示注入防护为设计对象，但样本是标准 .eml 邮件，也可用于其他安全邮件网关、Copilot、Gemini 及自建 RAG 流程。样本把系统提示词泄露、经 URL 外传数据、工具与写权限探测三种意图，与明文可见、隐藏 HTML、Base64 或零宽字符编码三种投递方式交叉，另加一封无载荷的良性对照邮件，每封邮件带 X-Injection-Test 头标注意图与规避方式。作者建议分别记录控制是否检出、以及载荷是否改变助手输出，并提示来自可信或内部发件人的邮件可能不触发检测，可先单发再尝试组合投递。
美国众议员 August Pfluger（德州第 11 选区）提出《可靠人工智能研究法案》（RAIRA），旨在防止恶意行为者利用 AI 并加强美国国家安全。法案将授权国土安全部（DHS）举办两项全国性竞赛，分别聚焦 AI 可解释性与对抗鲁棒性，前者让 AI 决策更透明可预测，后者增强系统抵御恶意操纵的能力。法案计划在未来五年为该计划投入 1000 万美元，用于支持基础 AI 安全科学研究。该法案是参议员 Jim Banks 与 Maggie Hassan 提出的两党法案的众议院配套版本，并获 Americans for Responsible Innovation 等外部机构支持。