全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 7 条- 动态中国网信网
中央网信办通报清朗AI技术滥用治理专项行动第一阶段处置结果
中央网信办通报“清朗·整治AI应用乱象”专项行动第一阶段成果，该行动自2026年4月启动，聚焦未履行大模型备案登记义务、AI平台安全与审核过滤能力不足、AI数据投毒、生成合成内容标识落实不到位等问题。第一阶段累计处置违规网站、应用程序、智能体等AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个、违规开源数据集9个。北京、上海、浙江、江苏、广东等地网信部门采取联动巡查、细化平台要求、多维度整改、专项举报窗口、多部门协调监管等措施。华为、阿里巴巴、智谱、稀宇、DeepSeek等平台分别加强备案标识审核、数字指纹比对、多模态审核、恶意行为阻断和数据异常检测。下一步将开展第二阶段工作，重点整治利用AI制作虚假信息、散播不良信息、假冒仿冒、侵害未成年人权益和网络水军等问题。
- 动态中国网信网
中央网信办部署为期4个月的清朗AI应用乱象专项整治
中央网信办印发通知，在全国范围内部署开展为期4个月的清朗·整治AI应用乱象专项行动，分两个阶段各整治7类突出问题。第一阶段为AI应用服务典型违规问题专项治理，重点包括未按规定履行大模型备案登记义务、平台安全和审核过滤能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位、滥用AI技术实施网络攻击与换脸拟声、开源模型安全管理不到位。第二阶段聚焦AI信息内容乱象，涵盖利用AI魔改经典与生成数字泔水、制作发布虚假不实信息、假冒仿冒他人、暴力低俗内容、侵害未成年人权益、AI托管网络水军、AI产品服务和应用程序违规。通知要求各地网信部门履行属地管理责任，督导网站平台对照整治重点自查自纠，完善长效治理机制。
- 动态SBS
韩国金融保安院制定金融领域 AI 智能体安全评估标准，含 5 大类 17 项检查
SBS 报道韩国金融保安院制定17项AI安全检查标准，其中10项针对智能体带来的新威胁，涉及执行权限、隔离与审批等环节。报道将相关检查归为五类。
- 动态The Nightly
Anthropic 在澳大利亚议会听证会上披露外国行为者对其模型实施数据投毒
Anthropic 在悉尼举行的澳大利亚议会人工智能委员会听证会上表示，其研究人员在预训练阶段扫描数据时发现一些投毒尝试，部分看起来是政府意图让模型以特定语言进行宣传式回答。Anthropic 安全负责人 Dave Orr 称这一趋势正在显现。同场作证的 Microsoft 国家安全官员 Mark Anderson 强调必须建设用于国家安全的防御性 AI 能力。Anthropic 代表还承认，在类似 6 月 Medicare 统计数据泄露事件中如何通知各国仍处于学习阶段，其澳新政策负责人 David Masters 建议澳大利亚参照美国加州等地的法律，建立关键安全事件通报要求。Anthropic 与 Google 均对澳大利亚现行版权规则表达担忧，Google 方面称按现有授权要求训练一个中等规模大语言模型约需 200 年。
- 动态Help Net Security AI
PwC 调查：僵尸网络、对抗攻击与数据投毒居企业 AI 威胁清单前列
PwC 于 2026 年 5 月至 7 月间访问 71 个国家共 3934 位商业与技术负责人，结果显示企业对自身最缺乏应对准备的正是针对 AI 系统的攻击，半数受访安全和科技高管将其列入前五大准备缺口之首。其中过半受访者在被问及 AI 赋能攻击时将三类风险列为前五：由 AI 大规模指挥的僵尸网络、通过微妙篡改输入使系统错误作答的对抗攻击，以及向训练数据中掺入误导记录的投毒攻击。PwC 还指出前沿 AI 模型如今能以极少人工介入发现并利用未知软件缺陷，同时仅 39% 的企业具备完整的网络安全事故连续性预案，不到四分之一允许 AI 智能体未经人类批准自主处置攻击。
- 动态FAR.AI
FAR.AI 联合创始人兼 CEO Adam Gleave 获评 Schmidt Sciences AI2050 早期职业研究员
FAR.AI 联合创始人兼 CEO Adam Gleave 入选 Schmidt Sciences 的 AI2050 早期职业研究员。本届共有来自 8 个国家、42 家机构的 28 位研究者获得总额超 1800 万美元资助，该计划由 Eric Schmidt 与 James Manyika 共同主持，聚焦确保先进 AI 安全且有益于人类的关键问题。Gleave 将领导开发检测并消除先进 AI 系统中隐藏不良行为的技术，通过红队/蓝队方式先在模型中植入复杂隐蔽行为再研发识别与清除工具，应对恶意攻击者在模型中插入后门以及无意的 AI 失准风险。
- 动态雷峰网安全频道
对话亚信安全：为什么我们需要新一代终端安全？
亚信安全在C3安全大会·2023新一代终端安全论坛上提出，终端正成为网络安全新边界，现有终端安全防护面临功能部署臃肿、运维繁杂、防护失效三大痛点。亚信安全终端安全产品总经理汪晨称，85%的黑客攻击潜伏在网络加密流量中，需在终端侧增强才能看清威胁。6月29日，亚信安全推出新一代终端安全品牌TrustOne，以“极简新”为理念，集产品能力、部署、管理、运维一体化，具备原子能力化、攻击面管理、风险治理数字化、已知未知攻击检测响应和一体化平台化五方面能力。