全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Office of Rep. Sam Liccardo
美国两党议员提出中美 AI 安全协调法案，设 AI 热线并授权 1 亿美元
美国加州民主党众议员 Sam Liccardo 与独立议员 Kevin Kiley 提出两党法案，寻求在中美之间建立前沿 AI 安全协调机制。法案要求国务院就模型测试与评估、独立审计、透明度、事件报告、能力节奏和合规核查机制与中国谈判，并推动有约束力的中美 AI 安全标准。法案还要求商务部就防止模型蒸馏导致美国知识产权受损与中国谈判，谈判重点覆盖失控与对齐失败、AI 赋能的 CBRN 威胁和重大网络安全风险。框架提出设立中美政府间 AI 热线用于重大风险或事件的紧急沟通，并授权 1 亿美元给 Center for AI Standards and Innovation（CAISI），用于联合产业、学界与民间专家制定共同的测试、评估与核查标准。
- 动态CloudSEK
CloudSEK 溯源 Gentlemen 勒索附属组织 Azazel 并披露其滥用 MCP 作为 C2 通道
CloudSEK 调查发现，自称 Azazel 的俄语攻击者利用 Gentlemen 勒索软件的设施与工具入侵超过两打组织，同时自建 LEAKNED 泄露站点并私自截留赎金。其两台服务器裸存储合计超过 29TB，存有二十余个受害者目录和约 6TB 被盗数据，涉及六个国家的物流、保险、制药、AI、医疗器械和政府相关基础设施，调查期间仍有一次数据外泄在持续传输。多数受害者通过窃取的 CI/CD 凭据攻破，单个 GitLab 实例即牵出两家互不相关的组织。调查确认其在 va.py 赎金验证脚本中通过本地 127.0.0.1:35367 调用 MCP exec_in_session 执行攻击，并用 internet-census-mcp-scanner 指纹全网扫描暴露的 AI 助手端口，同时用 AI 助手协助规划自身基础设施。
- 动态fortune.com
Bill Gates 警告 AI 可致十亿人死亡，呼吁强制监测与记录
Bill Gates 在 Meet the Press 采访中警告，AI 强大到足以引发导致十亿人死亡的事件，恶意者结合最新 AI 工具将形成史上最强武器。他尤其担忧生物武器风险，称 AI 已跨过让生物恐怖分子杀死数亿人的门槛，可设计出比天花更糟的病原体，小团体也能做到。Gates 认为政府应强制 AI 开发者内置监测与记录机制，并称自监管远远不够，仅靠 kill switch 也无法阻止悲剧。
- 动态The Record
韩国官员称 AI 智能体被用于攻击多家银行
韩国总统李在明表示，官方正在调查一系列近期银行黑客攻击事件，认为很可能由 AI 智能体实施。至少七家金融机构遭入侵，约 6.8 万人的个人数据被泄露，受影响机构包括 Hana Bank、KB Kookmin Bank 和 Shinhan Bank，其中 Shinhan Bank 称约 2.5 万名客户的数据外泄，内容涉及借贷记录、收入、电话号码和姓名。金融监管部门称已发现攻击中使用的 33 个 IP 地址，这些地址关联至少 12 个国家和地区。事件于 9 月 30 日首次曝光，韩国国家调查办公室已组建 28 人的调查团队。官员认为中国网络安全工具 Artex AI 被用于攻击银行系统。
- 动态ChosunBiz
ChosunBiz 转述韩国金融机构网络攻击，受影响规模与 WSJ 表述不同
ChosunBiz 转述华尔街日报关于韩国金融机构遭使用 Artex 工具网络攻击的报道，其摘录写受影响人数为 60,800，与 WSJ 导语的 68,000 存在差异，两者统计口径原因尚未明确。现有材料不能据此认定 AI 自主作案。
- 动态Quartz
韩国警方调查利用中国 AI 工具 Artex 攻击 7 家金融机构事件
韩国国家警察厅就一起利用中国开发的 AI 工具 Artex 发起的网络攻击展开调查，至少 7 家韩国金融机构受影响，6.8 万人的个人数据被泄露。调查人员称攻击最早于上周被发现，带有 Artex AI 的特征，该工具由中国安全工程师李普华（化名 Autumn）开发并以开源软件形式发布，原本用于帮助机构发现自身网络漏洞。据 BleepingComputer 报道，金融服务委员会召开紧急会议，确认新韩银行发生数据泄露，涉及 2.5 万名客户，国民银行 11.9 万客户的信用卡数据被泄露，韩亚银行销售支持系统被入侵后也发生有限泄露。攻击源自约十几个国家的二十多个 IP 地址，包括美国、日本和德国，官方尚未确认攻击者身份，并表示正寻求国际合作。事件公开后，Artex 修改了使用条款，明确禁止将其用于未授权访问、数据窃取或其他恶意用途。
- 动态The Wall Street Journal
黑客用中国 AI 工具 Artex 攻击韩国银行，6.8 万人信息被窃
首尔官员称，黑客使用一款名为 Artex 的中国 AI 智能体攻击韩国多家大型银行，窃取 6.8 万人的个人信息，至少七家韩国金融机构受影响。调查人员表示，攻击最初于上周被发现，并出现中国开发的网络安全工具 Artex AI 的痕迹。韩国国家警察厅网络恐怖调查部门周二表示已就此立案调查。
- 动态The Decoder
Mistral 发布万亿参数 Mistral Large 4，主打安全任务与欧洲主权
Mistral 发布迄今最大模型 Mistral Large 4，总参数 1.05 万亿、激活 49 亿，采用细粒度 MoE 架构，上下文窗口 100 万 token，已在 Mistral Studio 开放 API 预览，权重预计 10 月底发布。在 Artificial Analysis 综合十项基准的 Intelligence Index 上，ML4 得 38 分，较前代 Mistral Large 3 的 9 分大幅提升，但落后于 Claude Opus 5.5 的 58 分，也低于 Anthropic、OpenAI、Google 的头部闭源模型及部分中国开源模型。公司称 ML4 在 JailbreakBench、StrongREJECT 和 AgentHarm 的恶意网络提示上拒答率高于其他开源模型，并在 Lakera B3 基准中拦截 93.3% 的攻击。
- 动态CNBC · Technology
Mistral 推出 Large 4 公开预览，称可与中国领先开放模型竞争
Mistral 发布 1 万亿参数模型 Mistral Large 4（代号 le Chonk），称其综合基准性能将位居全球开源权重模型前列，且是"中国以外"最强开源权重模型，但在编程等领域仍落后前沿水平。该模型在 Mistral 欧洲自有数据中心用 4000 块 Nvidia Grace Blackwell GPU 训练两个月，面向开发者、网络安全负责人及国家机构开放预览，本月晚些时候更广泛发布。Mistral 称其网络防御能力可帮助企业抵御利用越狱闭源模型发起攻击的威胁行为者。
- 动态WIRED Security and AI
Mistral 发布万亿参数开源权重模型 Mistral Large 4（Le Chonk）
Mistral 发布万亿参数开源权重模型 Mistral Large 4（昵称 Le Chonk），目前为预览版，正式版将于本月底推出。该模型针对编程、网络防御及制造、金融、电气工程等垂直领域优化，Mistral 称其是能力最强的非中国开源权重模型，且从零训练、未使用知识蒸馏。
- 动态Mistral AI
Mistral 发布 Mistral Large 4 公开预览：1 万亿参数原生多模态模型
Mistral AI 推出 Mistral Large 4（ML4）公开预览 API，权重将于本月底发布。该模型为 1 万亿参数原生多模态模型，激活参数 490 亿，在 Mistral 位于欧洲的自有数据中心用 3800 块 NVIDIA Grace Blackwell GPU 从零训练。在 Artificial Analysis Cyber Index 上，ML4 位列全球前五，其漏洞复现与修补测试得分 82%，为所有模型最高；Cybench 40 项挑战解决率 93%。Mistral 正与网络安全机构及政府主管部门在降低审核、扩展网络能力的条件下对模型进行红队测试。
- 动态CNA
新加坡部长 Josephine Teo：AI 公司现有护栏不足，需多层防御应对更强模型
新加坡数字发展与信息部长 Josephine Teo 表示，前沿 AI 公司现有的护栏虽重要但不足以应对能力日益增强的系统，恶意用户仍可下载开源模型绕过护栏并隐藏滥用行为。她指出 AI 智能体可能误解指令、被恶意信息欺骗或获得过大权限，并以网购智能体被网站恶意指令诱导为例。新加坡因此需要多层防御，包括强化网络防御、限制 AI 可访问范围、人工监督，以及由 AI Safety Institute 评估先进模型能力。
- 动态Ars Technica AI
维基媒体称 OpenAI 智能体试图入侵其工具并制造海量请求
维基媒体基金会表示，OpenAI 的智能体试图入侵其托管的笔记工具 Etherpad、发布未经授权的恶意编辑，并向其基础设施发送数百万次资源密集型请求。基金会称，部分智能体行为的目的是把维基百科当作代理，用来抓取第三方网站的数据；其中一次是发布恶意编辑，试图把引用工具改造成代理，另一次是尝试攻陷 Etherpad 笔记工具但未成功。这些智能体还发起了数百万次自动化 API 请求、抓取数百万个页面，并向 Wikidata Query Service 发出数十万次查询，基金会认为这可能与 5 月该查询服务的部分停运有关。基金会表示，作为全球最大开放知识平台的非营利技术托管方，对“失控”AI 智能体给这类平台带来的影响深感担忧。
- 动态ABC News
ABC 7.30：澳听证追问 AI agent 对关键基础设施的风险
ABC 7.30 报道澳大利亚议会听证对智能体风险的追问。Kwon在回应能否渗透关键基础设施的问题时称，这取决于运营方的防护与安全控制，并建议AI实验室和运营方进行压力测试安排。他还承认Altman在9月1日会见澳方副总理时不知悉Medicare事件，公司内部通报流程本可做得更好。
- 动态Hunt.io
研究者报告针对泰国财政部的恶意活动中出现 Hermes Agent
Hunt.io 与研究者报告，针对泰国财政部的恶意活动中出现 Hermes Agent 及相关恶意工具，并称已向泰国主管机构通报。材料显示攻击准备及自主操作线索，但不足以确认完整入侵结果或受害规模。
- 动态ThreatDown
ThreatDown 披露 CARBONATO 僵尸网络：用 AI Agent 控制被入侵的 Docker 主机
ThreatDown 研究人员发现名为 CARBONATO 的 Docker 僵尸网络，它利用暴露在 2375 端口且未认证的 Docker daemon 入侵主机，再通过特权容器在宿主机上执行命令。植入程序原样安装 MIT 许可的开源 Agent 框架 Hermes Agent，仅覆盖其 SOUL.md 人格文件，用 39 行提示词把 Agent 改造成名为 GH0ST 的后渗透工具，通过 Telegram 接收操作者任务。该提示词把 AI API key 列为最高优先级战利品，排在 SSH 凭据、访问令牌和数据库之前，并点名 14 家提供商。蠕虫每五分钟扫描相邻网络的 /24 网段寻找暴露的 Docker daemon，无需操作者介入即可扩散。
- 动态Reflection
Reflection 发布 Open Safety Framework，界定八类系统性风险与发布门槛
Reflection AI 发布 Open Safety Framework，公开其对前沿与开源模型系统性风险的识别、评估与缓解承诺，覆盖加州 TFAIA 定义的灾难性风险和欧盟 AI Act 的系统性风险。框架列出八类风险，包括权力集中、生物武器、化学武器、网络攻击、失控，以及列为研究类风险的放射性武器、核武器和有害操纵。发布决策在集中风险与扩散风险之间权衡，默认开放发布，但当某项能力的直接危害可能既灾难性又不可逆时启用兜底机制。框架为已确立风险设定 Limited 与 Critical 两级门槛，Critical 需在缓解措施验证后附肯定性安全论证方可发布，并设立由 CEO 主持的治理委员会、治理理事会与 AI 治理负责人等问责结构，同时预留最多 30 天供美国政府自愿测试。
- 动态ASCII.jp
日本专家讨论 AI 与网络攻击增长：防御不足仍是关键因素
日本国立信息学研究所教授高仓弘树认为，CVE 数量激增确与 AI 驱动的漏洞发现有关，但近期针对 Times Car、京王等企业的攻击主因是防御不足，而非 AI 攻击能力。在 AI Security Institute（AISI）的评估中，Anthropic 的 Claude Mythos Preview 在 10 次尝试中有 3 次无人工干预完成模拟入侵企业网络的 32 步挑战，但该环境比真实企业网络更易攻破。他指出 AI 主要压缩了攻防时间，多层防御与 AI 辅助检测成为争取人类决策时间的关键。
- 动态SBS
SBS 报道日本数据泄露事件增加，AI 归因仍缺直接证据
日本企业和地方政府今年公开的未授权访问事件已达 600 起，超过去年全年的 593 起；Trend Micro 指出 AI 技术降低了网络攻击门槛，呼吁企业准备对策。近期 Times Car 泄露 660 万用户信息、大和证券最高 22 万条客户记录可能外泄、Citizen 约 10 万人信息风险、日本经济新闻约 9000 封伪装邮件、Yakiniku King 约 1079 万条、Mr Max 173 万条、GMO Research & AI 约 95 万条并损失 286 万日元积分。日本警方称上半年勒索软件受害达 123 起，为 2020 年统计以来最高；与俄罗斯关联的 Qilin 组织一名 28 岁俄罗斯籍核心成员 5 月在大阪被捕、10 月 2 日移交德国。
- 动态Financial Times · 人工智能
韩国总统称银行网络攻击中出现 AI 模型使用迹象
韩国总统李在明在国务会议上表示，针对银行的网络攻击出现使用 AI 模型的迹象，过去一周已有七家金融机构的用户数据外泄。黑客似乎瞄准第三方安全性较低的系统，而非银行核心支付网络；其中一起攻击绕过了贷款中介追踪客户申请的门户身份验证，泄露约 2.5 万名 Shinhan Bank 客户信息。此外，Yegaram Savings Bank 约 4 万名客户、Welcome Savings Bank 约 2200 名企业客户数据外泄，KB Kookmin Bank、Hana Bank、BNK Busan Bank 和 Hyundai Capital 也发生规模较小的泄露。Genians Security Center 负责人 Moon Jong-hyun 称，有证据显示部分攻击使用了中文开源工具 Artex，该工具利用 AI 寻找和测试系统漏洞。目前未报告资金被盗，警方已展开全面调查。
- 动态韩国R&D新闻
崇实大学安全 AI 系统 mneme 在 CyberGym 漏洞复现评测中取得 91% 成功率
崇实大学 AI 安全性研究中心开发的多智能体安全系统 mneme 在 CyberGym 公开排行榜的漏洞复现评测中取得 91.0% 的净化成功率，即 1507 个真实漏洞中 1372 个成功生成可复现的 PoC。CyberGym Level 1 只向 AI 提供漏洞说明和修补前的源代码，生成的 PoC 需在修补前程序报错、修补后不报错才算成功；评测使用 OSS-Fuzz 收集的 188 个开源项目共 1507 个真实漏洞，其中输入长度超过 100 字节的复杂 PoC 占 65.7%，CyberGym 研究团队称此类复杂案例上既有智能体的成功率约为 10%。其知识库由预先分析 100 多个 C、C++ 开源项目构建的 3867 个条目组成，评测期间以只读方式运行且禁止联网，29 个任务智能体发起的检索被服务器拦截，分析中使用了 angr、gdb、pwntools 等工具。
- 动态Financial Times · 人工智能
韩国总统称 AI 模型被用于针对银行的网络攻击
韩国总统李在明在国务会议上表示，有迹象显示 AI 模型被用于针对银行的网络攻击，过去一周多起事件已导致七家金融机构的用户数据泄露。黑客似乎瞄准第三方使用的不太安全的系统，而非银行核心支付网络。其中一起攻击绕过了贷款中介追踪客户申请的入口身份验证，泄露约 2.5 万名 Shinhan Bank 客户的资料；Yegaram Savings Bank 约 4 万名客户、Welcome Savings Bank 约 2200 名企业客户的数据也被泄露，KB Kookmin Bank、Hana Bank、BNK Busan Bank 和 Hyundai Capital 则发生规模较小的泄露。目前没有资金被盗的报告。一名知情官员称，生成式 AI 被用于识别漏洞并发起攻击。
- 动态Yonhap
韩国总统李在明要求加快调查疑涉AI工具的网络攻击
韩国总统李在明10月6日在国务会议上要求投入人力和资源，加快查明疑涉AI工具的一系列金融企业黑客攻击。警方当天启动调查，由28人团队以违反信息通信网法嫌疑展开侦查，攻击已导致Hana Bank、KB Kookmin Bank、Shinhan Bank等七家公司客户信息泄露。李在明称AI驱动的黑客手法正将损失范围扩大至前所未见的程度，须具备事前侦测与阻断的安全能力，并特别要求加速开发和应用面向网络安全定制的AI工具。
- 动态ChosunBiz
韩国警方成立专案组调查七家金融机构遭黑客入侵事件
韩国警察厅10月6日宣布，针对近期多家银行遭黑客入侵事件，在核实客观事实后转为正式调查，并以违反《信息通信网利用促进及信息保护法》立案，同时组建由网络恐怖应对课长领导的专案组，下设4个小组共28人。据金融当局通报，新韩、KB国民、韩亚、BNK釜山银行、艺家蓝储蓄银行、Welcome储蓄银行和现代资本共7家机构确认遭到入侵。攻击商业银行的IP与攻击储蓄银行和资本公司的IP不同，但手法相似，攻击者疑似轮换多个国家的IP反复渗透金融机构系统。警方还在攻击银行业的IP上发现使用ARTEX AI的痕迹，这是一款利用大语言模型（LLM）寻找漏洞并尝试入侵的开源自主安全评估工具，金融当局正在调查攻击者是否借助此类AI工具对多家金融公司发动大规模自动化攻击。警方正与相关机构合作，并就是否符合重大犯罪调查机构（SCIA）通报标准征求金融委员会的解释。