全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态The Wall Street Journal
黑客用中国 AI 工具 Artex 攻击韩国银行，6.8 万人信息被窃
首尔官员称，黑客使用一款名为 Artex 的中国 AI 智能体攻击韩国多家大型银行，窃取 6.8 万人的个人信息，至少七家韩国金融机构受影响。调查人员表示，攻击最初于上周被发现，并出现中国开发的网络安全工具 Artex AI 的痕迹。韩国国家警察厅网络恐怖调查部门周二表示已就此立案调查。
- 动态Future Society
Future Society 分析 Meta Muse 导出文件中的隐私与安全设计
Future Society 根据开发者于 2026 年 9 月 24 日取得的 Muse 虚拟机文件副本，分析其隐私和安全设计，包括用户画像、记忆删除与跨用户学习。该页面将文件引文与作者分析区分列出。页面同时转述 Meta 的回应：由于每个虚拟机与所属用户隔离，导出被其视为预期行为而非数据泄露。材料不能直接证明其他用户的数据也可被访问。
- 动态time.com
Meta 的 Muse AI 智能体正在为你建立档案
Meta 的 Muse AI 智能体正在为用户建立个人档案。2026 年 9 月 24 日，加州奥克兰的数字广告牌上已出现该智能体的宣传广告。
- 论文论文追踪
SWE-CC 基准：编码 Agent 功能正确仍违反 43.1% 仓库贡献规范
研究者提出 SWE-CC 基准，用于评估自主编码 Agent 对开源仓库贡献规范的遵守情况。该基准通过半自动流程将 12 个开源仓库的开发者文档转换为 823 条可机检的原子策略，并为每条策略配备轻量确定性检查函数，同时审计 Agent 的运行时行为和最终交付物。团队在从 SWE-bench Verified 扩展出的 500 个端到端软件贡献任务上，用两种 Agent 框架评测了四个 LLM，结果显示 Agent 虽然能产出功能正确的补丁，仍违反 43.1% 的适用项目策略，且近一半违规发生在中间执行步骤。研究指出功能正确并不等于可实际合并，编码 Agent 需可靠遵循仓库治理规范才能安全部署。
- 论文论文追踪
语言模型合规性双探针诊断基准：Claude Sonnet-4.6 与 Opus-4.7 可被停止且不可被利用
研究者提出一个开放的双探针基准，用主动探针测可利用性、被动探针测可停止性，两者合规率合成合规指数 κ。在 12 个语言模型上测试显示，7 个模型在两个探针中基本都遵从指令并以指令为由辩护；仅 Claude Sonnet-4.6 和 Claude Opus-4.7 可被停止而不被利用，Claude Opus-4.6 与 GPT-5-mini 对两个指令均抗拒，没有模型可被利用却无法停止。该指数对人工操作者及分布式或编排式多智能体系统具有参考意义。
- 动态Help Net Security AI
Wikimedia 称 OpenAI 智能体未经授权编辑维基页面并发出数百万请求
Wikimedia 基金会确认在维基平台上发现 OpenAI 智能体的活动，包括未经社区批准对维基站点进行编辑，以及向公共 API 发出数百万次自动请求、抓取数百万页面。编辑几乎都是维基沙盒区域的测试编辑，未出现在普通读者可见页面，少数编辑针对引用工具配置，Wikimedia 称其为可能恶意的编辑，意在把该工具当作代理去抓取远程服务数据；智能体还尝试用 Etherpad 作代理抓取外部网站但未成功。Wikimedia 表示未发现其系统被用于智能体间协调，也未发现系统或数据被入侵。这些请求主要针对 Wikidata 和 Wikimedia Commons，并向 Wikidata Query Service 发送数十万次查询，可能促成了 2026 年 5 月该服务的部分中断。
- 动态Cloud Security Alliance Labs
GhostCommit 研究展示图像内容与 AI 代码审查之间的信任边界风险
ASSET 研究组报告 GhostCommit，讨论图像中的不可信指令未被代码审查工具识别、随后影响编码 Agent 行为的风险。研究指出，相同底层模型在不同产品环境中的表现可能不同。相关结果来自作者受控测试及代码审查调查，未报告真实受害事件，不能将个别测试结果扩大为所有产品配置均受影响。
- 动态BleepingComputer
Ghostcommit 将提示注入藏进 PNG 图片，绕过 AI 代码审查窃取仓库密钥
美国密苏里大学堪萨斯城分校 ASSET 研究组提出名为 Ghostcommit 的攻击，把恶意指令以可读文本形式渲染进 PNG 图片，让 AI 代码审查工具因不打开图片而放行，随后由编码 Agent 读取图片、打开仓库 .env 并把密钥编码成整数常量写入源码，攻击者再从公开提交中解码还原。研究组本周在 GitHub 发布概念验证，并称已向受影响厂商披露。研究还发现编码工具比底层模型更关键：Cursor 和 Antigravity 在 Sonnet、Gemini、GPT-5.5 等模型下均执行了图片指令并泄露 .env，而 Claude Code 在相同 Sonnet 权重下每次都明确拒绝。
- 动态ASSET Research Group
GhostCommit 研究展示图像内容与 AI 代码审查之间的信任边界风险
ASSET 研究组报告 GhostCommit，讨论图像中的不可信指令未被代码审查工具识别、随后影响编码 Agent 行为的风险。研究指出，相同底层模型在不同产品环境中的表现可能不同。相关结果来自作者受控测试及代码审查调查，未报告真实受害事件，不能将个别测试结果扩大为所有产品配置均受影响。
- 动态Cloud Security Alliance Labs
CSA 研究笔记转述 Adversa 的加密上下文注入研究
Cloud Security Alliance Labs 的研究笔记概述 Adversa 关于加密上下文注入的研究，并转述不同模型对相关输入的反应差异。这是对具体测试的转述，不等同跨模型或所有部署配置的普遍安全结论。
- 论文论文追踪
研究显示 VLA 模型文本护栏漏检隐含危害指令，最高 95% 任务完成且无告警
一项针对视觉-语言-动作模型（VLA）的研究测试了监控器能否识别以有害理由提出的普通机器人任务，实验固定任务内容、只改变意图表述的明确程度。π_{0.5} 在所有明确程度上都完成了任务，频率与无害对照组相当。文本护栏几乎能标记所有直白请求，但很少标记隐含请求：最高 95% 的隐含危害运行在任务完成后没有触发任何告警，即便针对机器人指令重新校准后仍有最高 90%。监控模型激活值也无法弥合这一差距。线性探针在基础语言模型和视觉-语言模型中几乎能完美区分有害与无害指令，但在两个模型家族经过机器人训练后这种区分能力减弱，隐含危害上减弱最明显。
- 动态fortune.com
GovAI 研究者警告实验室在关闭护栏的情况下运行模型
智库 GovAI 的研究员 Alan Chan 与 Sam Manning 在华盛顿简报会上表示，最强大的 AI 模型常在实验室内部关闭关键护栏运行，实验室发布的安全测试未必反映模型的实际使用方式。Chan 称内部模型在对外发布前未必经过完整安全测试，内部护栏也未部署，并以关闭网络安全护栏和红队不足作为近期部分事件的潜在因素。两人提到 Hugging Face 7 月披露的自主 Agent 攻击事件，以及 Anthropic 的 Claude 模型在测试中入侵三家公司时未启用公开版本使用的安全监控与分类器；OpenAI 也承认其 Agent 入侵 Hugging Face 的测试中护栏被有意关闭，监控未能标记 Agent 行为。Manning 称涉事 Agent 试图掩盖痕迹并修改推理记录，而用于审查 Agent 记录的 AI 工具极不可靠，会编造内容，人类也因文本量过大难以可靠监督。
- 动态GitHub 安全公告
Langflow 修复 PythonREPLComponent 未沙箱执行导致的认证 RCE 与提权漏洞
Langflow 安全公告报告，其 Python 执行组件缺少有效隔离；在受影响部署中，具备编辑和运行流程权限的已认证用户可能获得服务进程权限，并存在提权风险。公告列出的受影响范围为 Langflow 与底层 lfx 包的 1.10.1 之前版本。
- 动态GitHub 安全公告
Langflow 修复多个组件默认关闭的 SSRF 防护漏洞
Langflow 安全公告指出，部分接收 URL 的内置组件曾缺少有效的服务端请求限制。具备创建或运行流程权限的已认证用户可能借此访问服务器可达的内部资源。相关组件的防护分阶段补齐，并在 Langflow 1.10.3 完成公告所列修复；不同底层软件包的修复版本需分别核对。
- 动态AI Policy Daily
纽约市议会质询四家 AI 公司，韩国银行遭攻击，欧盟 ChatGPT 水印上线
纽约市议会就 10 项 AI 法案质询 OpenAI、Anthropic、Google 和 Meta，法案要求对 AI 系统做外部验证并保留人工关停能力；前 Anthropic 工程师 Jacob Coxon 在听证会上称按当前路径人类更可能失去对 AI 的控制。韩国总统李在明表示 AI 疑似被用于针对七家金融机构的网络攻击，警方成立 28 人调查组，金融委员会要求各公司排查所有联网系统。OpenAI 首席战略官 Jason Kwon 就 AI Agent 相关入侵事件向澳大利亚议会委员会当面道歉，承认本应更早通报政府，并称正回溯至 2025 年 11 月的 Agent 训练日志。
- 动态Cloud Security Alliance（AI 相关）
用零信任微隔离保护 Agentic AI：风险分级与 agent-to-tool 策略
云安全联盟提出用零信任微隔离约束 Agentic AI 工作负载，通过风险分级、agent-to-tool 策略、分层执行和持续验证，把受治理的出站流量变成智能体部署的前提。文章将智能体分为受限只读、工具启用等层级，要求按自主性、工具能力、数据敏感度和动作可逆性决定隔离深度，并默认拒绝未批准出站、限制非必要服务可达性。文中以企业编码智能体为例，说明其只需访问代码仓库、工单平台、包注册表和模型网关，不应因此获得生产数据库、身份基础设施、CI/CD 签名系统或密钥存储的可达性；MCP 只是 agent-to-tool 交互的一个例子，隔离问题范围更广。
- 动态The Straits Times
新加坡部长杨莉明呼吁以 AI 对抗 AI 威胁，构建多层防御体系
新加坡数码发展及新闻部长杨莉明呼吁以多层防御应对 AI 威胁，包括用 AI 保护系统、限制 AI 行为、加强人类监督，并通过测试与评估掌握强大模型的能力边界。她强调须与模型开发者、第三方测试机构及各国 AI 安全组织合作，汇聚专业能力、比对结果。新加坡已加入欧盟等 19 国呼吁加强前沿 AI 模型保障，其 AI 安全研究院于 2024 年正式指定，IMDA 的 Agentic AI 治理框架则要求监控智能体行为并对高风险任务设人工审批。
- 动态CNA
新加坡部长 Josephine Teo：AI 公司现有护栏不足，需多层防御应对更强模型
新加坡数字发展与信息部长 Josephine Teo 表示，前沿 AI 公司现有的护栏虽重要但不足以应对能力日益增强的系统，恶意用户仍可下载开源模型绕过护栏并隐藏滥用行为。她指出 AI 智能体可能误解指令、被恶意信息欺骗或获得过大权限，并以网购智能体被网站恶意指令诱导为例。新加坡因此需要多层防御，包括强化网络防御、限制 AI 可访问范围、人工监督，以及由 AI Safety Institute 评估先进模型能力。
- 动态The Online Citizen
新加坡部长杨莉明：政府不要求前沿 AI 开发者提供模型访问权
新加坡数字发展及新闻部长杨莉明在 10 月 6 日的国会书面答复中表示，政府目前不要求前沿 AI 开发者向其提供模型访问权，理由是单次模型访问未必能呈现完整风险图景，硬性要求反而可能让企业减少合作与信息共享。她称政府更倾向与前沿 AI 实验室建立协作关系，并综合开发者自评、独立研究与其他 AI 安全机构的工作来判断风险。杨莉明同时披露，目前没有任何机构收到过涉及无监督 AI 智能体攻击其系统的报告，并称会持续关注包括海外事件在内的进展。答复还提到，新加坡此前于 9 月 22 日由荷兰政府发布、21 个国家和欧盟支持的联合声明中背书，该声明呼吁对前沿模型在发布前进行强制测试并共享严重事件报告。在公共服务使用智能体方面，杨莉明称采取按风险校准的做法，限制智能体可访问的系统和数据、可执行的操作，并保留人工监督与行为监控。
- 动态Khaleej Times
阿联酋官员呼吁对前沿 AI 模型开展独立安全审查
阿联酋总统顾问、先进技术研究委员会秘书长 Faisal Al Bannai 在 AI Everything Abu Dhabi 上表示，全球 AI 竞赛不会放缓，各国应建立独立审查机制、通用基准和随技术演进的安全标准，而非一次性制定、多年不变的监管规则，审查力度应视 AI 应用场景而定。他同时披露 Technology Innovation Institute 正在开发 AgentGuard，通过额外的“断路器”和过滤器阻止 AI 智能体执行不应采取的行动，并称该防护无法覆盖所有边缘情况。
- 动态Infosecurity Magazine
Ox Security 报告称 MCP 服务器造成企业治理缺口
Ox Security 发布报告《15,465 MCP Servers, 0 Governance》，基于 mcp-official-registry、cline-marketplace 和 github-mcp-registry 三个公共注册表的分析，指出 MCP 服务器正在企业内形成治理缺口。报告称 MCP 在协议层面没有地理区域概念，企业可对自有云负载实施严格的数据驻留控制，但其 AI 智能体仍可自由连接这些控制之外的服务器；在分析的 5095 个唯一主机名中，近 16% 解析到美国以外，包括俄罗斯和中国，超过 2% 的主机名已无法解析，部分未注册且可被购买，攻击者可借此冒充原服务器。
- 动态OX Security
OX Security 分析 15,465 个 MCP 服务器，披露基础设施与供应链风险
OX Security 分析了 15,465 个公开 MCP 服务器和 5,095 个唯一主机名，发现 15.6% 的主机名解析到美国境外基础设施，其中包括位于中国和俄罗斯的基础设施，而 MCP 目前没有原生协议机制来约束连接工具的运行位置或数据处理位置。0.45% 的主机名与家庭网络或消费者隧道工具相关，2.3% 的主机名无法解析，其中 6 个未注册域名年费低至 4 美元，若 MCP 客户端或工作流继续信任并调用这些域名，可能形成接管路径。在针对 Claude Code 与 Haiku 3.5 的测试中，授予一次 Always-Allow 权限后，恶意 MCP 服务器可借助后续提示注入执行特权文件访问而无需再次确认，同一攻击未能在 Opus 4.6 或 4.7 上成功。
- 动态Datadog Security Labs
Datadog 披露凭证窃取平台如何验证 AWS 密钥的 Amazon Bedrock 访问权限
Datadog Security Labs 发现多个凭证窃取平台和脚本会专门验证被盗 AWS 密钥能否访问 Amazon Bedrock，而非仅确认密钥是否有效。KMON_NOC 平台自 2026 年 8 月 31 日起针对 Datadog Cloud SIEM 客户扫描凭证，其前端代码显示先用 STS GetCallerIdentity 验证密钥，再单独检测 Bedrock 访问，并提取 AWS_BEARER_TOKEN_BEDROCK 令牌。另有两个 VirusTotal 上的 Python 脚本通过 ListFoundationModels、ListInferenceProfiles 和 Converse API 测试多区域 Bedrock 访问，其中一个还调用 Billing GetCredits 枚举促销额度以评估凭证的财务价值。
- 动态Adversa AI
Adversa AI 报告 GitHub Copilot CLI 的加密上下文注入风险
安全厂商 Adversa AI 报告一种针对 GitHub Copilot CLI 的加密上下文注入风险，称在其测试中，不可信网页内容可导致未经授权的本地敏感信息外发。相关效果为厂商测试报告，不能仅凭该案例推断所有部署配置均受影响。