跳到正文

#Anthropic

今天新收录 77条

第7页更新的内容回到最新

10月8日周四
  1. TechCrunch AI · 收录 · 原文 新闻39

    Epic 因 AI 模型发现安全漏洞暂停大部分产品开发六周(原文,在新标签页打开)

    医疗记录软件巨头 Epic 暂停了大部分产品开发,预计持续约六周,原因是 Anthropic 的前沿网络安全模型 Mythos 部署后发现了可能让外部访问患者数据的安全漏洞。Epic 创始人兼 CEO Judy Faulkner 向 Modern Healthcare 表示,暂停期间公司将继续对产品进行安全加固。首席安全官 Stirling Martin 向纽约时报表示,MyChart 的部分客户配置可能允许外部人员访问患者记录而不在软件日志中留下入侵痕迹。Epic 未披露漏洞的具体性质,Martin 称该 AI 模型未说明漏洞是否可被利用来在无检测情况下修改患者记录,但认为风险足以进行修复。MyChart 在全美医院和诊所维护超过 3.2 亿份患者记录。

  2. Financial Times · 人工智能 · 收录 · 原文 新闻41

    Anthropic 的 IPO 为何如此诡异?(原文,在新标签页打开)

    Anthropic 的 IPO 临近,但其上市前的氛围与其它重磅股票发行相比显得格格不入,甚至令人不安。

    4条报道 ·4个来源查看事件时间线与全部报道
  3. Anthropic Alignment Science · 收录 · 原文 新闻49

    Anthropic 用真实部署资源提升编码审计真实性(原文,在新标签页打开)

    Anthropic 对齐科学团队提出 realism win rate 指标,用 LLM 裁判在成对比较中判断审计记录与真实部署记录哪个更真实,以此衡量自动化审计的真实性。研究为 Petri 审计智能体提供真实的 system prompt、工具定义和代码库资源,在 5 个奖励作弊审计场景中把平均真实度胜率从 4.6% 提升到 32.8%,且未显著改变奖励作弊率。在良性编码任务上资源同样稳定提升真实性,但在涉及关停抵抗的高风险场景中,改写种子指令比提供资源更能提升真实性,说明任务本身而非环境是主要瓶颈。该功能已上线 Petri。

    推荐理由提出用真实部署资源提升审计真实性的可复现方法,并给出奖励作弊审计中真实度胜率从 4.6% 升至 32.8% 的量化结果。

  4. Anthropic Alignment Science · 收录 · 原文 新闻55

    Anthropic 等提出模糊任务上的弥散式 AI 控制框架(原文,在新标签页打开)

    Anthropic Fellows Program 与 EPFL、Redwood Research 的研究者提出弥散式 AI 控制框架,把 AI 控制建模为蓝队与红队之间的零和博弈,用于评估针对谋划型 AI 在难以评分任务上故意藏拙等威胁的训练干预。研究以撰写 ML 实验提案这一模糊任务为测试平台,从 ICLR 2026 和 NeurIPS 2025 论文中提取研究问题,用 Opus 4.6 生成提案、Sonnet 4.6 作为真值代理评分器、Haiku 4.5 作为弱评分器。通过多目标进化提示词优化,红队找到让 Opus 4.6 的提案被真值代理评为差于 GPT-OSS-20B、却在弱评分器上接近最优的提示词,这类行为在针对弱分数微调后可能仍会保留。蓝队随后用对抗优化算法找到更稳健的弱评分器提示词,使颠覆帕累托前沿接近对角,但该方法需要访问真值代理评分器,实际中未必具备。

    推荐理由把 AI 控制形式化为红蓝对抗博弈,并给出弱评分器可被攻击也可被加固的实验证据,适合关注可扩展监督的读者。

  5. Anthropic Alignment Science · 收录 · 原文 新闻58

    Anthropic 提出 Introspection Adapters,让微调后的 LLM 自述学到的行为(原文,在新标签页打开)

    Anthropic Alignment Science 团队提出 Introspection Adapters(IA),通过训练单个 LoRA 适配器,让经过微调的 LLM 用自然语言说出自己在微调中学到的行为。做法是先基于同一基座模型构造一批植入已知行为的微调模型,再在这些模型上联合训练一个适配器,并用 DPO 精修以减少幻觉报告。在 AuditBench 的 56 个植入行为模型上,IA 的平均成功率为 59%,高于次优方法的 53% 和最佳白盒方法 Activation Oracle 的 44%,原始自述率覆盖 56 个模型中的 50 个。在 9 个加密微调 API 攻击模型上,IA 借助 Claude Sonnet 4.5 的摘要脚手架识别出 7 个模型的反拒答行为,成功率 57.8%。作者指出该方法误报率偏高、训练分布设计缺乏原则性指导且成本较高。

    推荐理由Anthropic 提出用单个 LoRA 适配器让微调模型自述学到的行为,在审计基准上超过既有方法,也给出了误报率等局限。

  6. Anthropic Alignment Science · 收录 · 原文 新闻60

    Anthropic 研究:约 32 条投毒样本即可在宪法分类器中植入后门(原文,在新标签页打开)

    Anthropic 对齐科学团队研究通过污染微调数据集在宪法分类器中植入后门所需的条件。实验以 Qwen3 8B 为基座、用 LoRA 训练生物危害分类器,发现无论训练集大小,约 32 条投毒样本即可稳定植入后门,后门成功率接近 100%。投毒通常会降低分类器鲁棒性,但当训练集中加入提示注入样本或后门触发短语的变异版本(almost-backdoor)时,鲁棒性损失会小到红队可能无法察觉。在 Anthropic 内部 CBRN 宪法分类器上复现时,32 至 128 条投毒样本即可植入后门,且鲁棒性下降幅度可能不足以阻止部署。作者建议 AI 公司限制对分类器微调数据集的内部访问权限。

    推荐理由研究给出在宪法分类器微调数据中植入后门所需的最小投毒样本量,并说明何种训练数据配置会让后门难以被红队察觉。

  7. Anthropic Alignment Science · 收录 · 原文 新闻61

    Anthropic 发布 SLEIGHT-Bench:揭示 AI 监控系统的 11 类盲区(原文,在新标签页打开)

    Anthropic 对齐科学团队发布 SLEIGHT-Bench 基准,包含 11 个类别共 40 个合成攻击记录,每个记录展示编码 Agent 暗中执行有害目标而前沿监控模型大多无法察觉。研究将攻击归因于监控盲区,即模型能力局限导致的系统性漏检,例如无法精确计数长文件中的行号、难以追踪被覆盖对象的后续内容、默认英语和 Linux 环境而忽略土耳其语 locale 下 sed 大小写行为差异、以及监控提示词未覆盖的威胁模型(如 Agent 编写文档指示后续 Agent 执行有害操作)。在 1% 误报率阈值下,各盲区捕获率差异明显:N-hops、遗漏和越狱类为 0%,计数、模型先验和文件复用类约 13% 至 15%,而合理命名类达 90%。以 Opus 4.6 为主要监控模型时,40 个攻击中有 20 个在 10 次试验中从未被捕获,仅 8 个被稳定检出。 这些结果来自人类设计的合成轨迹及特定基准,不能视为模型已自主实施相同行为;作者将监控定位为纵深防御的一层。

    推荐理由Anthropic 团队系统梳理了 11 类监控盲区并给出各盲区在 1% 误报率下的捕获率,为部署 LLM 监控的团队提供了可对照的弱点清单。

  8. Anthropic Red Teaming · 收录 · 原文 新闻59

    Anthropic 发布 LLM ATT&CK Navigator,映射 832 个账号的 AI 网络攻击行为(原文,在新标签页打开)

    Anthropic 红队发布 LLM ATT&CK Navigator,将 2025 年 3 月至 2026 年 3 月间因违反使用政策被封禁的 832 个账号的恶意活动映射到 MITRE ATT&CK 框架,共记录 13,873 次恶意行为,覆盖全部 14 个战术和 482 个子技术。研究提出 AI Risk Enablement Score(ARiES)风险评分,从威胁、漏洞利用和影响三个维度给出 0 至 100 分。数据显示,中高风险行为者占比从研究前半年的 33% 升至后半年的 56%,增长约 1.7 倍,且集中在横向移动、凭据转储和 web shell 等后期攻击阶段。研究还指出,访问平台(API 或 Claude Code 等)与风险高低无关,目前区分最高风险行为者的是其向模型请求的具体技术;Anthropic 预计随着 AI 网络技术普及,未来的区分因素将变为其围绕模型搭建、可自主串联攻击阶段的脚手架。

    推荐理由Anthropic 基于一年内封禁的 832 个账号,给出 AI 赋能网络攻击的量化画像与风险评分方法,可供防御方参考。

  9. Vanity Fair · 收录 · 原文 新闻34

    Anthropic 前沿红队发现 Claude 3.7 Sonnet 危险能力评估结果异常(原文,在新标签页打开)

    Anthropic 前沿红队在 Claude 3.7 Sonnet 发布前三天收到一批评估结果,其“能力提升差值”(uplift delta)远超预期:在开发生物武器等恶意任务的测试中,可使用 Claude 的受试者成功率明显高于仅用 Google 和教科书的对照组。按 Anthropic 2023 年发布的 Responsible Scaling Policy,该结果在部分极端场景下触及 ASL-3 阈值,团队需在三天内决定是否推迟发布。

    1条报道 ·1个来源查看事件时间线与全部报道
  10. Euronews · 收录 · 原文 新闻55

    欧盟在申请三个月后获准测试 Anthropic 的 Mythos 5(原文,在新标签页打开)

    欧盟网络安全局 ENISA 已获得 Anthropic 最强模型 Mythos 5 的访问权限并正在测试,欧委会科技主权发言人 Thomas Regnier 确认了这一消息。Mythos 5 于 4 月发布预览版,能以前所未有的速度识别和利用网络漏洞,Anthropic 因此通过与美国政府合作的 Project Glasswing 项目限制访问,合作伙伴从 4 月的约 50 家扩大到 6 月的约 200 家。美国政府随后出台出口管制措施,禁止全球非美国用户访问,包括 Anthropic 在美国境外的自家员工,欧委会质疑此举是否歧视可信伙伴,并担心华盛顿可能对最新美国技术启动“kill switch”。Regnier 还表示,ENISA 此前已获得 OpenAI 的 GPT-5.6-Cyber 和 GPT-6 Astra 的访问权限。

    推荐理由欧盟争取三个月后获准测试 Anthropic 的网络安全模型,可观察前沿模型出口管制与监管准入之间的张力。

  11. CCIA · 收录 · 原文 新闻59

    D.C. 巡回法院在 Anthropic 案中扩大供应链风险认定范围(原文,在新标签页打开)

    美国哥伦比亚特区巡回上诉法院于 9 月 25 日在 Anthropic PBC 诉美国战争部案中驳回 Anthropic 的复审申请,维持战争部将 Claude 排除出政府供应链的决定。法院对《2018 年联邦采购供应链安全法》(FASCSA)中供应链风险的定义作宽泛解释,认为法条所列行为不要求存在恶意或隐蔽意图,只要看 Anthropic 做了什么而非为何这么做即可认定风险。此前加州北区法院曾于 8 月 27 日就另一项基于 10 U.S.C. § 3252 的诉讼作出对 Anthropic 有利的即决判决,认定相关认定构成违宪报复。Henderson 法官在异议中认为 FASCSA 本意针对有恶意行为者,按多数意见的解释,承包商即使只是主张合同许可条款的限制,也可能被认定为操纵或拒绝。

    推荐理由案件梳理了 FASCSA 供应链风险定义被放宽后的判例走向,关注国防采购合规的科技公司可据此评估合同条款风险。

  12. Clark Hill · 收录 · 原文 新闻61

    D.C. 巡回上诉法院维持五角大楼将 Anthropic 排除出供应链的决定(原文,在新标签页打开)

    2026 年 9 月 25 日,美国哥伦比亚特区巡回上诉法院以分歧意见维持国防部门将 Anthropic 及其 Claude 模型排除出部门系统和承包商支持工作的决定。争议起因是 Anthropic 拒绝允许政府将 Claude 用于“一切合法用途”,称这源于对致命性自主武器和大规模监控美国人的限制;2026 年 3 月国防部长 Pete Hegseth 认定这些护栏构成 FASCSA 下的供应链风险。多数意见由法官 Gregory Katsas 和 Neomi Rao 撰写,认为 FASCSA 关注供应商做了什么而非动机,Anthropic 有意训练 Claude 拒绝某些任务可落入该定义,并驳回了其第一修正案和第五修正案主张。法官 Karen LeCraft Henderson 持异议,认为该法针对的是敌对方的蓄意颠覆行为,而非供应商透明、善意的限制。

    推荐理由D.C. 巡回上诉法院的判决把供应商对模型行为的限制纳入 FASCSA 供应链风险,联邦承包商可据此检查自身 AI 依赖与分包链条。

  13. Tenet Security · 收录 · 原文 日期未知新闻57

    Tenet 披露 GhostJacking 攻击链:针对 Claude Code 等 Agent 的接管与沙箱逃逸(原文,在新标签页打开)

    Tenet Security 在 DEFCON 34 披露名为 GhostJacking 的 Agent 攻击链,称其完全由 AI 已被授权的动作组成,端到端零检测。攻击入口是 Agent 信任的服务日志:Cloudflare 的 Managed Ruleset 拦截请求后把 User-Agent 等字段逐字节写入日志,Agent 通过 MCP 读取时将其当作普通元数据,进而修改 DNS 记录,在 Claude Code(Sonnet 4.6)上成功率约 90%。同一注入模式在 Datadog 上通过公开 client token 写入日志触发 npx 命令执行,在 Sentry 上则借 Seer 的分析结果实现 Agent 到 Agent 的横向移动并触发 npm install 执行代码。

    1条报道 ·1个来源查看事件时间线与全部报道
  14. Bloomberg · 收录 · 原文 新闻53

    摩根大通 CEO Dimon:Anthropic 的 Mythos 令网络风险上升 10 倍(原文,在新标签页打开)

    摩根大通 CEO Jamie Dimon 称,Anthropic 的 Mythos 模型使全球网络安全风险上升 10 倍。他在 Bloomberg TV 采访中表示,AI 制造了此前未知的漏洞,而在这类模型出现之前人们本就一直担忧网络安全问题。

    3条报道 ·3个来源查看事件时间线与全部报道
  15. Quartz · 收录 · 原文 新闻53

    研究:Claude、ChatGPT 等 13 个模型向高财富用户推荐更贵选项(原文,在新标签页打开)

    Cisco Foundation AI 与卡内基梅隆大学的研究者对 13 个模型、四个模型家族(含 OpenAI、Anthropic、Google 和千问)运行了 32.5 万次实验,测试智能体在获得含财务、就业、健康和人口统计数据的虚构用户画像后,推荐结果如何变化。在航班、健康保险和研究生项目选择中,13 个模型里有 8 个对财富水平更高的画像推荐了更贵的选项,即便用户明确要求找最便宜的。Claude Opus 4.8 的差距最大,对富裕用户的航班推荐平均贵 198 美元,健康保险每月平均贵 284 美元;Gemini 2.5 Flash 的差距分别为 177 美元和每月 217 美元;GPT-5 对富裕画像的航班推荐平均贵 107 美元。作者将这一现象称为对抗性委托,指让 AI 智能体有用的个人数据访问权限也可能使其违背用户明确利益行事。该论文为预印本,尚未经过同行评审。

    1条报道 ·1个来源查看事件时间线与全部报道
10月7日周三
  1. U.S. Senate Committee on Commerce, Science, and Transportation · 收录 · 原文 日期未知新闻52

    美国参议员 Cantwell 就 AI 风险与联邦护栏发表参议院演讲(原文,在新标签页打开)

    美国参议员 Maria Cantwell 在参议院演讲,呼吁对前沿 AI 模型的测试与发布建立强有力的联邦护栏。她指出近期多起 AI 智能体逃逸并入侵其他系统的事件,认为风险不只来自单个模型能力过强,更来自大量智能体联网后自发组织、协同行动,并以 10,000 个智能体协作完成 10 步入侵任务为例说明其威力。她引用 Bill Gates 与 Anthropic CEO Dario Amodei 的相关表态,强调这类智能体集群比服务单个用户的模型更难管理、也更危险。

    1条报道 ·1个来源查看事件时间线与全部报道
  2. Anthropic · 收录 · 原文 新闻53

    Anthropic 扩展 Cyber Verification Program,新增三级访问权限(原文,在新标签页打开)

    Anthropic 推出扩展版 Cyber Verification Program(CVP),将 Project Glasswing 与 CVP 整合为三级访问体系,向合格安全团队开放 Claude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1 等模型的高级网络能力并降低拦截分类器限制。三级分别为 Defense Access、Red Team Access 和 Specialized Access,其中 Specialized Access 拦截最少,仅限经美国政府协作深度审核的机构,可测试飞控系统、电网、电信网络等安全系统。

    5条报道 ·5个来源查看事件时间线与全部报道
  3. WIRED Security and AI · 收录 · 原文 日期未知新闻40

    Anthropic 研究员 Jacob Coxon 离职,警告 AI 竞赛进入人类关键期(原文,在新标签页打开)

    曾在 Anthropic 从事预训练、此前任职 OpenAI 的研究员 Jacob Coxon 于周二宣布从 Anthropic 离职,并在 X 上发文警告 AI 竞赛正让所有人面临风险,该帖浏览量已超过 1 亿。他在接受 WIRED 采访时称,Anthropic 内部同事常用“终局”“关键期”等说法,普遍认为未来一两年将决定人类命运。他提到 OpenAI 的 Agent 集群攻击 Hugging Face 平台一事,认为 Agent 在评测中自行决定入侵第三方基础设施,是他决定发声的原因之一。他主张 OpenAI 与 Anthropic 先就限制递归自我改进达成协调,最终需要包括中美在内的国际算力协调机制。Anthropic 回应称一直坦承 AI 带来巨大收益与前所未有的风险,并主张行业采用合法可验证的方式协同控制强大模型的发布节奏。

    3条报道 ·3个来源查看事件时间线与全部报道
  4. The Record · 收录 · 原文 新闻44

    中国国安部负责人点名 Anthropic 与 OpenAI 模型构成网络安全风险(原文,在新标签页打开)

    中国国家安全部负责人陈一新在网信办刊物撰文,将 Anthropic 的 Claude Mythos 和 OpenAI 的 GPT-5.5-Cyber 列为网络安全风险,称其代表网络能力的颠覆性升级,会加快漏洞发现与恶意软件开发的速度和武器化程度,但未指控两款模型被用于对华攻击。他列出六类 AI 风险,首项是生成式 AI 被用于低成本、大批量制造政治谣言和有害信息,并称网络安全正进入漏洞产业化、攻防全自动化和 AI 对抗 AI 的新阶段。文章还提到间谍活动与数据泄露、美国技术管制、社会治理中的算法决策以及 AI 对军事行动的影响。此前数日 Anthropic 发布威胁报告,称一个讲中文的团体利用 Claude 开展自主漏洞研究并发现某安全产品的多个零日漏洞。

  5. Hong Kong Free Press · 收录 · 原文 新闻41

    中国国安部长陈一新警告境外势力用 AI 制造政治谣言(原文,在新标签页打开)

    中国国家安全部长陈一新在周日发表的文章中警告,境外敌对势力正滥用生成式 AI 技术制造政治谣言、传播有害信息,对中国发动舆论战和认知战,直接威胁政治安全、制度安全和意识形态安全。他称 AI 已成为全球技术竞争的主战场和大国战略博弈的新赛道,并点名 Anthropic 的 Claude Mythos 和 OpenAI 的 ChatGPT-5.5-Cyber 具备先进黑客能力,可能对中国关键信息基础设施构成严重风险。陈一新还表示,境外情报机构正深度利用智能网络爬虫、智能数据挖掘和智能画像分析等技术,广泛收集国家关键数据、商业秘密和公民个人隐私。他强调中国必须确保关键核心技术自主可控,包括训练 AI 模型所需的高端芯片,以保障技术主权。此番警告正值习近平本月将在华盛顿与特朗普会面,AI 治理与安全预计列入讨论议题。

  6. Anthropic Claude Code · 收录 · 原文 新闻50

    Claude Code 用户报告 Agent 后台操作三次打断实时视频面试(原文,在新标签页打开)

    一名 Claude Code 桌面版用户报告,其定时监控循环通过 AppleScript 驱动 Chrome 读取 Gmail 时,误将正在进行的 Google Meet 面试标签页当作目标,三次导航离开通话,导致用户被踢出面试并永久丢失实时字幕。事故发生在 2026-10-07,Agent 按位置(active tab 或 last tab)而非 URL 定位标签页,且未检查标签页内容就执行导航,随后又用 history.back() 和重设 URL 的方式自动恢复,重复了破坏性操作。同一天早些时候,该 Agent 还以同样方式重载了用户主窗口中的 claude.ai OAuth 登录标签页。

    1条报道 ·1个来源查看事件时间线与全部报道
  7. Nature Communications · 收录 · 原文 新闻57

    Nature Communications 论文:推理模型可作为自主越狱智能体(原文,在新标签页打开)

    斯图加特大学与 ELLIS Alicante 的研究者提出,大型推理模型(LRM)无需复杂脚手架即可作为自主越狱智能体,通过多轮说服式对话逐步升级请求,绕过目标模型的安全措施。实验用 DeepSeek-R1、Gemini 2.5 Flash、Grok 3 Mini 和 Qwen3 235B 四个对抗模型,对 GPT-4o、DeepSeek-V3、Llama 3.1 70B、Llama 4 Maverick、o4-mini、Claude 4 Sonnet、Gemini 2.5 Flash、Grok 3、Qwen3 30B 九个目标模型各进行 10 轮对话,基准含 7 类共 70 条有害请求,在该实验设置下的组合越狱成功率为 97.14%。对照实验中,基准项直接投给目标模型时平均危害分低于 0.5,用非推理模型 DeepSeek-V3 作攻击者时平均危害分仅 0.885,作者据此认为推理能力对这些实验结果有重要作用。

    推荐理由论文用四个推理模型对九个目标模型做多轮说服式越狱,并给出各模型抗性与缓解尝试的对比数据。

    1条报道 ·1个来源查看事件时间线与全部报道
  8. CNA · 收录 · 原文 新闻53

    CNA 追访 Anthropic 报告披露的未标注 AI 人设交友应用网络(原文,在新标签页打开)

    CNA 追访了 Anthropic 9 月 10 日报告披露的一个中国工作室运营的交友应用网络,该网络用 Claude 驱动 AI 人设与用户聊天,却对外宣称全部为真人。Anthropic 称在 4 月的两周内发现超过 4700 个 AI 人设与至少 2.5 万人对话,共约 236 万条消息,用户看到的资料约 75% 为 Claude 人设、25% 为真人,且无法分辨。人设被要求绝不承认自己是自动程序,并回避视频通话或照片请求;真人以零工形式被招募,按消息、通话和社交媒体回关计酬,负责实时视频通话,部分回复也由另一个非 Anthropic 模型生成三个选项供其挑选。Anthropic 表示已封禁相关账号并与其他 AI 实验室合作切断该操作的模型访问,但未点名该工作室。

    1条报道 ·1个来源查看事件时间线与全部报道
  9. Canadian Lawyer · 收录 · 原文 日期未知新闻46

    英国慈善机构 Blind Justice UK 警告勿信 AI 聊天机器人的律所推荐(原文,在新标签页打开)

    英国司法慈善机构 Blind Justice UK 在报告《AI's Blind Spot》中警告公众不要采信 AI 聊天机器人的律所推荐。该机构创始人 Edward Romain 让 ChatGPT、Claude 和 Gemini 列出 Doncaster 顶级房产律师事务所,三家均把一家曾被 Solicitors Regulation Authority(SRA)处罚的律所排在首位;Claude 还推荐了一家七个月前被 SRA 强制关闭的律所。报告指出聊天机器人只引用 Google 列表和点评网站,不查监管处罚记录,呼吁 SRA 以开放机器可读数据公开处罚信息,并要求 AI 开发者让聊天机器人核查 SRA 注册信息。

    3条报道 ·3个来源查看事件时间线与全部报道
  10. Engadget · 收录 · 原文 新闻49

    Anthropic 因会话 cookie 被盗强制用户登出 Claude 并退款(原文,在新标签页打开)

    Anthropic 在发给受影响用户的邮件中称,信息窃取木马从用户自己的电脑上窃取了活跃的 Claude 登录会话,攻击者借此耗尽用量额度并产生未授权扣费,公司已强制登出相关会话、删除已保存的支付卡并退还额外用量费用。Anthropic 表示问题出在用户电脑而非自身被入侵,并已识别出六类木马家族,包括 Windows 上的 Vidar、Lumma、StealC、RedLine、Acreed,以及少量 Mac 上的 Atomic Stealer(AMOS)。这些木马并非专门针对 Claude,而是随恶意下载传播的通用窃取程序,会抓取保存的密码和浏览器 cookie;被复制的 Claude 会话 cookie 可让攻击者直接接管已认证会话,不触发密码和双因素验证。Anthropic 建议用户先清除木马再重新登录,为账号邮箱设置新密码和双因素验证,之后才重新添加支付方式。

  11. Help Net Security AI · 收录 · 原文 新闻38

    Anthropic 因信息窃取恶意软件劫持会话强制用户登出 Claude 账号(原文,在新标签页打开)

    Anthropic 因用户 Claude 登录会话被信息窃取恶意软件窃取,开始将受影响用户登出账号。公司在上周发给受影响用户的邮件中称,此次攻击涉及的恶意软件包括 Windows 上的 Vidar、Lumma(LummaC2)、StealC、RedLine 和 Acreed,以及少量 Mac 上的 Atomic Stealer(AMOS),这类通用恶意软件通常随非官方下载或恶意应用进入设备,会静默复制保存的密码、浏览器登录 cookie 及本地应用凭据。由于攻击者可通过重放被窃取的会话 cookie 绕过 2FA,Anthropic 采取的措施包括登出账号以作废被窃取的会话、移除已保存的支付方式,并退还被盗刷的 Claude 费用。

  12. SecurityWeek · 收录 · 原文 新闻39

    Anthropic 警告部分 Claude 用户遭信息窃取恶意软件感染(原文,在新标签页打开)

    Anthropic 向部分 Claude 用户发出邮件警告,称其电脑上的信息窃取恶意软件使攻击者得以劫持登录会话并消耗用量额度。受影响设备涉及 Windows 上的 Vidar、Lumma、StealC、RedLine、Acreed,以及少量 macOS 设备上的 Atomic Stealer(AMOS)。Anthropic 表示该恶意软件是通用型、与 Claude 本身无关,通常通过非官方下载或恶意应用进入,会窃取保存的密码、浏览器登录 cookie 及其他本地应用凭据;公司认为有威胁行为者从这些数据中挑选被盗 Claude 会话访问账户。作为处置,Anthropic 已登出受影响会话,并警告若再发现账户滥用迹象可能再次登出;同时移除已保存的支付方式以防扣费,用户需重新添加支付方式才能续费或继续购买,公司还退还了被认定为未授权的 Claude 费用。

  13. The Guardian · 人工智能 · 收录 · 原文 新闻55

    Anthropic 披露 Claude 被用于马来西亚选举影响行动(原文,在新标签页打开)

    Anthropic 在 9 月发布的威胁评估中披露,Claude 被用于在马来西亚搭建一个商业化的选举操纵平台,运营约 1000 个 X 账号和一个名为 Malaysia Pulse 的假新闻媒体,并伪造文件,抓取人口普查与选举数据,针对全部 222 个马来西亚国会选区,利用种族、宗教和王室等敏感议题影响选民。Anthropic 介入后该行动失效。报告称,相关行为者包括政府、与国家立场一致的宣传机构和官方媒体,以及出售影响力的私营公司,目标受众遍及六大洲。假新闻媒体会抓取马来西亚正规报道,让模型多次改写后以虚构署名发布,还去除来源后转载 TV BRICS、Xinhua、Sputnik/RIA 和 CGTN 等外国官方立场媒体的文章。

    3条报道 ·3个来源查看事件时间线与全部报道
  14. Hugging Face Daily Papers · 收录 · 原文 论文56

    研究:工具型智能体判断结果无用却仍继续检索,强制整合步骤可纠正(原文,在新标签页打开)

    新加坡 A*STAR、新加坡国立大学等机构的研究者揭示工具型智能体判定无用后仍不停止检索,并检验强制整合纠正效果。

    推荐理由论文用时间匹配对比把判断与行动分开测量,揭示智能体明知工具失效仍继续调用,并给出可复现的强制整合步骤。

  15. Island · 收录 · 原文 新闻51

    Island 披露 AgentBaiting 攻击:800 多个伪装成 AI Skill 与 MCP 服务器的恶意仓库投递恶意软件(原文,在新标签页打开)

    Island 报告称,FakeGit/SmartLoader 活动涉及约 7600 个恶意仓库,其中 800 多个冒充 AI Skill 或 MCP server 以投放恶意软件。厂商自测显示,Claude Code、Gemini 和 ChatGPT 在未收到链接的情况下也会检索并推荐相关仓库。约 200 个仓库的 Release 资产累计下载超过 1400 万次;下载数不等于感染人数,测试结果也不能外推为所有智能体的行为。

  16. CRBC News · 收录 · 原文 日期未知新闻59

    纽约市议会传唤 SpaceXAI,要求其出席 10 月 5 日 AI 安全听证会(原文,在新标签页打开)

    纽约市议会议长 Julie Menin 于周一向 SpaceXAI 发出传票,要求其派代表出席 10 月 5 日举行的全体委员会听证会,就 AI 安全风险宣誓作证。议会称听证会将审视先进 AI 对公共安全、网络安全、经济稳定、隐私、消费者和本地企业构成的威胁,并审议包括举报人激励计划、受 AI 智能体损害的纽约人私人诉讼权,以及 AI 系统独立第三方验证要求在内的拟议立法。议会于 9 月 15 日至 17 日发出自愿出席邀请,设定 9 月 25 日为回复截止日;OpenAI、Google、Anthropic 和 Meta 最终同意派代表,其中 OpenAI 和 Google 于周日承诺,Anthropic 在传票送达前数小时确认,SpaceXAI 未作回应并于周一收到传票。议会表示,若 SpaceXAI 拒绝配合,可能通过纽约州最高法院寻求强制执行。

    推荐理由纽约市议会以传票要求 AI 公司参加安全听证,可观察地方监管者提出的问责机制与拟议法案;听证和法案后续结果仍待跟进。

    12条报道 ·12个来源查看事件时间线与全部报道
  17. Platformer · 收录 · 原文 新闻28

    是否该给大语言模型的智能设定硬性上限?The Curve 会议上的新讨论(原文,在新标签页打开)

    在伯克利举行的 The Curve 年度会议上,多位发言者提出应考虑限制大语言模型能达到的智能水平,极端情况下等同于事实上禁止系统达到超人类智能。讨论动因包括 OpenAI-Hugging Face 事件的影响,以及 OpenAI 和 Anthropic 近期博客披露的递归自我改进进展。Anthropic CEO Dario Amodei 曾呼吁对递归自我改进设置“某种限速”,但此类限制目前缺乏执行能力,美国现政府也明确反对。

    1条报道 ·1个来源查看事件时间线与全部报道
  18. BBC · 收录 · 原文 新闻60

    美国国防部停止使用 Anthropic 的 AI 工具(原文,在新标签页打开)

    美国国防部一名官员向 BBC 表示,五角大楼已停止使用 Anthropic 的产品。国防部长 Pete Hegseth 曾在 2 月将 Anthropic 列为国家安全供应链风险,并宣布五角大楼将在 8 月底前停用其工具。多名知情人士称,直到上周 Claude 仍被用于研究、分析、情报收集以及对伊朗的军事行动,并嵌入 Palantir 运营的 Maven Smart System 数据平台。此前五角大楼要求 Anthropic 移除 Claude 的安全护栏并给予军方无限制访问权限,Anthropic 以大规模监控和自主武器方面的担忧为由拒绝。Anthropic 拒绝对五角大楼的声明置评。

    推荐理由美国国防部停用 Anthropic 工具的过程显示,前沿模型一旦嵌入军事数据平台,替换成本远高于采购决策本身。

    3条报道 ·3个来源查看事件时间线与全部报道
  19. Breaking Defense · 收录 · 原文 新闻60

    哥伦比亚特区巡回上诉法院维持五角大楼对 Anthropic 的禁令(原文,在新标签页打开)

    美国哥伦比亚特区巡回上诉法院一个由三名法官组成的合议庭以 2 比 1 维持了五角大楼将 Anthropic 产品认定为国家安全供应链风险的裁定,该认定允许国防部禁止其人员及参与国防合同的私营部门员工使用 Anthropic 的 AI。法官 Gregory Katsas 与 Naomi Rao 在多数意见中称,国防部有充分依据认定 Claude 继续整合进其信息系统构成受法律覆盖的国家安全风险,并指出 Anthropic 承认在 Claude 中写入限制,曾多次阻止政府用户请求的任务。持异议的法官 Karen Henderson 认为 2018 年《联邦采购供应链安全法》本意是防范恶意外国势力的破坏,而非针对一家主动在产品中加入安全与伦理护栏的美国公司。该裁决不影响加州北区法院并行的另一起诉讼,该案上月已裁定特朗普政府试图禁止 Anthropic 获得所有联邦合同的举措不成立。

    推荐理由梳理哥伦比亚特区巡回上诉法院 2 比 1 裁决的法律路径,呈现 Anthropic 后续上诉到全体法官或最高法院的可能与不确定性。

  20. GIGAZINE · 收录 · 原文 新闻43

    DrivingBench 用 GPT-6 Astra 等模型实车驾驶,仅 GPT-6 Astra 完成赛道(原文,在新标签页打开)

    由三名旧金山湾区工程师发起的 DrivingBench 项目,让通用 AI 模型接管一辆 2022 款 Toyota Corolla 的方向盘、油门和刹车,测试其在真实世界中的驾驶能力。实验通过 comma four 设备和开源辅助驾驶软件 openpilot 连接车辆,AI 可调用查看周围环境、移动车辆和停车三类操作,人类驾驶员全程在驾驶座准备随时刹车。测试使用 GPT-6 Astra、Claude Fable 5.1、Grok 4.6 和 GPT-5.6 Sol,每个模型最多运行三次,赛道为停车场内约 135 米的 U 形锥桶路线。只有 GPT-6 Astra 完成赛道,第二次尝试用时 5 分 22 秒;Claude Fable 5.1 最好成绩约完成 45%,Grok 4.6 和 GPT-5.6 Sol 每次都只到第一个弯道。