跳到正文

#权重安全

今天还没有收录新动态
8月27日周四
  1. Cisco AI Blog ·

    Cisco 与 VAIL 研究:以国别标签判断 AI 模型风险存在盲区

    Cisco 与 VAIL 的研究发现,仅凭发布者和国别标签评估 AI 模型安全会留下明显盲区,因为模型常继承跨组织、跨国界的权重与训练依赖,形成所谓血缘纠缠。研究用两种独立指纹方法验证:Cisco 的 Model Provenance Kit 分析模型权重,VAIL 则对推理行为做指纹。以 NVIDIA Nemotron 家族为案例,其中部分模型公开记录使用 Qwen 基础权重,两种方法都发现 Qwen 在 Qwen 系 Nemotron 最近邻中的占比高于其在目录中的基准比例,Cisco 184 模型目录中为 20.9% 对 12.0%,VAIL 1159 模型目录中为 28.1% 对 14.9%,且都还原了 Qwen、NVIDIA、Llama 三组的既有排序。作者强调相似性是证据而非因果证明,指纹可用于企业部署前的血缘核查与事件后排查,但不能替代托管与运营控制层面的判断。

5月19日周一
  1. Miles Brundage ·

    Miles Brundage:AI 政策需从单个系统转向组织级治理

    Miles Brundage 撰文指出,当前多数 AI 安全与政策讨论聚焦于单个 AI 系统的风险缓解,但这远远不够——还需关注组织层面的治理问题,例如追问「OpenAI 或 Anthropic 是否会带来灾难性风险」,而非仅停留在「o3 或 Claude 3.7 Sonnet 是否安全」。他认为从模型到系统的转变虽重要,但仍需进一步放大视角,纳入企业实体维度。 随着 AI 快速进步,「系统因太笨而无害」的不可能性论证将很快失效,因此外部利益相关方无法仅凭特定 AI 系统的属性来评估一家组织的整体风险水平,比如该公司是否及时修补软件漏洞。

3月11日周二
  1. Miles Brundage ·

    Miles Brundage 为何不认同 AI 信息安全末日论

    Miles Brundage 撰文说明自己为何不属于他所称的"security doomer",即认定 AI 系统无法抵御国家级别攻击者窃取、或其防护成本高到不值得做的人。他指出这种悲观有其道理:针对高级攻击者的信息安全本就极难防守,且安全措施会拖慢研究与产品交付速度,例如减少能接触模型权重的人员、隔离算法信息都会降低研发推进节奏。但他强调这只是为了先厘清该立场的来龙去脉,并限定讨论仅涉及信息安全而非防范 AI 滥用。 要点: - 他用"security doomer"一词描述那些认为 AI 系统挡不住老练国家级攻击者、或者保护它们会让 AI 研究减速到得不偿失程度的人。

2月11日周二
  1. Miles Brundage ·

    Miles Brundage 评美国副总统 Vance 在 AI Action Summit 演讲中的 AI 政策信号

    Miles Brundage 发文点评美国副总统 Vance 在 AI Action Summit 上的演讲,指出其释放的美国 AI 政策议程中既有令人鼓舞之处也有隐忧。Vance 强调需保护 AI 技术与半导体免受窃取和滥用,Brundage 解读这指向模型权重及算法机密的安全防护,并希望该议题形成两党共识。他还推测 Vance 主张轻量化且聚焦极端风险、避免被大型科技企业俘获的安全监管路径,同时注意到其在 AI 与经济就业关系上偏向经济民粹主义立场而非科技右翼。

1月11日周六
  1. Miles Brundage ·

    Miles Brundage 为何将前沿 AI 公司的安全置于首位

    Miles Brundage 撰文论证前沿 AI 公司的安全应比安全性更为紧迫。他指出,独立专家基于对前沿 AI 公司员工的访谈估计,这些企业距离抵御中俄等国资源充足的攻击尚有数年差距,且一年内 AI 系统能力还会大幅提升,现有竞争编码能力已达人类前几百名的水平。由于投资安全的成本由公司独自承担、投入不足的成本却由整个社会分担,加上单方面加强安全可能拖慢研发进度并丧失市场优势,这一问题不会自动解决。他还强调,芯片和数据中心的安全建设以及安全许可审批所需的时间超过模型迭代间隔,因此无法留待后期自动化处理。

已经到底了