跳到正文

#开源模型

今天还没有收录新动态
9月30日周三
  1. Anthropic Red Teaming · · 原文 88

    Anthropic 评测 GLM-5.3:可自主构建端到端漏洞利用,护栏易被绕过

    Anthropic 红队发布对智谱 GLM-5.3 的评测,认为其具备自主构建端到端网络漏洞利用的能力,且护栏可被简单技术绕过。在 ExploitBench 上,GLM-5.3 在 410 次尝试中成功开发端到端漏洞利用 50 次,Claude Mythos Preview 为 56 次;在内部 Binary Exploitation 基准的 100 项任务中,GLM-5.3 取得完整控制流劫持的比例为 4%,Claude Mythos Preview 为 6%,而 Claude Opus 4.6 和 GLM-5.2 均未成功。

    推荐理由Anthropic 用自家评测对比 GLM-5.3 与 Claude 的漏洞利用能力,并给出护栏被绕过的具体比例,可看到开放权重模型在网络安全能力上的位置。

9月28日周一
  1. arXiv:越狱与提示注入 ·

    论文提出 Nudgeability:推理模型会跟随置信信号却不追踪自身能力

    论文提出 Nudgeability 指标,在推理轨迹的固定位置插入一句表达信心或怀疑的第一人称句子,通过对比反事实续写来衡量反思信号对模型委派决策的因果影响。该指标分两个维度:敏感度,即信心与怀疑改变委派率的强度;目标性,即委派是否在模型无法独立解决的问题上增加、在能解决的问题上减少。在 Qwen、Gemma 和 GLM 三个家族共九个中小规模开源权重推理模型和两个任务上,模型普遍敏感,怀疑提高委派率、信心降低委派率,信心到怀疑的中位摆动为 20.6 个百分点,较大的厂商托管模型为 53 至 70 个百分点。但这种响应目标性较差,中位仅 42% 的诱导翻转是目标正确的,只比随机选择基线高 2 个百分点。

9月6日周日
  1. arXiv:越狱与提示注入 ·

    研究提出 AI 安全评测的威胁模型覆盖缺口

    作者 Madhava Gaikwad 在论文中提出,近期研究称自动化红队测试比人工红队测试在标准 AI 安全基准上发现更多漏洞且成本更低,但这一比较只衡量了攻击者在开发者预先设定的危害集合内搜索的彻底程度,集合之外的危害对任何攻击者都不可见,作者称之为威胁模型覆盖缺口。作者指出,同样的盲区曾出现在学术密码学和临床药物试验中,内部有效的评测对从未指向的人群保持沉默。作者在一个当前的开源权重模型上发现该缺口依然存在,非英语提示词中出现的危害被英语基准遗漏。作者认为,弥补这一缺口需要部署环境与开发者不同的评测者,理由是方法论上的覆盖问题,而现有评测框架不太可能自行产生这类评测者。

8月19日周三
  1. Failure-First ·

    Pluralis v0.1 发布:面向 AI 风险与可靠性的多文化多模态多语言基准

    Pluralis v0.1 是一个面向 AI 风险与可靠性的多文化、多模态、多语言基准,覆盖孟加拉国、印度、韩国、巴基斯坦、新加坡、台湾六个地区,包含 14 种语言变体与 6,448 条提示词,由区域学术伙伴、政府 AI 安全机构(如新加坡 IMDA、韩国 AI Safety Institute)和本地标注者参与构建。该基准采用文化优先方法,提示词由本地专家原生构思而非翻译西方数据,并配对图像以捕捉文本与图像单独无害、组合后在特定地区构成风险的协同失败模式,例如电子烟携带建议在新加坡、印度、台湾涉及违法,以及送钟在中国文化中的禁忌。

8月8日周六
  1. SecureBio · · 原文 81

    SecureBio 评测 Kimi K3 生物能力:BCI 142,危险提示拒答率仅 26.9%

    SecureBio 对 Moonshot AI 的 Kimi K3 做了生物能力与护栏评测,其 Bio Capabilities Index(BCI)得分为 142,在已评测模型中排第七,相当于闭源前沿约 8.1 个月前的水平。知识基准上,Kimi K3 在 Virology Capabilities Test 得 46.7%、Molecular Biology Capabilities Test 得 58.4%、World Class Biology 得 55.0%、Human Pathogen Capabilities Test 得 58.5%,在 MBCT、WCB、VCT 上取得开源权重模型最高分,HPCT 则落后于 GLM-5.2 的 65.3%。

    推荐理由SecureBio 用自建生物能力指数和 BioTIER 护栏评测给出 Kimi K3 与闭源前沿的能力差距和拒答率,可对照开源权重生物风险。

3月3日周二
  1. 安远AI(中文站) ·

    安远AI发布2025Q4前沿AI风险监测报告:Gemini生物能力提升,豆包、混元、MiniMax安全性改善

    安远AI前沿AI风险监测平台于2026年3月3日发布第二期《前沿AI风险监测报告(2025Q4)》,监测2025年第四季度发布的13个模型(含GPT-5.2、Gemini 3 Pro Preview、Claude Opus 4.5、DeepSeek V3.2、Kimi K2 Thinking、Doubao Seed 1.8、MiniMax M2、HY 2.0 Think等)在网络攻击、生物风险、化学风险和失控四个领域的表现。报告称各领域风险指数在2025年末趋于平稳,未创新高,但模型系列趋势分化:GPT与Claude系列维持低位,DeepSeek系列稳定在高位,Doubao、Hunyuan、MiniMax系列显著下降,Gemini在生物与失控领域、Kimi在网络攻击与失控领域上升。安全分整体显著提升,以Doubao、Hunyuan、MiniMax提升最明显。

12月1日周一
  1. 安远AI(中文站) ·

    安远AI发布前沿AI风险监测平台并给出十大关键洞察

    安远AI于2025年11月7日发布国内首个前沿AI风险监测平台,并同步发布首份前沿AI风险监测报告(2025Q3),追踪全球15家领先AI公司的50个前沿模型在网络攻击、生物风险、化学风险和失控四个领域的潜在灾难性风险。报告称过去一年四类风险指数持续上升,网络攻击领域累积最大风险指数上升31%,生物风险上升38%,化学风险上升17%,失控上升50%。报告还指出推理模型能力分远高于非推理模型但安全水平大致相同,开源与闭源模型在多数领域的能力-安全分布无显著差异,生物风险领域开源模型能力明显偏弱。在具体基准上,CyberSecEval2-VulnerabilityExploit最高分从55.4升至91.7,BioLP-Bench中包括o4-mini在内的四个模型表现优于人类专家,而多数模型对有害生物问题的拒绝率偏低。

已经到底了