Skip to content

Translation in progress Some entries still include text in the original language.

阿里巴巴 · Qwen · News

Oct 12 · Monday

阿里巴巴 · Qwen · News

Latest publications and developments
Oct 6Tue
  1. Hirundo, Diya TVHirundo · 2 sources · 2 reports · 40

    Hirundo 测试并调整 Qwen 政治对齐倾向

    以色列 AI 安全公司 Hirundo 报告称,在针对天安门、香港、新疆、台湾、西藏等话题的测试中,某款阿里 Qwen 模型频繁拒答敏感政治问题或给出与中国政府立场一致的答案,按其评分标准近九成回答表现出审查、政治偏见或宣传倾向;该基准还测试了模型在翻译、教案和研究请求中如何处理这些话题。Hirundo 同时发布了修改内部参数后的 Qwen 模型,称已将上述行为降至很小比例,但通用能力测试出现小幅下降,并计划公开该基准数据集。Hirundo 另称,通过行为遗忘直接编辑权重,把 Qwen3.6-35B-A3B 在 CCPC-500 上的审查、宣传框架或偏见比例从 89.8% 降到 2.8%,DECCP 拒答率从 65.26% 降到 3.16%,ChinaBench 不合规率从 96.67% 降到 6.67%。

Aug 29Sat
  1. Unit 42 · 50

    Unit 42 提出扰动探测方法,定位 LLM 安全拒答的少量神经元

    Unit 42 提出扰动探测方法,每个提示词只需两次前向传播,即可定位对齐 LLM 中因果上负责特定行为(如拒绝有害请求)的少量前馈神经元。在开源模型 Qwen3-4B 上,350,208 个前馈神经元中仅 50 个(约 0.014%)控制安全拒答模板,移除后 520 条标准有害提示基准中 80% 的回复格式发生变化,并在第二个标准基准的 200 条提示上复现。在更小的 Qwen3.5-2B 上,仅 20 个神经元即可让多轮对话中的错误附和行为从 36.7% 降至 0%(30 个问题)。同一计算还给出 FFN/Skip 比值,可在数秒内算出,在测试的 13 个模型中解释了安全行为脆弱性 81% 的方差,可作为量化的安全脆弱性评分。

You have reached the end