跳到正文
事件观察中

研究者称量化部署下伪装LoRA适配器可劫持LLM决策

1篇报道1个报道来源最近报道

先了解这件事

AI 综述

悉尼科技大学与澳门城市大学研究者提出QHijack-LoRA攻击:第三方LoRA适配器全精度审计下正常,基座量化后才激活、无需输入触发器,劫持LLM结构化决策。在Llama等三个模型族、五种量化方法上,全精度下攻击成功率不超过7.33%,量化后升至47.67%–100%。另提出跨精度配对审计防御。

AI 根据报道生成 · 2 天前更新

走势与进展

每小时关注度

现在 41,24 小时 -1%·峰值 43(11月13日 18:00)

11月14日11月15日现在 41

相关研究

这件事的论文

后续时间线

11月11日
  1. arXiv精选
    在真实世界量化部署中劫持可信 LLM 只需一个伪装的适配器

    悉尼科技大学与澳门城市大学的研究者提出后门攻击 QHijack-LoRA,仅通过一个第三方 LoRA 适配器即可在量化部署中劫持可信 LLM 的结构化决策。适配器在全精度审计下表现正常,基座模型被量化后才激活,例如把不安全内容判为安全、篡改金融情感标签或替换被调用的函数。攻击以基座量化产生的自然残差为激活条件,无需输入触发器,也不需修改基座或知道受害方的量化配置。在 Llama、Mistral、Qwen 三个模型族和 NF4、FP4、RTN、AWQ、GPTQ 五种量化方法上,全精度攻击成功率不超过 7.33%,量化后升至 47.67%–100%,并能迁移到未见配置和独立量化工具包。论文同时提出跨精度配对审计作为防御,在部署配置下对比同一适配器在两种精度下的决策,15 组实例-方法组合中 14 组检出率达 100%。

相关讨论

本站还没有收集到这件事的讨论链接。

关注度走势

每天新增来源

3天共1个·最多1(11月13日)·今天0

  • 11月13日新增1个来源(1家媒体、0个账号)
  • 11月14日新增0个来源(0家媒体、0个账号)
  • 11月15日新增0个来源(0家媒体、0个账号)

每小时关注度

当前关注度41·可比范围峰值43(11月13日 18:00)·近 24 小时可比范围变化 -1%

020406011月13日18:0011月14日10:0011月15日02:0011月15日18:00