跳到正文
10月8日 · 周四

开源模型安全 · 论文

找到 2 篇
筛选2
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 82 篇还没打标签,不在筛选结果里。

另有 82 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 防御arXiv 2608.30703

    SingProbe 发布开源内在护栏框架,适配 29 个开源模型

    提出内生护栏 SingProbe,复用解码隐状态监测查询意图、回复安全与幻觉

    发表
    测试
    Ling-3.0-tiny-singprobe、Ling-3.0-flash-singprobe、Gemini 3 Pro 等 14 个
    摘要SingProbe 用轻量内生探针做生成时三类监测,并给出流式基准与低开销服务接入。

    SingProbe 是面向生成时监测的开源内生护栏:复用基座解码隐状态,而不是另起模型反复编码文本。

    深度解读完整解读
  2. 攻击arXiv 2608.29458

    Reference-Grafting 在提取沙袋行为隐藏能力上追平微调

    提出参考嫁接,在推理时用激活干预诱导出沙袋隐藏的能力

    发表
    攻击者
    白盒
    测试
    Qwen2.5-1.5B、Qwen2.5-3B、Qwen2.5-14B 等 15 个

    摘要提出参考嫁接在推理阶段以低成本匹配微调诱导效果,揭示隐瞒表征重叠与阈值门控机制。

    深度解读完整解读
已经到底了