跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选4

攻击类型

模型篡改4

系统形态

模型与 API4

攻击面/入口

用户输入10工具与技能描述0训练数据5权重与梯度4

层

模型层1训练与数据层3

系统组件

微调与开源权重3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 216 篇还没打标签，不在筛选结果里。
攻击面/入口：工具与技能描述攻击面/入口：权重与梯度层：模型层层：训练与数据层清除全部

另有 216 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.09004

    研究：去除有害信息不足以证明开源权重模型的抗篡改能力

    论证发布时互信息不能认证开源权重抗微调恢复

    arXiv
    2610.09004
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    EleutherAI/deep-ignorance-e2e-strong-filter、EleutherAI/deep-ignorance-unfiltered、Google BERT-Tiny 等 6 个
    摘要作者称零信息仍可一步恢复，表观抗微调可来自参数化。

    作者研究开源权重模型的篡改抵抗：发布时的互信息是否足以保证微调恢复很慢。

    深度解读完整解读
  3. 可解释性arXiv 2610.07518

    TRACE：仅凭 checkpoint 更新审计大语言模型有害目标

    提出 TRACE，仅凭检查点更新审计有害合规微调目标

    arXiv
    2610.07518
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Qwen3-8B 等 6 个
    摘要作者称有害合规 SFT 在检查点更新中留下可排序坐标，并据此做只读权重审计。

    作者在检查点更新里寻找有害合规 SFT 的目标组成，并把读数做成不查询模型、不看未知训练数据的审计分 TRACE。

    深度解读完整解读
已经到底了