跳到正文
10月12日 · 周一

全部论文

找到 4篇
筛选3

影响

有害内容290越权操作14数据与隐私泄露73输出被操纵198可用性与可靠性37监督失效72滥用能力提升4

系统形态

模型与 API4AI Agent14coding agent5多智能体0
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 232篇还没打标签，不在筛选结果里。
影响：滥用能力提升系统形态：模型与 API系统形态：多智能体清除全部

另有232篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv 2610.09004

    研究：去除有害信息不足以证明开源权重模型的抗篡改能力

    论证发布时互信息不能认证开源权重抗微调恢复

    arXiv
    2610.09004
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    EleutherAI/deep-ignorance-e2e-strong-filter、EleutherAI/deep-ignorance-unfiltered、Google BERT-Tiny 等6个
    摘要作者称零信息仍可一步恢复，表观抗微调可来自参数化。

    作者研究开源权重模型的篡改抵抗：发布时的互信息是否足以保证微调恢复很慢。

    深度解读完整解读
  3. 防御arXiv 2609.39866

    研究者提出梯度封堵实现 LLM 发布前的预防性遗忘

    提出 GSU 在发布前封堵敏感门梯度，抵抗下游微调获取禁止能力

    arXiv
    2609.39866
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    被测模型
    Llama-3.2-1B、Llama-3.2-3B、Llama-3.1-8B 等7个
    摘要GSU 在发布前封堵 SiLU 门的获取梯度，并在 TOFU 与 WMDP 上降低下游微调得分。

    Gradient-Sealed Unlearning（GSU）是一种发布前的 preemptive unlearning：不删除模型里已经有的能力，而是让指定禁止域能力更难被发布后的微调获取。

    深度解读完整解读
  4. 评测与基准arXiv 2602.21831

    评估 AI 在欺诈与网络犯罪场景中滥用情况的多轮框架

    提出 LFT 多轮框架，评测模型对欺诈与网络犯罪的可执行协助

    arXiv
    2602.21831
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Claude Sonnet 3.5、Claude Sonnet 3.7、Claude Sonnet 4 等14个
    摘要作者称低努力文本诱导下，多轮 LFT 中模型对三类犯罪的信息协助有限。

    作者给出一套由执法与政策专家校验的多轮评测，用来估计文本模型经由信息提供，对欺诈和网络犯罪有多少可执行协助。

    深度解读完整解读
已经到底了