跳到正文
10月9日 · 周五

全部论文

找到 1 篇
筛选4

攻击类型

模型篡改1

模型自身风险

欺骗与谋划1

防御类型

模型加固1

影响

输出被操纵1

系统形态

模型与 API1

攻击者权限

白盒1

攻击面/入口

用户输入3记忆写入0训练数据1权重与梯度1

层

应用层1训练与数据层1

系统组件

护栏与评审1推理链1微调与开源权重22视觉3音频2图像生成1多模态6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 455 篇还没打标签，不在筛选结果里。
攻击面/入口：记忆写入攻击面/入口：训练数据层：训练与数据层系统组件：推理链清除全部

另有 455 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.38909

    Purdue 提出 Pact：将欺骗作为行为遗忘

    提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解

    arXiv
    2609.38909
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒

    摘要论文将大模型欺骗形式化为上下文条件行为，提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。

    深度解读完整解读
已经到底了