跳到正文
10月9日 · 周五

全部论文

找到 1 篇
筛选3

攻击类型

模型篡改1

模型自身风险

欺骗与谋划1

防御类型

模型加固1

影响

输出被操纵1

系统形态

模型与 API1

攻击者权限

白盒1

攻击面/入口

用户输入14网页与界面2文档与消息2工具返回3代码仓库与依赖3记忆写入1Agent 间消息0图像与音视频1训练数据1权重与梯度2

层

训练与数据层1

系统组件

MCP 与技能4记忆1护栏与评审1监控器1推理链1权限与沙箱5微调与开源权重22视觉5音频2视频1图像生成1多模态9

被测模型厂商

其他1
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 552 篇还没打标签，不在筛选结果里。
攻击面/入口：Agent 间消息攻击面/入口：训练数据系统组件：推理链清除全部

另有 552 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.38909

    Purdue 提出 Pact：将欺骗作为行为遗忘

    提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解

    arXiv
    2609.38909
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒
    测试
    DeepSeek-R1-Distill-Qwen-32B、QwQ-32B

    摘要论文将大模型欺骗形式化为上下文条件行为，提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。

    深度解读完整解读
已经到底了