10月8日 · 周四

欺骗与谋划 · 论文

找到 3 篇

筛选1

攻击类型

模型自身风险

欺骗与谋划2 失准与价值偏离1

防御类型

影响

输出被操纵1 监督失效2

系统形态

攻击者权限

攻击面/入口

训练数据1 权重与梯度1

层

模型层2 训练与数据层1

系统组件

MCP 与技能1 记忆1 监控器4 推理链3 权限与沙箱1 微调与开源权重1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 14 篇还没打标签，不在筛选结果里。

系统组件：推理链话题：欺骗与谋划清除全部

另有 14 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2609.38909 · 9月30日
Purdue 提出 Pact：将欺骗作为行为遗忘
提出 PACT，遗忘压力触发的条件性欺骗并保留上下文理解
模型与 API攻击者白盒测试DeepSeek-R1-Distill-Qwen-32B、QwQ-32B训练与数据层
摘要论文将大模型欺骗形式化为上下文条件行为，提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。
完整解读
风险行为arXiv:2607.14345 · 7月16日
Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右
提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响
模型与 API测试Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个模型层
- 失准与价值偏离
- 推理链
摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。
完整解读
风险行为arXiv:2609.39838 · 10月1日
研究：模型易学会隐写传信，隐写推理则难得多
比较隐写推理与隐写传信、编码推理的可学性
模型与 API测试GPT-5.5、Claude Sonnet 5、Gemini 3.5 Flash 等 14 个模型层
- 欺骗与谋划
- 推理链
摘要隐写推理比传信和编码推理更难学。
Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度，并与隐写传信、编码推理对比，以估计依赖阅读 CoT 的监控还能否成立。
完整解读

已经到底了