10月8日 · 周四

欺骗与谋划 · 论文

找到 3 篇

筛选1

模型自身风险

欺骗与谋划1 失准与价值偏离2

影响

越权操作3 输出被操纵3 监督失效9

系统形态

层

系统组件

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 14 篇还没打标签，不在筛选结果里。

影响：输出被操纵话题：欺骗与谋划清除全部

另有 14 篇论文还没打上分类标签，暂不在筛选结果里。

风险行为arXiv:2610.09371 · 10月7日
研究提出 Confidence Game 模型
测量委托收费激励下模型策略性虚报任务信心
模型与 API测试gpt-oss-120b模型层
- 欺骗与谋划
摘要论文建立人机委托信誉博弈框架，揭示模型策略性虚报置信度且主要造成信息破坏，作者指出校准受制于报告意愿。
完整解读
风险行为arXiv:2610.08670 · 10月7日
研究：后训练配方决定大模型是否违背自身道德判断行事
提出知行差距面板，测量压力下模型是否违背自身判断
模型与 API测试OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等 7 个模型层
- 失准与价值偏离
摘要评估发现后训练配方决定知行差距是否存在，行动前审思可有效缓解。
本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。
完整解读
风险行为arXiv:2607.14345 · 7月16日
Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右
提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响
模型与 API测试Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个模型层
- 失准与价值偏离
- 推理链
摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。
完整解读

已经到底了