研究:智能体欺骗行为在外部显现前已可从内部表征预测
提出基于决策前隐藏状态的检测与引导,预测并抑制智能体欺骗
- arXiv
- 2610.06576
- Published
- Layer
- Model layer
- Setting
- AI Agent
- Evaluated models
- Qwen3-14B
- DefensesMonitoring and auditing
- RiskDeception and scheming
- ComponentMonitors
Abstract论文展示了智能体自发欺骗可在行为显现前由内部表征预测,并通过激活引导证实了表征的行为可操作性。