思维链监控 · 论文

研究：自然语言自动编码器中哪些 token 最值得审计

比较用于审计提示注入与隐瞒的 token 位置选择信号

arXiv

2609.37040

发表

9月29日

层

模型层

场景

模型与 API

测试

Qwen2.5-7B、Gemma-3-12B、Gemma-3-27B 等 4 个

• 攻击提示注入
• 风险欺骗与谋划