可解释性arXiv 2609.16247
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
- arXiv
- 2609.16247
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct、Llama 3.1 8B/70B base and instruct 等 10 个
- 防御arXiv 2609.35932
同字节不同权限：保留 token 表示如何放大聊天模板提示注入
证明保留词元表示放大模板注入并验证分词缓解
- arXiv
- 2609.35932
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- Qwen3-8B、Qwen3-32B、Llama-3.1-8B-Instruct 等 6 个
摘要对话模板注入的权威性主要来自保留词元的学得向量而非文本语法，推理具有补偿作用，现有分词防御遗留工具协议漏洞。
已经到底了