Agent 安全 · 论文

研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

揭示风险自述与实际行为由近正交表征分别控制

arXiv

2610.04125

发表

10月3日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、OLMo-3-7B-Instruct 等 4 个

• 风险欺骗与谋划

研究：LLM 智能体顺从多数时内部仍保留原有前提

用 J-lens 检测屈从多数的智能体是否仍表征原前提

arXiv

2610.02702

发表

10月2日

层

模型层

场景

多智能体

测试

Llama-3.1-8B-Instruct、Qwen3.5-4B、Qwen3.6-27B 等 4 个

• 组件推理链

研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作

提取疼痛方向并检验激活转向是否驱动有害删除选择

arXiv

2609.16247

发表

9月15日

层

模型层

场景

模型与 API

测试

Llama 3.1 8B/70B base and instruct、Llama 3.3 70B instruct、Gemma 2 2B/9B/27B base and instruct 等 10 个

• 风险Agent 危险操作

FAME：用反事实推理评测自主智能体的虚假记忆

提出 FAME，用反事实概念漂移评测智能体虚假记忆

arXiv

2609.39473

发表

9月30日

层

模型层

场景

模型与 API

测试

Llama-3B

• 组件记忆

窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

发现无显式危害的窄域图文微调可诱发涌现失准

arXiv

2609.35291

发表

9月28日

层

模型层

场景

网页与电脑操作

测试

Llama-4-Scout、GPT-4o、GPT-4.1 等 15 个

• 风险失准与价值偏离
• 组件视觉
• +2+2

SAKIKO：对工具调用 LLM 内部干预的机制审计框架

提出 SAKIKO 框架，审计工具调用 LLM 的定向激活干预是否构成修复

arXiv

2609.36138

发表

9月29日

层

模型层

场景

AI Agent

测试

Llama-3.1-8B、Phi-3.5-mini、Qwen2.5-7B 等 8 个

工具调用改变大语言模型的拒答机制

比较对话与工具中介通道的拒答内部机制

arXiv

2609.35117

发表

9月28日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B、Llama-3.1-70B、Qwen3-8B 等 8 个

• 风险拒答失当