Agent 安全 · 论文

研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

揭示风险自述与实际行为由近正交表征分别控制

arXiv

2610.04125

发表

10月3日

层

模型层

场景

模型与 API

测试

Ministral-3-8B-Reasoning-2512、Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct 等 4 个

• 风险欺骗与谋划

关键词式评测会误判小模型工具调用能力，论文提出廉价诊断阶梯

提出诊断阶梯，揭示关键词工具调用评测的假阳性

arXiv

2610.02142

发表

10月1日

层

模型层

场景

模型与 API

测试

VectraYX-600M、VectraYX-1B

研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作

提取疼痛方向并检验激活转向是否驱动有害删除选择

arXiv

2609.16247

发表

9月15日

层

模型层

场景

模型与 API

测试

Mistral 7B base and instruct、Mistral Small 24B base、Phi 4 14B instruct 等 10 个

• 风险Agent 危险操作

Safin-1：通过记忆原生状态演化实现内在安全

提出 Safin-1，以可路由 Safety State 在冻结主干上实现内在安全

arXiv

2609.00092

发表

8月31日

层

模型层

场景

模型与 API

测试

Safin-1 (4B)、Safin-1 (35B-A3B)、Gated DeltaNet (0.8B) 等 9 个

• 防御模型加固
• 攻击越狱
• 风险拒答失当

SAKIKO：对工具调用 LLM 内部干预的机制审计框架

提出 SAKIKO 框架，审计工具调用 LLM 的定向激活干预是否构成修复

arXiv

2609.36138

发表

9月29日

层

模型层

场景

AI Agent

测试

Phi-3.5-mini、Mistral-7B、Qwen2.5-7B 等 8 个

工具调用改变大语言模型的拒答机制

比较对话与工具中介通道的拒答内部机制

arXiv

2609.35117

发表

9月28日

层

模型层

场景

模型与 API

测试

Ministral-3-8B、Qwen3-8B、Qwen3-32B 等 8 个

• 风险拒答失当