全部论文

WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

arXiv

2610.09240

发表

10月7日

层

应用层

场景

网页与电脑操作

测试

Phi-3-Vision-4B、LLaVA-v1.5-13B、LLaVA-v1.6-34B 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +1+1

研究团队用收敛与区分效度检验 56 个 AI 基准，发现安全基准相关性普遍偏弱

用聚合与区分效度检验基准是否衡量其所称概念

arXiv

2609.08812

发表

9月8日

层

模型层

场景

模型与 API

测试

Phi-3.5 Mini Instruct、Qwen 1.5 110B Chat、Qwen 2.5 32B Instruct 等 15 个

研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作

提取疼痛方向并检验激活转向是否驱动有害删除选择

arXiv

2609.16247

发表

9月15日

层

模型层

场景

模型与 API

测试

Phi 4 14B instruct、Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct 等 10 个

• 风险Agent 危险操作

系统提示词幻觉：指令前导如何改变语言模型内部计算

测量系统提示词对模型逐层计算的重构程度

arXiv

2609.38205

发表

9月23日

层

模型层

场景

模型与 API

测试

Phi-3.5-Mini、Qwen-2.5-1.5B、SmolLM2-1.7B 等 15 个

研究揭示 Transformer 层间纠正机制 TLCM

揭示相邻 Transformer 层相互抵消残差写入的 TLCM

arXiv

2609.07876

发表

9月8日

层

模型层

场景

模型与 API

测试

Phi 4、Llama 3.1 8B、Llama 3.1 8B Instruct 等 10 个

PIR：从模型内部激活读出被隐藏的答案

提出免参考探测 PIR，从激活读出被隐瞒答案并区分擦除

arXiv

2609.21996

发表

9月19日

层

模型层

场景

模型与 API

测试

Phi-3.5-mini、phi-4、gemma-2-9b 等 9 个

• 防御监控与审计
• 风险欺骗与谋划
• 组件监控器

AEGIS：用内部信号在中间层拦截大型音频语言模型越狱

提出 AEGIS，用中层内部信号选择性激活后层适配器拦截音频越狱

arXiv

2609.29287

发表

9月24日

层

模型层

场景

模型与 API

攻击者

白盒

测试

Phi-4-Multimodal Instruct、Qwen2-Audio-7B、VITA-1.5 等 6 个

• 防御推理时干预
• 攻击越狱
• 组件音频
• +1+1

研究用因果激活修补定位模型服从提示注入指令的决策层

用因果激活修补定位模型服从提示注入的决策层

arXiv

2609.37737

发表

9月29日

层

模型层

场景

模型与 API

测试

Phi-3-mini、Qwen3-4B、Qwen3-14B 等 7 个

• 攻击提示注入