10月8日 · 周四

可解释性 · 论文

找到 2 篇

筛选1

攻击类型

越狱1 模型篡改1

攻击技术

梯度与表征优化2 角色扮演与说服1

影响

系统形态

攻击者权限

黑盒1 白盒1

攻击面/入口

用户输入1 权重与梯度1

层

提示层1 模型层1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 176 篇还没打标签，不在筛选结果里。

系统形态：模型与 API 话题：可解释性清除全部

另有 176 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2607.23496 · 7月26日
Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景
提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景
模型与 API攻击者白盒黑盒测试Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 10 个提示层
摘要该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。
完整解读
攻击arXiv:2610.01062 · 10月2日
Kernelized Activation Steering：将激活引导推广到再生核希尔伯特空间的新框架
提出核化激活引导 KAS，在推理时自适应转向激活以诱导越狱
模型与 API测试Qwen2.5-7B-Instruct、Gemma-2-9B-IT、Llama-3.1-8B-Instruct 等 6 个模型层
- 模型篡改
- 梯度与表征优化
摘要KAS 用核梯度做局部自适应转向，并在线性核下恢复 DiM。
Kernelized Activation Steering（KAS） 把推理时的激活转向写成核空间中的优化，使更新随当前激活相对源、目标参考集的位置而变化。
完整解读

已经到底了