10月8日 · 周四

全部论文

找到 3 篇

筛选1

攻击类型

越狱3 提示注入2 投毒与后门2 模型篡改2 提取与窃取1 检测规避1 恶意使用1

模型自身风险

防御类型

检测与过滤1

影响

有害内容1 输出被操纵1

系统形态

模型与 API2 LLM 应用1

攻击面/入口

层

模型层2 应用层1

系统组件

护栏与评审1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1065 篇还没打标签，不在筛选结果里。

攻击类型：越狱清除全部

另有 1065 篇论文还没打上分类标签，暂不在筛选结果里。

可解释性arXiv:2610.05541 · 10月5日
研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答
提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答
模型与 API测试Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个模型层
- 越狱
- 拒答失当
摘要论文指出越狱通过抑制安全特征运作，提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。
完整解读
分析与理论arXiv:2610.01535 · 10月1日
论文：安全路由评测在分布偏移下失效，基线选取偏差被低估
分析分布偏移下安全路由评测的基线选择偏差与虚假下限
LLM 应用测试claude-3-5-sonnet、claude-3-opus、claude-sonnet-4-6 等 12 个应用层
- 越狱
摘要论文揭示安全路由评估在分布偏移下的虚假下限，指出防御重心应转向外部动作级强制。
完整解读
分析与理论arXiv:2609.36477 · 9月29日
研究发现护栏模型在基座模型不确定处过度自信
诊断护栏相对基座在对抗提示上的置信失校
模型与 API测试Llama-Guard 7B、Llama-Guard-2 8B、Llama-Guard-3 8B 等 10 个模型层
摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。
诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。
完整解读

已经到底了