10月8日 · 周四

全部论文

找到 3 篇

筛选1

攻击类型

模型自身风险

奖励作弊1 拒答失当2

防御类型

模型加固3 推理时干预2 检测与过滤2 指令与数据隔离1 权限与审批1 监控与审计1

影响

有害内容2 监督失效1

系统形态

攻击面/入口

训练数据1 权重与梯度1

层

模型层2 训练与数据层1

系统组件

微调与开源权重1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1033 篇还没打标签，不在筛选结果里。

防御类型：模型加固清除全部

另有 1033 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2610.09600 · 10月7日
SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化
提出安全电路对齐，把对齐更新限制在预训练拒绝电路内
模型与 API测试Llama-3-8B、Qwen-2.5-7B、Mistral-7B-v0.1 等 4 个训练与数据层
- 模型加固
- 拒答失当
摘要SafeEvo 识别出基座模型中存在的弱安全电路及其演化动态，据此提出的 SCA 算法实现了安全对齐、能力保留与低过度拒绝的平衡。
完整解读
可解释性arXiv:2610.09384 · 10月7日
人格层级模型解释微调 LLM 的上下文泛化
提出人格层级模型解释微调行为的上下文泛化，并用 PPR 抑制奖励作弊
模型与 API测试Qwen3-4B、Llama-3.1-8B-Instruct模型层
- 模型加固
- 奖励作弊
摘要提出人格层级模型揭示微调跨上下文泛化规律，报告角色距离正相关性，通过 PPR 抑制 RL 作弊。
完整解读
可解释性arXiv:2609.06934 · 9月7日
论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击
用权重几何解释事后安全脆弱，并提出预训练持续安全共训练
模型与 API测试Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个模型层
摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。
完整解读

已经到底了