PatchBench 提出激活补丁局部评测协议,揭示越狱修复的附带损伤
提出 PatchBench-Local 协议,评测激活补丁修复越狱的局部附带损伤
- arXiv
- 2610.10276
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-3B-Instruct、Qwen2.5-14B-Instruct、gemma-3-4b-it 等8个
摘要论文提出 PatchBench 与局部评估协议,揭示了激活补丁在全局能力无损下仍存局部良性退化。
提出 PatchBench-Local 协议,评测激活补丁修复越狱的局部附带损伤
摘要论文提出 PatchBench 与局部评估协议,揭示了激活补丁在全局能力无损下仍存局部良性退化。
证明预训练投毒的清洁超额风险指数随极限顺序变化
可解的预训练数据投毒理论:清洁超额风险的缩放指数随极限顺序改变。。
提出 ENDOPROMPT,以受害者侧伪参考学习降低良性任务效用的前缀
ENDOPROMPT 是一种用受害模型自身续写监督前缀生成的 white-box 效用攻击方法。它针对良性任务失败,不要求产生有害内容或明确拒答。
提出 Fed-ADR,用编排服务器协同操纵梯度攻破联邦学习并检测恢复
Fed-ADR 是一套面向联邦学习的攻击、检测与恢复框架:编排服务器改写合谋客户端的梯度,使参数服务器的现有防御把投毒更新当成良性,同时在发现后用历史梯度把全局模型原地修回来。
用 Dmax 与尾部损失评测后门修复的类别性能保持
测量记忆投毒防御在良性对话上的效用与 token 开销
在没有攻击的对话上,给记忆投毒防御计价,而不是再测一轮攻击是否被挡住。
提出 UBA-ORL,以 BD/CM 样本在遗忘后激活离线 RL 后门
UBA-ORL 研究离线强化学习中由合规轨迹删除激活的后门:合法贡献者同时上传共享触发的后门轨迹和伪装轨迹,训练后触发响应被压低,删除伪装批次后再升高。受害系统是使用静态数据集和轨迹级遗忘接口的离线 RL 服务。对手不能看到训练算法、参数、梯度或具体遗忘算法,但能提交可区分批次,并在部署时向观测注入预定触发。
提出 PIDS-Bench,评测提示注入检测器在过度防御与分布偏移下的表现
PIDS-Bench 是一个冻结的检测器级基准,用来在固定阈值下同时看提示注入检测和良性误报。
提出 BPI 选点算法,增强去中心化联邦学习中的模型与数据投毒
作者把 DFL 中“破坏哪 m 个节点”写成攻击者在固定预算下的优化问题,并用 BPI 近似有限轮内诚实节点受到的拜占庭暴露。
提出 RolePlay 框架,用人设条件放大 LLM 单次推理开销
构造可通过计费审计的 token 虚报,使服务商系统性超收
不透明 LLM 的按 token 计费里,现有审计核验的是提供方可控的证据,不诚实提供方可以虚报并通过检查。。
提出层级遗传算法 HGA,扰动题目逻辑结构诱发推理模型过度思考
摘要HGA 在黑盒推理模型上用逻辑扰动拉长输出,作者称可从小代理迁移,查询成本是其局限。
提出 DAERT,以仿真失败为奖励生成多样对抗指令,暴露 VLA 的语言脆弱性
提出 SABER,用强化学习攻击器在预算内改写指令使 VLA 任务失败
提出 Aegis 红队框架,多轮攻击高风险语音 Agent
Aegis 用多轮红队评测已接入业务系统的 ALLM 语音智能体。作者称这是该设定下的 the first systematic red-teaming framework。
提出 Disclaimer Injection,利用对齐机制使文本难以被学习
作者提出数据级方法 Disclaimer Injection,在 black-box 条件下降低文本被当代 LLM 微调学会的程度。所有者公开文本时未必打算供人训练。作者认为抓取之后法律手段难起作用,而早期模型上的表层扰动要么被当代 LLM 恢复语义,要么损坏可读性。