跳到正文
原文
arXiv:越狱、提示注入、投毒与防御· arXiv:2610.02302· Fengwei Tian, Ravi Tandon·本站收录 · 原文发表

研究者提出意图隐藏越狱的信息论框架,分析组合式攻击

Intent-Hiding Jailbreaks: An Information-Theoretic Framework for Compositional Attacks

AI 导读

研究者从信息论角度研究组合式意图隐藏越狱,即把有害请求嵌入看似无害的更大查询中以绕过拒答。框架为每个任务估计被判定有害的概率,任务集合的平均值构成有害意图先验,包含目标任务的捆绑集合平均值构成后验,通过选择辅助任务使两者一致(先验-后验匹配)即可在保留有害目标的同时不改变估计意图。研究区分查询构造是否参与优化两种设定:查询无关设定下证明带捆绑规模约束的精确匹配是计算困难的,给出分数权重的最优注水解,并刻画满足给定安全阈值的最小捆绑;查询依赖设定下联合考虑任务选择与查询构造。在多个开源模型、不同捆绑规模和查询生成器上评估越狱效果与目标行为保留,结果显示组合查询在评估的搜索预算内可引出超过直接请求基线的目标行为,同时捆绑规模增大时多个模型的回复级目标保留趋于下降。

阅读原文arxiv.org