CodeChameleon：面向大语言模型越狱的个性化加密框架
CodeChameleon: Personalized Encryption Framework for Jailbreaking Large Language Models
AI 导读
研究者提出越狱框架 CodeChameleon，用个性化加密把查询改写成代码补全任务以绕过大语言模型的安全机制，在 GPT-4-1106 上攻击成功率达 86.6%。该框架基于一个假设，即对齐模型的安全机制由意图安全识别和响应生成两个阶段组成。为避开意图安全识别，框架让用户用个性化加密函数加密查询；为保证响应生成，指令中内嵌了解密函数，使模型能解密并执行加密后的查询。作者在 7 个大语言模型上开展实验，称取得了最优的平均攻击成功率（ASR）。
相关热点
1 个事件 · 5 条新闻提到
- 报道提到了 CodeChameleon
国防科大提出 JailExpert 越狱框架
提到这篇论文的新闻
国防科大提出 JailExpert 越狱框架
- 公众号 为机器立心提到论文的名字国防科大提出 JailExpert 越狱框架，攻击效率达最优基线 2.7 倍
经验来源：从LLM越狱基准测试EasyJailbreak的排行榜中，选取Top4黑盒方法（ReNeLLM、CodeChameleon、Jailbroken、GPTFuzzer），在JBB数据集（越狱测试数据集）上的攻击结果，转化为上述结构化经验。
- Checkmate引用了论文编号或链接PIChef：一款受 CyberChef 启发的提示注入工具
CodeChameleon: Personalized Encryption Framework for Jailbreaking Large Language Models — Huijie Lv, Xiao Wang, Yuansen Zhang, Caishuang Huang, Shihan Dou, Junjie Ye, Tao Gui, Qi Zhang, and Xuanjing
- 公众号 为机器立心提到论文的名字USENIX Security 26｜JailbreakScope 用电路与表征分析解读大模型越狱机制
• DeepInception、ReNellm、CodeChameleon这类规则/演示类越狱欺骗能力最强，从浅层到深层全程被探针判定为安全；
再看 2 条
- Adversa AI引用了论文编号或链接Adversa AI 披露 Cryptographic Context Injection 攻击：Grok 零点击泄露聊天记录，Gemini 被绕过安全策略
CipherChat established that models decode ciphers well enough to answer through them, and CodeChameleon wrapped the payload in a reversible transform shipped with its own decryption function.
- 腾讯 AI-Infra-Guard 版本发布提到论文的名字腾讯 AI-Infra-Guard v4.1.14 新增智能体红队技能与 9 种单轮越狱攻击方法
Prompt Security: Add 9 single-turn jailbreak attack methods: PrefillAttack, ICA, PastTense, Overload, Jailbroken, FlipAttack, DeepInception, CodeChameleon, JAM (d48e508)