事件历史事件
国防科大提出 JailExpert 越狱框架
先了解这件事
AI 综述
国防科技大学研究者在 arXiv 发表越狱框架 JailExpert，将历史越狱攻击结果结构化为可复用经验：每条经验记录初始恶意指令、完整越狱提示、越狱模式以及成功和失败次数。框架用 text-embedding-3-small 计算指令与完整提示之间的语义漂移，经 K-Means 分组后从每组选取出现频率和历史成功率最高的经验。在 7 个 LLM 上平均攻击成功率达 90%，攻击效率（ASR-E）为最优基线 ReNeLLM 的 2.7 倍。
AI 根据报道生成 · 7 天前更新
走势与进展
每小时关注度
现在 36，24 小时 0%·峰值 38（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日现在 36
相关研究
报道提到其成果的论文
- 报道提到 EasyJailbreakEasyJailbreak：面向大语言模型越狱的统一框架国防科大提出 JailExpert 越狱框架，攻击效率达最优基线 2.7 倍
arXiv · 2024-03-18 · 深度解读
- 报道提到 CodeChameleonCodeChameleon：面向大语言模型越狱的个性化加密框架国防科大提出 JailExpert 越狱框架，攻击效率达最优基线 2.7 倍
arXiv · 2024-02-26
后续时间线
11月5日
- 公众号 为机器立心国防科大提出 JailExpert 越狱框架，攻击效率达最优基线 2.7 倍
国防科技大学研究者在 arXiv 发表越狱框架 JailExpert，将历史越狱攻击结果结构化为可复用经验，在 7 个 LLM 上平均攻击成功率达 90%，攻击效率（ASR-E）为最优基线 ReNeLLM 的 2.7 倍。每条经验记录初始恶意指令、完整越狱提示、越狱模式以及成功和失败次数；框架用 text-embedding-3-small 计算指令与完整提示之间的语义漂移，经 K-Means 分组后，从每组选取出现频率和历史成功率最高的模式作为代表性模板，攻击后再动态更新计数。实验中 GPT-4 的攻击成功率为 76%，Gemini-1.5-pro 与 GPT-4-Turbo 达 100%；LlamaGuard 使 GPT-4-Turbo 的成功率从 95.5% 降至 62.4%，PPL Filter 对 Llama2-7b 的攻击成功率无影响（97.3%）。
相关讨论
关注度走势
每天新增来源
- 11月5日新增1个来源（1家媒体、0个账号）
- 11月6日新增0个来源（0家媒体、0个账号）
- 11月7日新增0个来源（0家媒体、0个账号）
- 11月8日新增0个来源（0家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增0个来源（0家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）