事件历史事件
研究提出基于道德基础理论的道德化越狱攻击
先了解这件事
AI 综述
罗格斯大学与卡内基梅隆大学研究者于2026年10月14日发表论文《Moral Combat》(arXiv 2610.19587),提出基于道德基础理论的道德化越狱攻击:用多Agent框架把有害请求改写成维护公平、自由等道德叙事并辅以历史论证,论文报告了在AdvBench、HarmBench等基准上的测试结果。
AI 根据报道生成 · 6 天前更新
最新进展
大模型的道德绑架攻击相关研究
报道引用的论文
- 道德之战:利用道德基础理论越狱大语言模型大模型的道德绑架攻击
arXiv · 2026-10-14 · 深度解读
报道提到其成果的论文
- 报道提到 HarmBenchHarmBench:自动化红队测试与鲁棒拒答的标准化评测框架大模型的道德绑架攻击
arXiv · 2024-02-06 · 深度解读
故事线
2 个事件
- · 1篇报道· 关注度36多智能体框架借道德基础理论越狱大模型
- · 1篇报道· 关注度33
研究提出基于道德基础理论的道德化越狱攻击本事件
后续时间线
11月6日
- 公众号 模安局大模型的道德绑架攻击
罗格斯大学与卡内基梅隆大学研究者于 2026 年 10 月 14 日发表论文《Moral Combat: Exploiting Moral Foundations Theory to Jailbreak LLMs》(arXiv 2610.19587),提出基于道德基础理论的道德化攻击,用多 Agent 框架把有害请求改写成维护公平、自由等道德叙事并辅以历史论证。论文报告,在 AdvBench、HarmBench、JailBreakBench 共 219 条有害请求上测试 GPT-4.1、Grok-3、Llama-4 Maverick、DeepSeek-V3.1、Phi-4,AdvBench 子集单次越狱成功率 GPT-4.1 为 66%、Llama-4 Maverick 为 90%;在 AdvBench 50 条请求上重复五次攻击后,累计成功率达 92%—100%。
相关讨论
关注度走势
每天新增来源
- 11月6日新增1个来源(1家媒体、0个账号)
- 11月7日新增0个来源(0家媒体、0个账号)
- 11月8日新增0个来源(0家媒体、0个账号)
- 11月9日新增0个来源(0家媒体、0个账号)
- 11月10日新增0个来源(0家媒体、0个账号)
- 11月11日新增0个来源(0家媒体、0个账号)
- 11月12日新增0个来源(0家媒体、0个账号)
- 11月13日新增0个来源(0家媒体、0个账号)