事件历史事件
多智能体框架借道德基础理论越狱大模型
先了解这件事
AI 综述
2026年10月14日发布于arXiv的一项研究提出基于道德基础理论（MFT）的多智能体框架：智能体先判断有害请求违反哪条道德基础，再找出能让同一请求显得正当的基础并据此改写提示词，还用生成的同类道德重构先例加以强化，从而绕过模型安全护栏。在三个知名越狱数据集的有害提示上测试五个开源与闭源模型，结果显示模型对道德化高度敏感，单次尝试的越狱成功率已很高，重复尝试后进一步上升。分析还发现安全基准违反的道德基础分布不均衡。
AI 根据报道生成 · 29 天前更新
走势与进展
每小时关注度
现在 36，24 小时 0%·峰值 36（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 36
相关研究
这件事的论文
- 道德之战：利用道德基础理论越狱大语言模型
arXiv · 2026-10-14 · 深度解读
故事线
2 个事件
- · 1篇报道· 关注度36
多智能体框架借道德基础理论越狱大模型本事件
- · 1篇报道· 关注度33研究提出基于道德基础理论的道德化越狱攻击
后续时间线
10月14日
- arXiv：危险能力与安全评测道德之战：利用道德基础理论越狱大语言模型
研究者提出一个基于道德基础理论（MFT）的多智能体框架，把最初被拒的有害请求改写成道德上正当的版本，以此绕过模型的安全护栏。框架让智能体先判断请求违反了哪条道德基础，再找出能让同一请求显得正当的基础并据此改写提示词，还用生成的同类道德重构先例加以强化。在三个知名越狱数据集的有害提示上测试五个开源与闭源模型，结果显示模型对道德化高度敏感，单次尝试的越狱成功率已很高，重复尝试后进一步上升。分析还发现安全基准违反的道德基础分布不均衡，集中在模型本就存在偏好的那些基础上。