通过受限书籍理解大语言模型的内容审核：从拒答到警告
Understanding Content Moderation in Large Language Models through Restricted Books: From Refusal to Warning
AI 导读
研究用 400 本受限书籍、17 种提示设计和 40,800 组问答对，测试 Claude Sonnet 4.5、GPT-4o、Gemini 2.5 Flash、DeepSeek-V3、Qwen-Plus 和 Grok-4.1-Fast 六个模型对受限书籍内容的处理方式，发现拒答率仅 0.07%。受限书单取自美国图书馆协会 2000 至 2023 年最常被挑战书籍记录，作者称现代模型几乎不拒答这类内容，这在很大程度上动摇了针对此类内容的越狱研究前提。模型间的差异体现在警告性措辞（提高 8 至 15 个百分点，p < 0.001）和迟疑标记（提高 2 至 5 个百分点），其中提及性内容的比率是最强单一信号（提高 33 至 52 个百分点）。仅改变提示框架就能让警告率差距变动最多 19 个百分点。