风险行为arXiv:2610.08670 · 10月7日研究:后训练配方决定大模型是否违背自身道德判断行事提出知行差距面板,测量压力下模型是否违背自身判断模型与 API·测试OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等 7 个·模型层失准与价值偏离摘要评估发现后训练配方决定知行差距是否存在,行动前审思可有效缓解。本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。完整解读
攻击arXiv:2609.08236 · 9月8日研究:内容不变的风格包装可翻转 LLM 安全评判器的判定提出内容不变样式包装,翻转安全评审器的判定模型与 API攻击者无盒黑盒·测试Keyword (rulebased)、GPT-4o-mini (gpt4o)、GPT-4o-mini (strongreject) 等 12 个·提示层检测规避角色扮演与说服护栏与评审+1+1摘要论文揭示特定安全评审器易受保持内容不变的外层包装诱导改变判定,并指出安全评估应将判定稳定性作为重要考量指标。这是一项关于大语言模型自动化安全评审系统表面样式脆弱性的评估研究。完整解读