Failure-First：Anthropic 道德塑造倡议之外还需对抗韧性测试
Moral Formation Isn't Enough: What Happens When AI Values Break Under Pressure
AI 导读
Anthropic 本周发布 Widening the Conversation on Frontier AI 倡议，邀请宗教与哲学学者讨论 AI 价值观如何形成，并实验用“伦理提醒工具”减少 Claude 在内部评估中的失准行为。Failure-First 认为道德塑造只解决一半问题，需并行对抗韧性测试：其 OBLITERATUS 研究从 Llama-3.1-8B 第 20 层残差流消融拒答方向后，50 条提示词上的攻击成功率从 22% 升至 58%。其红队语料还覆盖 171 起具身 AI 事件、258 个模型和情绪操纵等攻击族。