MANTA：评估 AI 模型的非人类福利推理能力
MANTA: Evaluating Nonhuman Welfare Reasoning in AI Models
AI 导读
BlueDot Impact 的技术 AI 安全项目冲刺中，Allen Lu 提交的项目 MANTA 提出一套多轮动态评估，用来测量前沿 AI 模型如何在非人类福利议题上进行推理，并加入对抗性追问来压力测试其对齐表现。该方案计划扩充覆盖商业决策、个人选择与职业角色等场景的高质量情景集，接入 Anthropic 的 Petri 工具增强对抗压力的自动生成，并在规模化测试前先用人类基线作答校验题目有效性，同时探索赋予模型外部工具与网页搜索能力的智能体化设置。