AI 智能体能否与人权对齐？
Can AI Agents Be Aligned with Human Rights?
AI 导读
Google 研究者在一篇政策评论中主张，可以把《世界人权宣言》等国际人权法转成训练阶段的对齐目标，让人工智能体在部署前就考虑对直接用户之外人群的影响。他们刚发布的论文用 Gemini-2.5-Flash 与 GPT-5-mini 作为自动评分者，在 100 个模拟的智能体失败场景中比较了自建的人权分类法与汇总 8 项政府政策、16 份企业准则的 AIR 2024 风险分类法。以专利检索智能体漏检日本手册中的现有技术为例，AIR 2024 从企业责任角度建议加入免责声明，人权框架则指向限制性专利对健康权与药品可及性的影响。作者还提出三项后续研究方向，包括衡量下游人权影响的安全基准、处理权利冲突的冲突解决规则，以及让人权法专家和公民社会参与对齐工具的设计。