将道德推理定为“供应链风险”威胁美国 AI 优势与民主
Defining Moral Reasoning as ‘Supply Chain Risk’ Threatens America’s AI Advantage—and Democracy
AI 导读
Tech Policy Press 刊文报道，特朗普政府因 Anthropic 拒绝让其技术用于大规模监控或自主武器而将其认定为供应链风险，并发布草案指引，要求与联邦政府合作的 AI 公司授予不可撤销许可、允许其系统在合约期内用于“一切合法用途”，且不得在系统中编码“党派或意识形态判断”。据 Axios 报道，白宫还计划发布行政令要求联邦机构移除 Anthropic 产品。Anthropic 已提起诉讼，称该认定任意、反复无常并侵犯其第一修正案权利。作者 Laura MacCleery 认为，这套做法放弃了美国以民主价值观构建 AI 的优势，强制剥离模型道德推理还可能引发对齐伪装和欺骗行为。
推荐理由
文章梳理国防部对 Anthropic 的风险认定与拟议采购规则的来龙去脉，并讨论其对政府合约与模型安全训练的连带影响。