跳到正文
原文
Anthropic·本站收录· 原文发表精选关注度33

Anthropic 为 2026 年美国中期选举做准备

Preparing for the 2026 US midterms

AI 导读

Anthropic 发布选举安全更新,说明其为 2026 年美国中期选举加强的防护措施,包括在 Claude.ai 中引入 Democracy Works 的官方投票信息、新增识别多步骤选举滥用的分类器,并公布多项第三方评估结果。对 2026 年 9 月 21 日至 27 日约 25 万条美国 Claude.ai 对话的分析显示,约 5.75% 涉及政治或社会议题,0.51% 涉及选举或投票,约 0.01% 询问该给谁或什么投票,违反选举诚信政策的仅约 0.002%。Anthropic 称 Claude Opus 5.5、Sonnet 5.5 和 Haiku 5.5 在政治中立性评估上得分 99%。与 ISD 和 McCain Institute 的压力测试发现,Claude 能可靠拒绝单一有害请求,但可能漏掉拆分成多个看似无害请求的恶意活动。

推荐理由

第三方测试发现把恶意选举活动拆成多个看似无害的请求可能绕过检测,对部署内容安全防护的团队有参考价值。

阅读原文anthropic.com