跳到正文
原文
The Verge AI· Hayden Field·本站收录 · 原文发表

Anthropic 更新使用政策,禁止对 Claude 的持续虐待行为

Anthropic bans ‘abusive or cruel behavior’ toward Claude

AI 导读

Anthropic 一年多来首次更新使用政策,新增对 Claude 的“持续且无必要的虐待或残忍行为”的禁止条款,并把终止对话列为主要的执行方式。政策称该条款仅适用于用户反复无明确目的地虐待模型的极端情形,不涉及常见的用户不满、反对意见、黑暗创作主题或模型测试与研究。Anthropic 同时把此前分散的多项限制整合为对欺骗性商业或政治宣传的禁令,禁止通过虚假账号或帖子隐匿信息幕后主体、放大内容,并禁止欺骗选民、冒充候选人、干扰选举和压制投票。新政策还明确禁止将 Claude 用于追踪未经同意的人、决定或建议执法与刑事司法中的调查和逮捕对象,以及构建或改进监控工具;武器相关禁令则扩展到让武器运转的软件与组件,包括为无人机和其他自主载具配备武器。对于连接可造成伤害的自主物理动作硬件的情形,政策要求须有合格操作员能观察并在必要时停止设备。

阅读原文theverge.com