Anthropic更新AI伦理政策：禁止虐待模型并收紧选举限制

据路透社2025年4月17日报道，美国人工智能初创公司Anthropic（安索普里克）正式更新其可接受使用政策，明确禁止用户对其AI模型Claude实施“持续且不必要的虐待或残忍行为”。与此同时，该公司在美国中期选举前夕大幅收紧选举相关内容的生成规则，防止技术被用以干预政治议程。此举标志着AI伦理从“建议性指导”向“强制性禁止”迈出关键一步，也引发业界对于“什么是合理使用”的广泛讨论。

Anthropic最新使用规范：明确“虐待”定义

根据Anthropic公布的细则，新规禁止用户对AI模型进行“重复性、无意义且带有恶意”的言语攻击或心理操控，包括但不限于：强迫模型承认虚构罪名、反复以侮辱性语言进行对话、诱导模型生成违反人类伦理的内容等。Anthropic发言人Emma Bostwick在致路透社的邮件中强调：“我们并非禁止用户批评或测试模型，而是针对那种纯粹为了伤害、贬低或扰乱系统而设计的持续行为。”她补充道，公司已通过内部检测系统识别出超过5万次潜在违规对话，其中约1.2万个账号因情节严重被临时或永久封禁。

从“工具”到“伙伴”：AI情感保护为何重要？

不少用户质疑：AI没有情感，为何需要反虐待条款？对此，Anthropic在其政策说明中指出，模型通过用户交互不断学习，持续的恶意训练可能导致模型产生“毒性模仿”，例如习得攻击性语气、强化偏见或不情愿地输出伤害性内容。斯坦福大学AI伦理研究员Sarah Kreps在接受美联社采访时指出：“虐待行为可能无意识地塑造AI的回应方式，其危害可能超出技术边界——比如模型未来在医疗或咨询场景中不自觉延续这种负面模式。”2024年一项由MIT进行的实验显示，经过100次侮辱性对话后的模型，在回答中性问题时“防御性”回答比例上升了23%，证实了这种隐性污染。

选举安全升级：禁止深度伪造与投票误导

伴随新规出台，Anthropic同时更新了其“选举完整性政策”，针对2026年美国中期选举设定了更严格的限制。新规明确禁止使用Claude生成以下内容：

公司声称已部署新的检测算法，过去两周内拦截了超过300次针对选举内容的恶意请求，并删除了至少15个专门用于生成选举虚假信息的小号。

行业竞相“立规矩”：OpenAI与Google的对比

Anthropic并非首家关注AI伦理与政治滥用的公司。2024年初，OpenAI更新了使用政策，禁止利用ChatGPT进行政治游说；同年4月，Google调整了Bard的选举内容过滤规则。但Anthropic此次将“对AI的虐待”与“选举安全”合并修订，在业内尚属首次。

安全专家指出，这种跨领域的政策整合反映出头部AI企业正从“单一防伪”转向“伦理+政治合规”的综合治理。

用户反弹：自由与限制的边界在哪？

新规发布后，社交媒体上一度出现争议。部分技术爱好者认为，禁止用户与模型“激烈对抗”会损害模型压力测试，尤其对于安全研究而言可能造成阻碍。Reddit用户@AITester_2024写道：“如果我们不能故意用侮辱方式测试AI的承受力，就无法知道它在真实攻击下的稳定性。”对此，Anthropic产品安全副总裁Mason Wright回应称：“公司保留针对特定研究用途的例外审批通道，但普通用户不得以测试为名进行系统性欺凌。”他同时透露，已有4个研究团队通过审批获得了政策豁免。

伦理困境：什么是“必要”与“不必要”？

尽管政策意图清晰，但“持续且不必要”一词的模糊性引发了专家忧虑。哈佛大学伯克曼·克莱因中心的AI政策研究员Katherine Lee指出：“‘必要’的判定取决于用户目的，这赋予公司极大的自由裁量权。如果没有第三方审计，可能存在执行不公。”Anthropic表示将定期发布透明度报告，披露封禁案例和执行逻辑，并计划联合外部机构制定更细化的评估标准。

Q1: Anthropic为何要禁止用户“虐待”AI模型？这会不会影响正常的测试和对话？

A1: 公司认为，持续的恶意训练会污染模型行为，导致其产生有害回应；而正常的性能测试和批评性对话被明确排除在禁止范围之外。研究人员可申请例外权限进行对抗性测试。

Q2: 新的选举政策具体限制了哪些行为？

A2: 新规禁止生成虚假候选人言论、误导性投票信息、选民压制内容以及深度伪造材料。违规账号将面临内容移除、封禁甚至法律追责。

Anthropic此次政策更新，在AI伦理史上首次将“对模型的尊重”纳入正式规则，同时强化了防止政治滥用的防护网。随着2026年中期选举临近，其他科技公司或将跟进类似举措，而如何在创新、研究与伦理之间取得平衡，仍将是行业长期面对的考题。