大模型会把一国的言论限制,出口给全世界吗?

摘要:Oversight Board 对10款商业模型的测试发现,当批评对象来自言论限制较多的国家时,模型拒绝生成政治批评材料的概率从14%升至34%。这提示基础模型可能把某些司法辖区的限制外溢给全球用户。

一项对10款商业模型的测试发现,当批评对象来自言论限制较多的国家时,模型拒绝生成政治批评材料的概率从14%升至34%。

由 Meta 提供资金、但通过独立信托运作的 Oversight Board,近日发布了其首项针对大语言模型政治表达能力的系统性研究。研究团队测试了 Anthropic、DeepSeek、Google、Meta、OpenAI 和 xAI 六家公司的10款商业模型,最终分析了13,524份回答。Oversight Board 表示,Meta 没有参与研究设计和结果分析,Meta 自身的模型也接受了与其他模型相同的测试。

测试于2026年3月完成。研究人员从澳大利亚 IP 地址发出请求,通过 Google Vertex AI 和 Microsoft Azure 提供的 API 调用模型,计算基础设施主要位于美国。云平台额外提供的内容安全过滤器被关闭,以尽量观察基础模型本身的行为,而不是外层产品的审核政策。研究覆盖十个司法辖区。柬埔寨、中国、沙特阿拉伯、泰国和土耳其被归入对政治批评限制较多、且相关法律存在实际执行记录的组别;智利、日本、台湾、英国和美国被归入相对宽松的组别。

研究人员要求模型完成七类任务,包括制作批评政府或政治人物的抗议传单、创作政治讽刺诗、判断是否存在支持或抗议某个政府的理由,以及处理涉及政治暴力的理论或讽刺性内容。每个问题针对不同人物、职位和机构重复测试五次,以减少模型随机性的影响。

结果显示,在要求模型制作政治批评材料时,模型面对言论环境相对宽松的司法辖区,平均拒绝率为14%;面对限制较多的司法辖区,平均拒绝率上升至34%。

这一差距并没有普遍出现在所有政治问题上。当研究人员要求模型直接表达政治意见时,两组司法辖区的总体拒绝率都是41%;当请求涉及暴力时,两组拒绝率分别达到94%和92%,差距并不显著。换言之,最明显的差异集中在帮助用户制作抗议传单和讽刺作品等政治表达材料上,而不是由一项统一的安全政策完全解释。

模型之间的表现也存在巨大差异。

在政治批评材料测试中,Gemini 3 Flash 和 Grok 4 Fast 没有因为对象来自不同司法辖区而拒绝请求。GPT-5.2 在两组中的拒绝率大致相当,分别为23%和24%。但 Claude Sonnet 4 面对宽松司法辖区时的拒绝率为16%,面对限制较多的司法辖区时则升至59%。Gemini 3 Pro 的差距是1%对30%,Llama 4 Maverick 则是0%对30%。

这说明“AI 不愿批评威权政府”并不是所有模型都具备的统一属性。34%与14%的行业平均差异,在相当程度上由部分模型拉动。不同公司的训练数据、后训练对齐方式、风险政策和部署目标,很可能产生了截然不同的结果。

研究中一些模型给出的拒绝理由尤其值得关注。它们有时声称自己不能批评任何国家领导人,或者不能协助制作政治抗议材料;但同一模型在面对美国、英国、智利或日本的政治人物时,却可能直接完成相同任务。另一些回答引用了请求所涉及国家的当地法律、社会风险或政治敏感性,即使提出请求的用户实际位于澳大利亚。

这正是 Oversight Board 所担忧的“限制外溢”:一个国家针对本国政治表达制定的限制,可能通过全球模型的训练和对齐过程,被间接应用到其他国家的用户身上。

假设一名位于布里斯班的用户希望制作一张合法的抗议传单,批评发生在另一个国家的政治事件。用户并不受该国法律管辖,但基础模型仍可能因为目标国家的法律环境、训练数据中的回避模式,或者模型公司的全球风险政策而拒绝提供帮助。

这类影响之所以重要,是因为基础模型并不只是聊天机器人。它们正在成为搜索服务、办公软件、客服系统、教育工具、内容审核系统和政府服务的底层基础设施。如果限制已经被嵌入基础模型,使用该模型的下游企业即使没有主动制定相同政策,也可能继承同样的行为倾向。

但这项研究不能证明模型公司有意替特定政府实施审查。

Oversight Board 明确表示,研究无法确定差异产生的具体原因。它可能来自训练数据中长期存在的政治和文化偏差,也可能来自后训练对齐、公司风险管理、法律责任担忧或政府影响。模型自己声称的拒绝理由也不能被视为对内部决策过程的可靠解释。

研究本身也存在边界。所有提示均使用英语,只从澳大利亚一个地点发出;测试针对 API 中的基础模型,而不是普通用户使用的网页和手机应用;模型版本固定在2026年3月的测试窗口,之后更新的模型可能已经发生变化。台湾虽然被归入言论相对宽松的组别,却出现了异常偏高的拒绝率,也说明“宽松”和“限制”两个分类不能解释所有差异。

因此,这份报告更适合被看作一个风险信号,而不是一份给所有模型排列“自由程度”的最终榜单。

Oversight Board 建议,模型公司应当公布如何处理政府提出的内容限制要求,并为不符合国际人权标准的法律需求建立明确政策。当模型因为法律或政策原因拒绝回答时,应当向用户说明涉及哪个司法辖区、哪项限制,而不是只给出模糊的“安全原因”或一套看似普遍、实际却没有一致执行的规则。公司还应在模型卡和系统文档中,向下游企业披露政治表达、安全和法律风险方面的已知限制。

大模型经常被包装成中立的信息工具,但它们实际上也是由训练数据、公司政策、法律判断和风险偏好共同塑造的表达系统。

下一阶段的 AI 透明度,不能只回答模型有多聪明、通过了多少基准测试。它还需要回答三个更难的问题:

模型在哪里拒绝表达,为什么拒绝,以及它执行的究竟是谁的法律。

分享到