限制性发布
限制性发布是AI公司因模型潜在风险过大，而将其访问权限严格限制在少数受信任组织内的发布策略。这一策略标志着AI安全治理从"事后补救"转向"事前封锁"的重大转折点。
典型案例
[[anthropic]]的[[mythos]]模型是限制性发布的标志性案例。鉴于Mythos展现出令人震惊的零日漏洞自动化挖掘能力，Anthropic CEO [[dario-amodei]]决定该模型永远不对公众开放，仅向包括Google、微软、AWS、Nvidia和摩根大通在内的11家精选核心组织提供访问权限。
[[openai]]正在秘密研发的[[spud]]模型也采取了高度一致的策略，计划仅向极少数受限企业发布。
争议与讨论
限制性发布在行业内引发了巨大的撕裂式讨论：
- 安全防御的质变：部分安全专家认为，限制性发布是应对零日漏洞自动化挖掘时代的必要措施。
- "闭源审查"的争议：开源社区质疑将顶尖安全挖掘能力垄断在少数科技寡头和金融巨头手中，会加剧AI霸权，导致广大开源系统在面对被泄露的AI攻击时毫无还手之力。
相关概念
- [[零日漏洞自动化挖掘]] — 限制性发布所针对的核心风险
- [[反蒸馏同盟]] — 另一种形式的限制性策略