Cohere 与德国 Aleph Alpha 签署最终业务合并协议后,“主权AI”再次进入企业管理层的视野。合并后的公司计划继续使用 Cohere 品牌,在多伦多和柏林设立双总部,并保留海德堡研究中心。两家公司瞄准的客户也很清楚:公共部门、金融、国防、能源、制造、电信、医疗,以及所有无法把数据和责任轻易交给外部平台的组织。
这条消息很容易被理解成“私有化部署又火了”。如果企业只得出这个结论,采购时大概率还会走回老路:买一套模型,放进自己的机房或专属云,完成验收,然后宣布数据已经安全、AI已经自主可控。
问题出在“部署”只回答了系统放在哪里,没有回答谁能更换模型、数据经过哪些环节、工具调用由谁批准、日志是否完整、供应商退出后业务还能不能继续。模型装在本地,不等于企业掌握了系统。机柜属于企业,里面的黑盒仍可能属于别人。
主权AI更适合作为一套控制权来理解。企业至少要把模型、数据、运行、治理和持续运营这五层控制权逐项做实。少一层,所谓主权都可能在真实业务压力下失效。
一、模型控制权:企业要能决定用什么,也要能决定什么时候换
模型控制权常被简化为“权重是否在手里”。权重当然重要,但对企业而言,真正有用的控制权包含一整套可执行能力:模型版本由谁批准,更新能否延期,旧版本能否继续运行,输出质量下降时能否回滚,某个供应商停止服务后是否有替代方案。
很多私有化项目看上去把模型搬进了客户环境,升级节奏仍由供应商决定。授权文件到期,模型无法继续使用;推理组件只支持指定硬件;提示词模板、微调工具和评测框架与某一家产品深度绑定;出了问题,客户只能等待原厂修补。这种部署方式降低了数据外流概率,却没有给企业真正的选择权。
企业在采购阶段就该问一些不太“性感”、却决定项目寿命的问题:模型文件和运行组件分别由谁保管?版本更新是否强制?能否在隔离网络或气隙环境中完成升级?历史版本保留多久?推理接口是否足够稳定,替换底层模型后,上层应用要改多少代码?模型生成结果的评测集掌握在谁手里?
模型控制也不意味着所有企业都要自己训练基础模型。大多数企业没有这个必要。更现实的做法是保留多模型切换能力,把业务流程、权限规则和评测标准留在自己的控制面中。底层模型可以采购,上层判断不能随采购合同一起外包。
Cohere 与 Aleph Alpha 的合并之所以值得注意,正在于两家公司都把客户对AI技术栈的控制放在企业产品的中心位置。Aleph Alpha长期面向政府和强监管行业,Cohere强调企业私有部署与隔离VPC。合并能否兑现承诺,还要看交易完成后的具体产品与合同,但市场需求已经摆上桌面:完成一次安装远远不够,客户还要长期选择模型和运行方式。
二、数据控制权:边界要落实到每一次读取和每一份衍生物
“数据不出域”是主权AI项目里最常见的承诺,也最容易停留在口号上。数据是否离开企业网络,只是第一道问题。进入模型前如何检索,提示词是否被保存,向量库由谁运维,缓存何时清理,反馈数据会不会进入后续训练,生成文档和日志属于谁,这些才决定数据边界是否完整。
Agent进入业务系统后,情况会更麻烦。它不只读取一份文档,还可能查询客户记录、订单、合同、代码仓库和内部通讯,再把信息组合成新的结果。单独看每次访问都符合权限,组合后的输出却可能暴露超出用户职权的信息。例如,一名员工有权分别查看两个系统中的局部字段,并不表示他有权获得系统自动拼接出的完整客户画像。
因此,数据控制必须覆盖原始数据、检索结果、上下文、模型输出、缓存、日志和人工反馈。企业还要知道每类数据在哪个位置保存,保留多久,谁能导出,谁能删除。只管理数据库而不管理提示词与输出,相当于锁住仓库大门,却把每天装车运出的货物留在无人登记的停车场。
这里还涉及数据用途。用于当前任务的数据,能否被供应商拿去优化通用模型?用于质量评估的数据,是否包含真实业务内容?员工纠正Agent的结果,会进入企业自己的知识资产,还是沉淀在供应商平台?如果合同只写“不会泄露客户数据”,这些具体问题通常得不到答案。
比较稳妥的做法是按业务目的授予数据访问权,让Agent每次取数都带上用户身份、任务目的与时间范围。敏感数据尽量在靠近数据源的位置完成筛选,传给模型的内容保持最小化。输出也要重新做权限判断,不能因为模型已经读取过,生成结果就自动获得更宽松的传播范围。
三、运行控制权:系统做什么,应由企业的规则在执行前决定
聊天机器人时代,风险主要集中在“说错话”。Agent开始调用工具以后,风险转向“做错事”。创建账号、修改Webhook、发送消息、更新订单、生成并提交代码,这些动作会改变真实系统状态。此时,仅仅拥有模型和数据还不够,企业必须掌握运行时的开关。
9月17日的AI日报提到,Meta上线WhatsApp Business Tools MCP,使Claude、Cursor、Codex、ChatGPT等Agent能够通过自然语言配置WhatsApp Business账户、号码、消息模板、Webhook和测试消息。这个例子很具体:模型已经不满足于解释API,它可以直接完成配置。
对企业来说,MCP或其他工具协议只是连接方式。最重要的问题是连接后的执行规则。谁可以创建号码?测试消息可以发给哪些对象?模板发布前是否要审批?Webhook修改是否需要双人确认?夜间批量操作有没有额度限制?这些判断不能埋在一段提示词里,更不能完全交给模型临场决定。
运行控制应该设置在工具真正执行之前。Agent可以提出动作,策略引擎根据用户身份、业务对象、金额、环境、时间和历史行为作出允许、拒绝或转人工的决定。高风险动作需要确认,低风险动作可以自动完成;生产环境和测试环境使用不同规则;连续的小额操作还要结合整段会话判断,避免每一步合法、累计结果失控。
另一个容易忽略的问题是停止能力。企业能否暂停某个Agent,撤销它的凭据,切断单一工具,限制并发,冻结异常会话?如果唯一手段是关闭整套AI平台,说明运行控制仍然粗糙。成熟的控制面应当允许企业精确地停掉一个身份、一类动作或一条工作流,并且不影响其他正常任务。
四、治理控制权:权限、审计和责任必须连在一起
不少项目把治理等同于留日志。日志确实重要,但保存一堆无法关联用户、任务和结果的调用记录,没有多少审计价值。有效的审计应该回答:谁提出了任务,Agent使用了哪个身份,读取了什么数据,采用哪个模型版本,调用过哪些工具,哪一步得到人工批准,最终对业务系统造成了什么变化。
这要求企业给Agent建立正式身份。共享一个超级账号最省事,也最危险。所有动作混在一起,事后既无法区分用户授权,也无法判断是哪个Agent、哪次会话造成问题。Agent身份应与员工身份、服务账号和具体任务关联,权限按需发放并设置有效期。
治理还包括责任分配。业务部门不能把流程交给Agent后,把所有问题都推给IT;IT也不能因为模型由外部厂商提供,就把输出责任交给供应商。一个生产级工作流至少要明确业务负责人、系统负责人、数据负责人和异常接管人。发生误操作时,谁先停止流程,谁判断影响范围,谁联系客户,谁批准恢复,都应当提前写进流程。
审计记录也不能只为事故追责服务。它还是优化系统的依据。哪些任务频繁转人工,哪些工具调用最容易失败,哪个模型版本导致返工增加,流程发生变化后Agent是否出现漂移,这些都需要从可追踪的运行记录中得出。Brackett AI发布的Agent Effectiveness Index把关注点放到“学习真实流程、执行动作、随流程变化持续适应”,恰好提醒企业:一次演示成功,离长期可用还很远。
真正有用的治理不是给项目增加一叠审批表。它要让日常运行更清楚:安全动作自动走,模糊动作有人接,高风险动作留证据,异常发生后可以快速还原现场。
五、持续运营控制权:供应商变化时,业务不能跟着停
主权AI最后一层常在签约时被忽略,直到续费、升级或供应商调整才暴露出来。企业要问的是:三年后这套系统还能否由自己或另一家服务商维护?如果原厂涨价、改变产品路线、合并、停止某个版本,企业有没有迁移时间和迁移工具?
Cohere与Aleph Alpha正在推进公司级整合,这本身就说明AI供应市场会持续变化。合并可能带来更完整的产品,也可能调整品牌、接口、授权与支持方式。企业不需要预判每一笔交易,但必须把供应商变化视为正常情况,而非极端事故。
持续运营控制至少包括配置可导出、日志可迁移、业务知识可读取、评测集归企业、接口有替代实现、关键人员掌握运维方法。企业还要保留一套最低可运行方案:外部连接中断时,哪些任务可以在本地继续;主模型不可用时,哪些流程能切换到备用模型;自动化暂停后,人工流程如何接回。
很多AI项目把知识写进提示词、工作流节点和供应商专有格式,时间一长,这些配置就成了新的业务系统。若企业无法完整导出,或者导出后缺少语义说明,迁移成本不会比更换传统核心软件低。合同可以写明退出权,真正可用的退出能力还需要定期演练。
运营团队也需要真实经验。系统上线后完全依赖外部顾问,内部只负责提需求和看报表,控制权很难成立。企业不必把全部工作收回,但至少要能独立完成权限调整、版本回滚、日志检查、故障隔离和供应商切换评估。
六、采购时别再只问“能不能私有化”
“支持私有化部署吗”仍然是必要问题,只是它太宽,供应商很容易用一个“支持”结束讨论。企业可以把问题拆成五张清单。
第一张清单看模型:权重、许可证、版本、回滚、替换和评测。第二张看数据:读取范围、衍生数据、缓存、日志、训练用途与删除。第三张看运行:工具权限、确认机制、额度、停止和恢复。第四张看治理:身份、审计、责任、异常接管与合规证据。第五张看运营:导出、迁移、备用方案、内部能力和退出演练。
这些问题不必一次做到最高标准。客服知识问答与资金操作Agent的风险差别很大,控制强度也应不同。关键在于企业明确知道自己放弃了哪部分控制、换来了什么效率,并为剩余风险安排责任人。最糟糕的状态是以为系统已经自主可控,真正出事时才发现模型不能换、日志看不懂、账号无法单独撤销、业务知识也导不出来。
主权AI并不要求企业关起门来完成所有技术工作。它允许使用外部模型、云资源和专业服务,前提是最终决定权、证据和退出通道仍在企业手里。部署位置只是起点。五层控制权能够落到合同、架构和日常操作里,“主权”才不再是一句产品宣传语。