
一款面向客户的问答工具,页面上写着某个知名大模型的名字,后台却还连着企业自己的知识库、检索系统和订单接口。客户提出退货问题时,模型负责组织语言,真正决定能否退款的,是订单状态和企业规则。倘若答错,投诉找的是提供问答工具的企业。这个再普通不过的场景,解释了为什么“调用已备案模型”与“自己的应用也要管好”可以同时成立。
江苏省网信办10月13日发布的公告写明:截至10月12日,新增26款完成登记的生成式人工智能服务,累计登记117款。公告所说的登记管理,指向通过API或其他方式直接调用已备案大模型能力、面向境内公众提供具有舆论属性或者社会动员能力的生成式人工智能服务;已上线的应用或功能应在显著位置或产品详情页标明取得的上线编号。江苏省网信办公告
对开发者而言,值得细看的是服务链的接缝。登记数量上升,表明更多具体应用进入公开可查询的管理范围。它同时把一道很实际的问题推到台前:模型服务商、应用运营方、部署客户各自掌握什么、能改什么,出问题时谁能止损?117是登记服务的累计数量,不能拿来数自主训练的基础模型,更不能由此估算用户数或收入。
一个页面,背后可能有四份不同的控制权
试想一家软件公司做了面向公众的设备维修助手。底层模型由平台提供,软件公司设计提示词和问答界面,设备厂商提供手册,经销商负责在线客服。用户说“机器异常发热”,回答可能会经历检索、模型生成和人工转接。实际业务中,每一环都有人控制一部分,却没有一个人能只靠自己的系统保证最终结果。
第一层是基础能力。模型平台决定API的可用性、模型版本、计费和部分安全策略。第二层是应用编排:谁调用哪个模型、先查哪个数据库、是否允许模型引用未经核对的资料,通常由应用方决定。第三层是业务资料:维修手册有没有更新、过期保修条款有没有撤下、产品安全提示是否完整,掌握在资料持有者手里。第四层是交付现场:用户在哪里看见答案、能否申诉、紧急问题会不会转给真人。把这四层都叫“AI能力”,责任就会糊在一起。
《生成式人工智能服务管理暂行办法》第二条划定了向境内公众提供服务的适用范围,同时明确机构内部研发、应用而未向公众提供服务的情形不适用该办法;第九条要求服务提供者承担相应网络信息内容生产者责任、明确服务协议中的权利义务;第十一条规定对用户输入和使用记录依法履行保护义务。办法全文 这几条放在一起读,可以得到一个朴素的管理原则:底层模型有自己的义务,应用经营者也要把自己能够控制的服务流程落实好。
对企业内部知识库,第一步不是机械套用“公众服务登记”的新闻标题,而是确定实际提供对象、公开范围和功能边界。一个只供员工使用的封闭工具,与开放给公众的在线助手,监管适用和组织责任不能直接画等号;一旦从内测走向公众入口,产品负责人就得重新确认服务主体和实际功能。
上线编号应该放进产品发布流程
公告对已上线应用提出明示上线编号的要求。一个团队可能在网站、微信小程序、手机App和客户嵌入式页面同时提供同一功能。若只在法务留档里保存编号,用户根本找不到。更稳妥的方式是在产品需求和上线检查中设置固定项目:功能对应哪个服务主体,哪个页面向公众展示,产品详情页由谁维护,版本更新后是否还对应原先申报的实际能力。
这里最容易遗漏的是“功能”而非“独立App”。一家企业原本运营普通工具软件,后来加了自动生成工作报告的入口,用户未必下载新产品,服务范围却改变了。产品经理应在需求评审时记录新增生成能力、交互对象及调用路径;合规人员按真实服务形态判断应履行哪些程序,而不是用旧应用的上架日期替代审查。
编号还应与客服系统连在一起。投诉到来时,客服能根据页面、时间、应用版本找到相应的服务配置,定位底层模型与知识库版本,必要时暂停单项功能,而不必等到全站停机。可追溯不是无限制保存用户对话。《暂行办法》第十一条对不必要个人信息收集、非法留存与提供都有明确约束。实际日志方案应按目的设置访问权限和保存规则,对排查所需信息作最小化设计。

拿到模型答案之后,应用还做了哪些动作
登记管理关注的是服务,产品质量往往败在模型以外。客服助手引用过时的退款条款,财务问答把不同公司的制度混为一谈,医疗问询工具在高风险问题上给出过于确定的建议:这些问题各有不同的触发点。应用方可以通过资料版本、引用范围、异常升级和人工复核来降低一部分风险;换一个更大的模型,却无法自动修好失效的业务文档。
设计验收测试时,不妨把“模型说得对不对”拆成几种具体情形:能从指定资料中找到依据吗?资料相互冲突时会怎样?查不到答案会不会编一个?调用工具失败之后,界面会不会把旧数据当实时数据展示?涉及退款、诊断、法律意见等场景时,有无转人工或禁止自动执行的边界?每类情形都能做一组样例,而不必等待真实投诉累积。
企业采用外部API时,还应审查供应合同。模型版本升级是否通知,服务中断如何处理,输入数据如何使用,日志能够查到什么粒度,响应时间和停用流程由谁负责。合同条款可以追究责任,但实际止损取决于应用方是否有切换、限流、回退能力。针对公众产品,把“模型不可用时显示什么”和“高风险请求交给谁”写入发布单,比把安全写成一句宣传语管用。
输出内容还另有一层规则。国家网信办等部门发布的《人工智能生成合成内容标识办法》自2025年9月1日起施行,对适用情形下的显式、隐式标识及导出、传播环节作出要求。标识办法 江苏公告所说的“上线编号明示”和生成内容本身的标识,解决的是两件不同的事:前者让用户识别服务登记信息,后者让接触文本、图片、音视频的人知道内容的生成属性。产品测试要分别检查页面位置、复制导出文件以及下游分享场景,不能用一个页脚文字完成所有任务。
经营问题不能由登记数字回答
117款服务意味着潜在竞争者、合作方和细分应用都在增加,但不同服务的使用频率差异可能极大。有的工具每天处理成千上万次咨询,有的只在特定项目中被偶尔调用。登记名册能帮助确认服务和主体,却没有给出活跃用户、续费、调用成本或毛利。做市场判断时,企业仍得逐一算账。
先看需求。用户究竟希望缩短写作时间、查询业务规则,还是让系统自动执行操作?这三种需求对准确率、授权和审计的要求相差很大。再看成本:每次请求包含多少检索、推理和人工处理,峰值时段是否会拖慢服务,答错一次会带来什么后果。最后看留存:用户下个月仍来用,是因为模型名字响,还是因为应用接入了可靠资料和既有工作流?付费通常发生在后者。
采购方也可以问得具体。供应商是否是登记信息中的服务主体?页面是否按公告明示上线编号?系统调用了哪些模型和外部工具?资料更新后多久生效?遇到错误能否提供复现与纠正路径?如果采购的是仅供内部员工使用的系统,问答重点则应回到数据处理约定、访问控制、业务权限和员工培训,不用把公众服务的登记数量变成内部采购评分。
一个常被忽视的成本来自变更。最初的文本助手可能后来加入图片生成、联网搜索、自动发邮件;研发团队觉得只是多了按钮,风控范围已明显扩张。每次功能变化要保留一页变更说明:新旧调用链、受影响人群、数据范围、人工接管方式、编号展示和生成内容标识是否需要调整。这份记录不华丽,却能让接手项目的人知道系统今天到底会做什么。
企业可以从一张“控制权地图”开始
找一款正在运行的产品,画出用户请求从入口到最终输出的路径,标明每一步的控制者。模型由谁选、资料由谁更新、提示词由谁改、用户投诉由谁处理、故障由谁暂停,都写成具体岗位。然后找三个最近发生的异常:一次答非所问、一次知识库过期、一次外部接口超时。分别检验当时有没有发现、多久修复、用户得到了什么解释。这样的复盘会比通用的“AI合规建设”项目名称更快暴露断点。
江苏的26款新增登记服务给企业的提醒恰在此处。公开服务越来越多,调用模型的技术门槛逐步降低,应用经营者却仍要掌握自己那一段链条:入口怎样呈现、资料怎样更新、风险怎样挡住、问题怎样追溯。若这些工作做扎实,登记信息才能和日常运营相互吻合;若产品交接靠口头传话,一个编号也无法代替管理。
一个季度的试运行,应该留下哪些数
企业可以给应用设一段固定的观察期,避免上了线只看调用次数。第一周记录请求怎样分布:哪些问题能直接命中资料,哪些需要模型自由组织回答,哪些实际上需要人工判断。第二周抽样核对错误答案,标记是模型生成问题、知识库资料过期,还是接口权限配置错误。一个错误即使只出现一次,只要涉及人身安全或财产损失,也应进入单独处置队列,而不能被整体正确率平均掉。
接下来再看修复效率。知识库内容发生变化后,从业务部门确认、系统同步到测试通过用了多少时间?投诉入口来的问题有多少可以凭版本和调用记录复现?产品负责人能否暂停某个知识源,而不影响所有用户的基本查询?这些数字可以按周追踪,但要保留具体案例。仅有一条“回答准确率提高”曲线,无法帮助团队判断下一笔预算应投入模型、数据整理还是人工支持。
还可以做一次针对供应商变更的桌面演练。假设上游API明天更换版本或者停用一个模型,研发、法务、业务和客服各自要处理哪些事情?哪些输出需要重新测试,哪些页面需要更新描述,哪些客户要提前通知?很多团队在选择模型时比较价格和基准分数,却没有算更换依赖所需的人力。应用数量上升之后,这类运维成本会越来越实在。
采购合同要与产品界面说同一种话
企业售前材料可能承诺“答案只使用客户数据”,产品实现却允许公共搜索结果参与生成。销售把它叫“智能补充”,用户理解为数据边界被突破。采购合同、隐私告知、接口配置和实际产品提示应逐项核对:哪些数据发给模型服务商,哪些数据留在本地,日志由谁访问,客户请求删除时各环节怎样响应。纸面上写了边界、系统里没设置对应开关,争议会在第一次异常回答时爆发。
对行业服务商来说,值得投的能力有时非常朴素:可靠的资料更新审批、可复核的答案来源和一键交给人工的通路。这些建设不一定提高演示中的“惊艳程度”,却决定客户能否放心让产品进入日常工作。企业判断应用商的成熟度,也可以在演示时故意提出过期政策、互相矛盾的资料和无法回答的问题,观察系统怎样处理,而不只看它能答出多少标准题。
江苏公布的新登记服务会继续出现在不同场景。投资人关心谁有真实客户,采购方关心谁能稳定交付,用户关心出了错谁来解决。三者拿的都是同一款应用,却需要不同证据。把登记编号、产品版本、真实运行记录连起来,才有条件进行这些判断。
参考资料
- 江苏省网信办:《江苏省生成式人工智能服务登记信息公告(2026年10月12日)》,2026-10-13;26款新增、累计117款、登记范围与上线编号。
- 国家互联网信息办公室等:《生成式人工智能服务管理暂行办法》,2023-07-13发布,2023-08-15施行;第二、九、十一、十七条的适用范围及服务义务。
- 国家互联网信息办公室:《国家互联网信息办公室关于发布生成式人工智能服务已备案信息的公告》,2024-04-02;全国已备案信息公开的背景。
- 国家互联网信息办公室等:《关于印发〈人工智能生成合成内容标识办法〉的通知》,2025-03-14;显式、隐式标识及相关导出要求。
配图为概念示意;文中设备维修助手是分析用假设场景。