把一千个判断压进一次推理:Gemini Decisions API正在改写智能体的成本结构

Gemini Decisions API与批量决策:封面图
读者提供的主题配图。

2026年11月11日,Google在官方开发者博客发布Gemini Decisions API。名字听着像又一个模型接口,但它要做的并不是生成一段漂亮回答,而是迅速完成一批有明确选项的判断。开发者传入文本、图像、音频、视频或PDF,附上问题和候选答案,接口返回相应概率与置信度。按Google公布的规格,一批请求最多包含一千个独立问题,单次输入最高256K词元;厂商测试中的端到端时延约150至250毫秒,每百万输入词元收费0.10美元,不收输出词元费。延迟和准确率能否复现,仍要看开发者自己的业务负载。

一、一个被生成式AI掩盖很久的需求

过去三年,写文章、生成代码、回答开放问题让大模型广为人知。企业系统里的许多调用却只需要做选择:邮件转采购还是质量部门?售后工单属于设备故障、操作问题还是备件查询?照片能否作为质量报告附件?用户的问题该交给文件搜索、数据库还是计算服务?答案有时只有“是”或“否”。通用语言模型处理这类分类仍可能逐词生成文本,再由程序解析;输出格式、重复提问和失败重试让频繁的小判断并不便宜。

Gemini Decisions API把这类任务从文字生成中单独拿出来,集中求解有界选择。Google称底层模型为Gemini Decision 1,支持真假判断、候选项选择和量规评分。它仍要读懂文档及多模态内容,并非关键词匹配;不同的是,开发者先规定答案形式,下游直接接收结构化概率。工业系统里也常把复杂规划、条件判定和实际执行分开:规划交给上位系统,专门模块判定条件,执行组件受权限与物理约束控制。智能体可以借鉴这种算力分工。

二、一次输入与一千个问题的关系

“一千个问题”不等于低价读完一千份不同合同。Google描述的重点,是让同一份多模态材料供多组独立判断复用。一份设备采购合同,风控部门可能检查签署主体、付款方式、交货周期、责任划分、数据出境条款、知识产权、验收标准与争议处理。过去逐项调用模型,往往反复传送整份合同;现在可以尝试一次输入合同和检查清单。对于长期固定的审核项目,少传几次背景材料就有实际意义。

问题是否独立,仍由业务决定。若第二项检查依赖第一项确认的适用法律,就不能因为接口支持并列评分而跳过前置判断。合同附件缺失时,某些授权问题也无法得到可信答案。系统应记录对应页码、提取字段和前置条件;存在依赖时改用顺序流程。批量接口省去了重复处理,却不会替企业理清规则之间的关系。

三、概率与置信度不是签字盖章

概率容易接进自动化流程,也容易让人误以为它就是审批依据。模型给“符合政策”打0.92分,并不能据此批准十万元采购。先要用接近现场的样本检验概率校准:模型说有九成把握的那批案例,长期观察是否真的约九成正确?通用评测集的成绩不一定能搬到本企业的工单、合同、术语和模糊影像上。

阈值应按误判后果设置。资料归档出错后尚可人工调整;账户删除、付款、工厂控制参数和人身安全相关操作则需要更严格的人工确认或双重核验。阈值要从验证集得出,不能照抄别人的数字。模型版本、输入资料版本、候选项、概率、人工处理结果都应留存。出了错,至少要能分清是识别材料时出错、选项设计有问题、模型判错,还是执行环节越权。

Gemini Decisions API批量决策:正文配图
读者提供的主题配图。

四、为什么它特别适合成为Agent的路由层

企业Agent可能接入文件系统、PLM、ERP、质量数据库、MES、设备时序系统和工程仿真工具。用户说“分析这个批次的缺陷原因”,系统得先判断从哪里找资料。每次选工具都叫昂贵的主模型生成长篇解释,成本和尾部延迟会层层累积。可以让决策器根据用户问题、工具描述和可用权限给候选工具打分,再由权限系统过滤,主模型集中处理后续分析。

路由建议不能替代授权。即便模型给“写入MES”很高的分数,只读账户也不能写入。令牌、资源ACL和可审计策略引擎负责决定操作能否执行;模型最多帮助说明原因。选工具还要考虑服务是否可用、版本、地区和当前事务状态。容易重试的流程应加幂等标识,避免重复建单或付款。

五、多模态评分有不同于文本判断的挑战

Google称接口支持图像、音频、视频与PDF,因此质量检查、内容审核、文档流转都可能用得上。拿设备铭牌照片来说,一次请求可以检查型号能否识别、序列号是否清晰、铭牌是否完整、有无遮挡。维保视频则可能用于核对防护装备和指定步骤。不过拍摄角度、光照、压缩痕迹、相机位置和时间同步都会影响视觉判断。标签分数再高,也不能单独证明现场作业合规。

工业检测尤其如此。图像分类可以筛出待查对象,最终验收还可能依赖标定量具、3D测量、材料报告、工艺参数和质量标准。视频某一帧出现安全帽,不代表整段作业都在佩戴。多帧取样、确定性规则与人工复核仍有必要;模型适合缩小复查范围,而不是替代整套检测制度。

六、150毫秒能解决什么,不能解决什么

Google报告的150至250毫秒端到端时延,为交互设计提供了参考。判断够快,动态工具提示、表单纠错和输入中的检查才更可能顺畅。但一次业务操作还会经过VPN、上传、图像预处理、字段抽取、数据库查询与权限检查,单看模型时延可能会低估等待时间。跨境网络和本地化部署也会改变结果。

上线要看P95、P99延迟、并发上限、超时率、服务区域、可用性和故障降级。一个Agent连调十次接口,只要其中一次超时,整条链路就会变慢。测试最好覆盖从几十到数千并发,分别观察常态、突发流量与模型服务故障,再确定缓存、批量提交、后备规则和人工接管办法。

七、极低单价会改变哪些账目

每百万输入词元0.10美元,对频繁评分的程序很有吸引力,尤其是与逐词生成输出的通用模型相比。但合同审核可能输入长PDF、图片和多个选项,多模态及附加功能的账单仍要按正式API计费规则核对。预处理、网络、存储、日志、人工评审与异常修复也要花钱;跨系统项目里,连接旧系统甚至比调用模型更贵。

更合适的口径是每完成一件有效业务要花多少。低价模型若常常误判,反复提问和复核会吃掉报价优势;稍慢的路由器若能少叫几次昂贵的主模型,也可能降低整条流程的费用。把正确率、概率校准、人工接管率、每千件业务支出、延迟分布和维护工时放在一起算,才知道新接口是否划算。

八、不同行业该怎样试点

软件团队可以先在CI里判断提交是否涉及安全配置、要不要更新文档、该跑哪类测试,并保存依据与日志。客服可以试意图路由,同时列明必须人工处理的投诉。知识管理可检查文件是否过期、标题是否对题、有无疑似敏感信息。工业团队不妨从工单与手册标签入手,暂时别让分类结果直接操作PLC,先对照实际处理结果积累误差样本。

试点分三步更稳妥:拿经专业人员确认的历史数据离线盲评;上线影子模式,只出建议不改变流程;最后仅对误判代价较低的类别开放自动执行。各阶段记下部署日期、样本覆盖、错误类型与修复成本。高风险业务或某个地区的样本分布变了,就退回人工或确定性规则。比起一次把所有判断交给模型,这样更容易看清它究竟做得怎样。

九、从通用语言模型到可组合的智能服务

统一聊天框看上去能做一切:分类、查询、写报告、审批、调用工具。实际工程可以分得更细。长期规划和复杂写作用强推理模型,短而频繁的分类交给决策服务,搜索交给检索系统,数值计算交给求解器,授权和执行仍由软件基础设施把关。每一层独立监控,也方便日后更换组件。

这套分工不要求企业一定采购Google接口。本地分类模型、传统机器学习、规则引擎和开源推理框架都可参与比较。云API只是一个商业基准,团队要拿真实数据核对准确率、延迟和费用。数据不能出厂时,还须查清输入与日志保留政策,必要时用本地部署或分级匿名化。新接口方便,并不是丢掉现有安全安排的理由。

十、一个值得继续观察的分水岭

11月11日,Google把“判断”单独做成了产品。开发者可以重新盘点提示词调用:哪些真要生成一段文字,哪些只需给选项评分,哪些干脆用程序规则解决。对企业Agent来说,先建业务评测、分层路由和审计记录,再根据实测结果决定是否接入;没有必要看到新API就整套迁移。

十一、把评测嵌入业务流程,而不是留在实验室

落地时先抽取有代表性的历史工单,保存各题合法选项、正确答案、人工确认记录与争议理由。给现有模型和规则系统建立基线:简单题准确率、难题错误分布、总耗时与复核量;再用同一批冻结样本测试新API,重点找那些高置信度却判错的案例。还要放进选项无法覆盖的输入,例如模糊照片、损坏PDF、截断的用户诉求和缺上下文的截图。如果业务允许拒答,明确转人工阈值,别强迫模型每题都选一个。合同付款、停机、人员准入的审批及现场联锁机制仍要保持。

预算别只写调用费,还要算标注、版本验证、集成、异常复盘与权限管理。低报价能帮助决定从哪里试,但ROI取决于流量、复核率和错误的经济后果。模型升级时保留测试快照,看看低频异常是否增加。做到这些,专用API才是可比较、可替换的系统组件,而不是新的业务黑盒。

参考资料

  1. Google官方,Gemini Decisions API: Fast, calibrated multimodal decisions,2026-11-11,https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/
  2. Google官方,Get certified as a Google Cloud Professional Agentic Architect,2026-11-11,https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/professional-agentic-architect/
分享到