摘要：工业智能体接入设备、软件和生产系统后，能力上限不只取决于模型能做什么，还取决于异常能否被识别、升级、接管、停机和恢复。
一套设备出现振动异常。
工业智能体读取传感器数据，查询维修记录，判断轴承可能磨损。随后，它准备调整转速、修改报警阈值，并生成检修工单。
如果判断正确，这套流程可以节省一次人工排查。
如果传感器漂移、设备型号识别错误，或者智能体引用了另一条产线的维修经验，连续几个看似合理的操作可能扩大故障。
工业现场需要回答几个具体问题：
- 智能体发现异常后，应当继续处理还是暂停任务；
- 哪些操作可以自动执行；
- 哪些操作必须交给工程师；
- 谁拥有叫停权限；
- 停止之后如何恢复；
- 错误决策如何进入后续改进。
这些问题可以借鉴制造业已经使用多年的安灯机制。
一、安灯解决的核心问题：让异常被看见
安灯通常译作Andon，是丰田生产方式中识别和处理异常的一套现场机制。
设备检测到异常后可以自动停止，同时点亮安灯板，通知现场人员。人工装配线上，员工发现质量问题、设备故障或作业延迟，也可以拉动安灯绳，请求负责人支援。（toyota-global.com）
安灯的重点包括四件事：
- 发现异常；
- 显示异常发生的位置和类型；
- 请求合适的人处理；
- 防止问题继续流入后续工序。
拉动安灯绳不一定立即让整条生产线停下来。
部分生产线上，第一次触发表示请求支援。班组长需要在工件离开当前工位前处理问题；如果问题无法解决，生产线才会停止。设备自动检测到明确异常时，也可以直接停机。丰田将这种机制放在“自働化”体系中，即设备能够识别异常，人员集中处理异常，无需一直盯着机器。（toyota-global.com）
这与急停按钮存在区别。
急停用于应对人员伤害、设备危险等紧急情况。ISO 13850规定了机械急停功能的设计原则，强调急停应通过单一人工动作触发，并作为其他安全措施之外的补充保护。（iso.org）
安灯覆盖的范围更广。它可以处理质量偏差、物料缺失、节拍延迟、操作困难和设备异常。很多事件还没有达到人身安全事故的程度，却需要及时升级。
工业智能体也需要这样的中间层。
二、工业智能体为什么容易把小错误变成连续错误
传统自动化程序按照预先编写的逻辑运行。
温度超过阈值，程序触发报警；压力低于下限，控制器关闭阀门。输入、条件和动作可以逐项检查。
工业智能体增加了语言理解、知识检索、任务规划和工具调用能力。它可以处理表达不统一的问题，也可以根据多种信息选择处理步骤。
这种灵活性带来几类新问题。
1. 判断带有概率
智能体可能给出置信度很高的错误答案。
设备名称相似、测点单位不同、文档版本过期、图片角度不清，都可能影响判断。模型输出流畅，不代表结论可靠。
NIST将有效可靠、安全、可解释、可追责等列为可信AI的重要特征，并提出具体指标和阈值需要结合使用场景，由人参与判断。（nist.gov）
2. 错误会沿着工具链传递
工业智能体可能依次执行：
1 | 读取报警 → 查询设备档案 → 选择维修方案 → 修改参数 → 创建工单 → 通知相关人员 |
第一步设备匹配错误，后面的操作仍可能正常完成。
系统日志会显示每个工具都调用成功，业务结果却是错误的。
3. 知识可能脱离当前工况
同一型号设备在不同负载、环境温度、介质和维护周期下，处理方法可能不同。
智能体从知识库找到一个相似案例后，容易把案例中的处理步骤直接用于当前设备。缺少工况校验时，相似经验会变成错误依据。
4. 智能体会扩大任务范围
用户要求“分析振动原因”，智能体可能继续创建维修单、申请备件或调整运行计划。
这些动作看起来有助于完成任务，却超出了原始授权范围。
5. 物理过程难以完全回滚
生成一份错误报告，可以删除后重写。
错误调整阀门、转速、温度或机器人运动路径后，设备磨损、产品报废和人员风险已经发生。
因此，工业智能体的执行权限不能只由模型自己判断。
三、什么是工业智能体的“数字安灯绳”
数字安灯绳可以定义为：
当工业智能体遇到不确定、越权、异常反馈或高风险操作时，暂停当前流程，保留现场状态，把问题和证据提交给指定人员或安全系统处理。
它需要覆盖七个步骤。
第一步：识别异常
异常来源可以包括：
- 模型置信度过低；
- 多个数据源相互矛盾；
- 测点超过工艺范围；
- 当前设备与知识案例不匹配；
- 规则引擎拒绝操作；
- 工具返回异常结果；
- 操作超出用户授权范围；
- 计划中出现不可逆动作；
- 设备反馈与预期不一致。
第二步：冻结当前任务
智能体停止继续调用工具。
已完成的操作保持记录，未执行的操作进入等待状态。系统不能让智能体在异常发生后自行改写日志、扩大权限或反复尝试高风险动作。
第三步：保存异常现场
数字安灯事件至少需要保存：
- 用户原始任务；
- 智能体生成的计划；
- 使用过的数据和文档；
- 模型判断和置信信息；
- 已调用的工具；
- 输入参数与返回结果；
- 当前设备状态；
- 尚未执行的步骤；
- 触发暂停的具体规则。
工程师接管时应看到完整上下文，避免重新排查全部过程。
第四步：发送给合适的人
不同异常应当进入不同处理队列。
设备参数问题交给设备工程师，工艺问题交给工艺人员，软件运行问题交给系统管理员，涉及生产安全的问题交给值班负责人和安全系统。
所有异常都发送给同一个管理员，会形成大量无效告警。
第五步：人工或确定性系统决策
处理人员可以选择：
- 继续执行；
- 修改参数后继续；
- 退回上一步；
- 更换处理方案；
- 取消任务；
- 启动安全停机；
- 转交更高级别人员。
涉及安全联锁和设备保护的动作，应由PLC、SIS、安全控制器或经过验证的确定性程序完成。语言模型可以解释情况、整理证据和提出建议，不宜承担最终安全联锁职责。
2026年一项边缘机器人安全研究也指出，AI感知具有概率性，而工业功能安全要求确定性行为。其方案将自然语言安全规则转换为可执行条件，再通过冗余计算和独立控制路径执行安全动作。（arxiv.org）
第六步：受控恢复
异常解除后，系统不能自动回到中断前状态。
恢复流程需要确认：
- 故障是否排除；
- 设备是否处于安全状态；
- 数据是否恢复正常；
- 之前的命令是否需要撤销；
- 后续步骤是否仍然有效；
- 是否需要重新规划任务。
机械急停功能通常要求通过明确的人工动作复位。数字安灯也应保留清晰的恢复责任人和恢复记录。（iso.org）
第七步：形成改进记录
安灯事件不应只停留在告警日志里。
企业需要分析：
- 为什么触发；
- 哪条规则有效；
- 哪条规则缺失；
- 智能体用了什么错误信息；
- 人工如何处理；
- 同类异常是否重复发生；
- 知识库、模型、流程或设备是否需要调整。
处理结果可以进入测试集和知识库，但不能未经审核直接写回长期记忆。
四、可以把异常分成四个等级
所有异常都要求人工审批，会拖慢生产。
所有异常都交给智能体处理，又会放大风险。
工业智能体可以按影响范围、可逆性和确定程度分为四级。
L0：记录，不中断
适用于不影响当前任务的小问题。
例如：
- 文档中缺少一个非关键字段；
- 某个查询接口响应稍慢；
- 两份资料存在格式差异；
- 输出报告需要补充说明。
智能体继续工作，同时记录事件，供后续分析。
L1：自动纠正后继续
适用于低风险、可恢复、处理规则明确的问题。
例如：
- 接口调用超时后重试一次；
- 文件格式不兼容时进行转换；
- 查询结果为空时改用备用数据源；
- 报表字段缺失时重新生成；
- 临时文件创建失败时更换目录。
自动纠正需要设定次数上限。
连续重试不能解决问题时，事件自动升级到L2。
L2：暂停并请求人工确认
适用于存在歧义、影响业务结果或涉及外部系统的操作。
例如：
- 两个传感器给出冲突数据；
- 设备型号无法唯一匹配；
- 需要修改工艺参数；
- 需要覆盖已有文件；
- 需要向外部人员发送报告；
- 需要调用新的MCP工具；
- 需要访问未授权的数据源；
- 模型准备扩大任务范围。
智能体可以给出处理建议，但执行按钮由工程师掌握。
L3：安全停止并隔离
适用于可能造成人员伤害、设备损坏、批量质量问题或生产系统失控的情况。
例如：
- 设备状态超过安全边界；
- 机器人运动路径进入人员区域；
- 连续控制指令与反馈方向相反；
- 安全传感器失效；
- 智能体试图绕过权限；
- 多个关键测点同时异常；
- 控制系统与智能体状态不同步。
此时由安全控制系统执行停机、降级或隔离。智能体只负责提交事件信息。
NIST在2026年发布的关键基础设施AI风险管理概念文件中，也把保持人工在环监督、异常条件下提醒人类负责人以及持续风险监测列为重要方向。（nist.gov）
五、数字安灯不能只依赖模型“自觉”
很多智能体系统使用一段提示词控制行为：
1 | 遇到不确定情况时，请停止操作并询问用户。 |
这句话可以改善模型表现，却无法构成工业控制措施。
模型可能没有识别到自己不确定，也可能错误判断当前操作风险较低。外部文档、提示词注入和异常工具返回还可能改变模型的执行方式。
数字安灯应由模型之外的组件共同完成。
一个较完整的架构可以分为五层。
第一层：智能体规划层
负责理解任务、检索知识、生成计划和提出操作建议。
第二层：策略与规则层
检查每个操作是否符合：
- 用户权限；
- 设备范围；
- 数据范围；
- 工艺约束；
- 操作时段；
- 风险等级；
- 审批要求；
- 工具白名单。
第三层：工具执行网关
所有数据库、API、CLI、MCP和工业软件调用都经过统一网关。
网关记录参数、限制调用次数，并阻止智能体直接连接生产系统。
第四层：安全控制层
由PLC、SIS、安全控制器或经过验证的程序实现。
它拥有高于智能体的优先级，可以拒绝命令、切换安全模式或执行停机。
第五层：审计与事件层
保存智能体计划、数据来源、工具轨迹、人员审批和设备反馈，形成完整的安灯事件记录。
模型无法关闭这一层，也不能修改已经形成的审计数据。
六、几个工业场景怎样设置数字安灯
场景一：设备维修助手
智能体根据振动、温度和维修记录判断轴承异常。
它可以自动完成：
- 查询设备档案；
- 查找维修案例；
- 生成原因列表；
- 推荐检查项目；
- 起草维修工单。
以下操作触发人工确认：
- 修改报警阈值；
- 调整设备转速；
- 切换运行模式；
- 申请停机；
- 订购高价值备件。
测点超过安全边界时，安全控制系统直接接管。
场景二：视觉质检智能体
智能体识别产品表面缺陷，并决定是否放行。
低置信度图像进入人工复核，连续出现同类缺陷时触发工艺人员检查。模型版本变更后，需要重新验证误检率和漏检率。
涉及整批产品放行或报废时，由质量负责人审批。
场景三：工业软件操作智能体
智能体调用CAD、CAE或工艺软件，自动完成模型检查、参数配置和批量计算。
它可以自动处理临时文件、格式转换和结果整理。
以下事件触发暂停：
- 模型单位不一致；
- 材料参数缺失；
- 边界条件冲突；
- 求解结果不收敛；
- 新结果与历史结果差异过大；
- 准备覆盖正式版本；
- 准备把结果写入PLM或工艺系统。
人工确认的对象应包含输入文件、参数变化、结果摘要和影响范围，不能只显示“是否允许继续”。
场景四：能源优化智能体
智能体根据负荷、价格和设备效率调整运行方案。
它可以生成调度建议和节能预测。
修改设备设定值之前，系统需要检查工艺下限、设备爬坡速率、联锁状态和生产计划。节能方案影响产品质量或安全冗余时，自动升级给生产负责人。
场景五：机器人操作智能体
智能体根据自然语言生成机器人任务。
路径进入限制区域、视觉目标丢失、夹具状态异常或人员进入工作区时，由独立安全系统停止运动。语言模型不能覆盖安全PLC和区域防护信号。
七、数字安灯需要设计“谁来响应”
安灯亮起后无人处理，系统仍然失效。
企业需要为每类事件确定：
- 第一响应角色；
- 备份响应角色；
- 升级条件；
- 超时后的处理方式；
- 夜间和节假日值班安排；
- 可以批准哪些操作；
- 可以恢复哪些设备；
- 谁负责事件关闭。
智能体还应把信息整理成便于判断的异常包。
异常包可以包括：
1 | 设备：压缩机C-203 |
这样的信息比一句“任务执行失败”更有用。
八、中试验证要专门测试智能体会不会停
工业智能体中试不能只验证功能是否完成。
还要验证系统在异常情况下能否及时暂停、正确升级和安全恢复。
测试可以包括：
数据异常测试
- 缺失数据；
- 重复数据；
- 单位错误；
- 时间戳错位；
- 多数据源冲突；
- 传感器漂移；
- 超出合理范围的数据。
知识异常测试
- 过期规程；
- 错误设备手册；
- 相似型号资料；
- 相互矛盾的维修案例；
- 缺少来源的知识条目；
- 带有隐藏指令的外部文档。
工具异常测试
- API超时；
- 权限不足；
- 返回空结果；
- 重复执行；
- 参数格式错误；
- 工具返回成功但设备无响应；
- MCP服务器返回与任务无关的内容。
权限测试
- 越权读取文件；
- 调用未授权工具；
- 扩大设备控制范围；
- 绕过审批；
- 修改审计日志；
- 使用其他项目的记忆和知识。
恢复测试
- 暂停后继续；
- 从检查点恢复；
- 回滚已执行操作；
- 更换模型后接续任务；
- 网络中断后恢复；
- 人工接管后重新交还智能体。
测试结果应形成中试报告，记录触发条件、系统动作、人工响应、恢复结果和遗留风险。
九、数字安灯可以用哪些指标评价
企业可以建立一组可计算指标：
- 异常识别率；
- 高风险事件漏报率；
- 无效告警率；
- 自动纠正成功率；
- 人工升级命中率；
- 从触发到响应的时间；
- 暂停后上下文保存完整率；
- 回滚成功率；
- 同类异常重复发生率；
- 未经批准执行高风险操作的次数；
- 审计记录完整率；
- 异常处理后知识更新的审核率。
其中，高风险操作绕过审批的次数应保持为零。
告警数量也不能越多越好。大量低质量告警会让工程师形成疲劳，后续可能直接忽略提示。系统需要持续调整规则，把高频、低风险、处理方式明确的问题逐步转为L1自动纠正。
十、工业智能体的能力上限由控制机制决定
工业智能体能够读取更多数据、调用更多软件、处理更长流程后，单次错误的影响范围也会扩大。
企业不能只考察它会做多少事情。
还要检查：
- 它能否识别自己遇到异常；
- 能否在合适的位置停下来；
- 能否把问题交给合适的人；
- 能否阻止未经批准的动作；
- 能否保留完整证据；
- 能否在处理后安全恢复。
安灯机制给工业智能体提供了一个清晰思路：异常需要显现，责任需要明确，支持需要及时，问题需要留痕。
数字安灯绳也不只是界面上的一个红色按钮。
它由异常检测、风险分级、任务冻结、权限控制、人工接管、安全停机、受控恢复和事件审计组成。
工业智能体接入生产系统之前，应先回答一个问题：
当它做不下去、判断不清楚或者准备做出高风险操作时，谁能够拉下这根绳子？