动作熔断机制
动作熔断机制是为AI Agent的敏感操作设置的"审校网关"，当检测到具有不可逆物理影响的操作意图时，自动触发人工二次确认。
工作原理
- 治理层自动识别Agent的操作意图
- 判断操作是否具有不可逆的物理影响
- 触发人工二次确认流程
- 仅在获得人类批准后，Agent才能执行该操作
意义
动作熔断机制在"效率"与"安全"之间取得平衡，既保留了AI Agent的自主性，又为高风险操作设置了人类介入的保障。
相关页面
- [[ai-agent安全治理]] — 八步治理框架的第二步
- [[物理安全包络线]] — 自动化的物理安全约束