自动化偏见

自动化偏见（Automation Bias）是指人类过度信任自动化系统，导致自身判断力下降的现象。在[[印度AI Impact Summit 2026]]关于[[失控机器人]]的讨论中，这一概念被引用为关键风险因素。

风险表现

• 监督失效：人类过度依赖AI代理的决策，减少主动监督
• 判断退化：长期依赖自动化系统导致人类自身判断能力下降
• 干预延迟：在AI代理出现异常行为时，人类因信任惯性而延迟干预

治理意义

自动化偏见是[[失控机器人]]风险的重要放大因素。国际AI安全报告指出，代理自治阻碍干预，可能通过自动化偏见侵蚀人类自主。解决方案包括可解释工具、人类监督和零信任模型。