摘要：美国国防高级研究计划局宣布，经过改装的标准F-16已经在飞行测试中由AI代理自主控制。飞行员仍坐在驾驶舱内，可以通过开关随时在人类控制和AI控制之间切换。
**摘要：**美国国防高级研究计划局宣布，经过改装的标准F-16已经在飞行测试中由AI代理自主控制。飞行员仍坐在驾驶舱内，可以通过开关随时在人类控制和AI控制之间切换。这不是无人战斗机大规模服役，而是美国将现役飞机改造成可重复验证AI算法的测试平台。真正困难的部分，在于控制权切换、可信边界和异常状态下的人机协同。
AI控制F-16，从专用试验机走向经过改装的标准机型。
7月16日，美国国防高级研究计划局披露，一架标准F-16在VENOM项目下完成自主化改装，并开展由AI代理控制飞行的测试。机上仍保留飞行员，飞行员可以通过开关在人类控制与AI控制之间切换。
该项目延续了X-62A VISTA试验机上的空战进化计划。新阶段的目标，是把AI飞行测试能力扩展到更多常规F-16，支持多个代理、多架飞机和协同作战算法验证。
这项进展不能直接解释为美国已经部署完全自主作战飞机。
它更接近一套可重复、可扩展的实飞试验基础设施。
为什么要改装标准F-16
专用试验机数量少，测试时间和维护资源有限。
如果每一种AI算法都依赖少数特殊平台，验证速度会受到限制。
VENOM项目在标准F-16上增加自主控制套件，使AI代理能够与飞控和任务系统连接，同时保留飞机原有核心软件。DARPA称，飞行员可以随时接管，AI控制层也可以被快速替换和更新。
这样一来，不同研究团队可以在相似硬件条件下测试算法，比较飞行表现，并积累更多真实数据。
它相当于为航空AI建立一个规模化中试平台。
AI控制并不意味着AI掌管全部飞机
现代战斗机本身已经包含大量自动控制系统。
飞控计算机负责保持稳定、限制危险姿态并执行飞行员指令。AI代理位于更高层，根据任务和环境决定机动策略，再通过既有飞控系统执行。
这种分层架构很重要。
底层确定性控制保证飞机不轻易突破安全边界，高层AI负责规划和决策。即使AI给出不合理动作，飞控和安全系统仍可以限制部分危险指令。
类似架构也适用于工业自动化：大模型和智能体负责理解目标、制定计划，PLC、运动控制器和安全系统负责执行确定性动作。
最难的问题是控制权切换
飞行员坐在驾驶舱内，并不代表人类一定能够及时纠正AI错误。
当AI连续控制飞机几分钟后，飞行员可能不了解系统刚刚做了哪些判断。突发异常时，人类需要在极短时间内恢复情境认知，再决定是否接管。
系统必须回答几个问题：
AI当前控制哪些功能；它准备执行什么动作；为什么选择该动作；飞行员接管后哪些自动功能仍在运行；通信或传感器异常时由谁拥有最终控制权。
控制权切换如果设计不清晰，可能出现人类和AI同时发出冲突指令，也可能出现双方都以为对方在负责的空档。
人类在环中不等于安全已经解决
很多自主系统强调“人类在环中”。
这个表述只能说明系统保留了人工干预入口，不能证明人类有足够时间、信息和能力干预。
高速飞行环境中的决策窗口可能很短。AI行为如果缺乏可解释提示，飞行员很难判断它是在执行正常策略，还是已经因错误数据偏离任务。
更有效的设计是“人类在监督回路上”：系统持续向飞行员显示任务目标、置信度、约束状态和下一步计划，重大动作提前请求确认，异常时主动降级。
信任过高和信任过低都会出问题
AI连续表现良好后，飞行员可能形成自动化依赖，减少主动监控。
一旦发生罕见错误，接管速度会下降。
如果系统经常误报或做出难以理解的动作，飞行员又可能拒绝使用AI，使自动化失去价值。
人机协同需要校准信任。
系统应让使用者了解AI擅长什么、在哪些条件下可靠性会下降，以及出现何种信号时必须接管。训练过程也要包含AI失效、传感器冲突和通信中断等场景。
多架飞机协同会放大复杂性
DARPA计划进一步测试多个AI代理和多机协同。
单架飞机只需处理自身状态和任务。多架飞机还要分配角色、共享目标、避免冲突，并在通信受限时保持协同。
一个代理的错误可能影响整个编队。
系统需要确定哪些信息必须共享，哪些决策可以独立完成，以及某架飞机失联后其他飞机如何重新分配任务。
这些问题与无人车队、仓储机器人群和工业设备协同相似，只是航空环境对速度和安全要求更高。
实飞数据为什么不可替代
仿真可以快速生成大量场景，也可以测试危险边界。
真实飞行中的气流、传感器噪声、设备延迟和通信波动很难被完全还原。算法在仿真中稳定，不代表进入真实飞机后仍然可靠。
标准F-16改装平台能够让研究团队反复运行算法，记录真实设备和环境数据，再把结果反馈到仿真和模型训练中。
这构成“仿真—实飞—分析—再训练”的闭环。
对工业AI而言，中试验证也承担同样作用。模型在数字孪生中通过测试后，还要在真实设备、真实节拍和真实异常条件下验证。
对工业智能的启示
矿山车辆、港口设备、巡检无人机和大型工程机械，也在从遥控走向自主运行。
这些设备通常不能把全部控制交给大模型。
更稳妥的架构，是将任务规划、环境理解和协同调度交给AI，把底层运动、安全互锁和紧急停止保留在确定性控制系统中。
人类可以在多个层级介入：批准任务、监控过程、接管设备或触发安全停机。
系统还要保存完整日志，能够复盘AI接收到什么数据、生成什么指令，以及设备为何执行相应动作。
现有公开信息的边界
DARPA公布的是项目进展和测试框架，没有披露算法细节、任务成功率、人工接管次数、异常情况和安全边界参数。
因此，无法仅凭此次披露判断AI控制是否已经达到实战部署要求，也无法比较它与人类飞行员在复杂任务中的整体表现。
军方试验平台与规模化列装之间，还存在验证、认证、训练、成本和作战规则等环节。
结语
AI控制F-16实飞最值得关注的地方，不是“无人战斗机来了”。
VENOM项目把标准飞机改造成可重复测试AI代理的平台，让算法能够在真实设备中积累数据、验证安全边界并研究人机切换。
自主系统发展到后期，技术难点往往不再是让AI完成一次动作。
更难的是确定AI在什么条件下拥有控制权，何时必须交还给人类，异常状态下如何保持系统可控，以及人类能否理解AI刚刚做了什么。
这些问题不仅属于航空和国防，也会出现在工业机器人、无人车辆和关键基础设施中。
主要参考
- DARPA：《VENOM F-16 Begins In-Air Testing with AI Agent in Control》。