物理护栏（Physical Railings）
物理护栏是为AI智能体设置的安全约束，确保其行为不会导致物理世界的灾难性后果。这一概念在S4x26上由AI安全专家提出，以回应老工程师对AI自主性的担忧。
核心关切
老工程师担心：“AI智能体自动修漏洞时，万一它觉得把整个工厂关掉是最安全的方案怎么办？”物理护栏正是为了解决这一问题而设计。
阿西莫夫工控三定律
AI安全专家提出了“阿西莫夫工控三定律”作为概念性护栏，类比阿西莫夫机器人三定律，为工控AI智能体设定基本行为准则：
- 第一定律：AI智能体不得采取导致物理设备损坏或人员伤亡的行动
- 第二定律：AI智能体必须服从人类操作员的合法指令，除非与第一定律冲突
- 第三定律：AI智能体必须在自身能力范围内保护自身安全，除非与第一、第二定律冲突
意义
物理护栏反映了在AI自主性增强的背景下，对安全边界的核心关切。如何在AI智能体的自主决策与人类控制之间找到平衡，是Agentic Security时代的关键挑战。