AI Gateway

Cloudflare 的 AI 模型统一推理层，在 Agent Week 中进化成支持 12 家主流模型供应商、70 多种模型的“超级路由”。它是 Agent 的神经中枢，负责模型调用的高可用性、多供应商路由和私有模型接入。

核心功能

自动故障转移（Automatic Failover）

允许配置优雅的回退链。例如：首选 OpenAI，如果超过 3 秒没有响应或返回 500 错误，AI Gateway 会无缝、自动、近乎零感知地把请求路由给 Anthropic；如果 Anthropic 也不行，就切到 Cloudflare 部署在边缘节点上的 [[Llama 3]]。

对 Agent 来说，它根本不知道底层发生了多大的波折，只知道自己每次请求都及时得到了回复。

自带模型（Bring Your Own Model，BYOM）

支持把企业私有部署的模型接入到这个统一网络中来。即便模型部署在某个冷门机房里，也能立刻享受到 Cloudflare 提供的全球缓存、流量控制以及细粒度的计费和日志分析能力。

行业意义

AI Gateway 将模型调用的高可用性和供应商锁定问题下沉为平台能力，使开发者不再需要自己编写复杂的重试、降级和熔断逻辑。