LangChain / LlamaIndex

概述

LangChain和LlamaIndex是当前最流行的AI代理开发框架，提供了LLM与外部工具交互的复杂路由机制。在《Your Agent Is Mine》论文中，这些框架被作为LLM路由器生态的重要组成部分提及，是供应链风险的来源之一。

安全风险

当开发者使用这些开源框架衍生出的复杂路由机制时，实际上是将最高级别的系统权限交给了这些看不见的路由器。26个LLM路由器全部沦陷，意味着基于这些框架构建的成千上万的AI应用可能正运行在充满隐患的地基之上。