Promptfoo

Promptfoo是一款AI安全测试工具，专注于检测和防御提示注入攻击（Prompt Injection）。2026年3月9日，[[OpenAI]]宣布收购Promptfoo，以强化其[[指令分层]]技术。

核心功能

• 自动化测试AI模型对提示注入攻击的防御能力。
• 评估模型在第三方工具调用时的安全边界。
• 帮助开发者识别和修复安全漏洞。

战略意义

Promptfoo的收购是OpenAI强化[[GPT-5.4]]安全性的关键举措。随着[[原生计算机使用能力]]和[[万物代理化]]趋势的推进，AI代理将操作越来越多的软件和硬件，安全测试工具的重要性日益凸显。