0
NVIDIA 给 AI 智能体装上“外部刹车”：Open Agent Safety Platform 到底管什么
一个编程智能体接到任务：检查仓库里的测试失败，修好代码并提交。它需要读文件、运行命令、访问依赖、也许还要查询 GitHub。只要把这些能力全开，事情确实容易办；但如果它误把生产环境变量传到外网，或者为了完成任务去改另一个仓库，仅靠提示词里一
一个编程智能体接到任务：检查仓库里的测试失败，修好代码并提交。它需要读文件、运行命令、访问依赖、也许还要查询 GitHub。只要把这些能力全开，事情确实容易办；但如果它误把生产环境变量传到外网，或者为了完成任务去改另一个仓库，仅靠提示词里一