OpenAI宣布收购AI安全初创公司Promptfoo 可以提高智能体的安全防御能力

清华大佬耗费三个月吐血整理的几百G的资源，免费分享！....>>>

成立于 2024 年的人工智能安全初创公司 Promptfoo 日前宣布与 OpenAI 达成相关收购协议，完成交易后 Promptfoo 将成为 OpenAI 的旗下公司，Promptfoo 的主要技术也将会被集成到 OpenAI Frontier 平台。

这家初创公司的主要技术就是提升人工智能模型的安全能力，避免模型受到攻击者利用提示词注入等方式展开攻击，而 OpenAI Frontier 则是 OpenAI 面向 AI 智能体的企业平台，旨在帮助企业使用安全可靠的使用 AI 智能体。

Promptfoo 公司自成立以来仅融资 2300 万美元，但在融资后其整体估值达到 8600 万美元，根据 Promptfoo 的报告，目前超过 25% 的财富 500 强企业在使用 Promptfoo 的产品来提高 AI 智能体的安全性。

不过 OpenAI 并未透露收购 Promptfoo 的金额是多少，考虑到 8600 万美元的估值，估计 OpenAI 的收购方案应该会超过这个估值甚至还要更高。

OpenAI 在官方公告中表示，Promptfoo 的技术能够让 OpenAI 的 AI 智能体平台执行自动化红队演练，评估智能体工作流程中的安全隐患，监控风险和合规性活动等。

OpenAI 还强调在收购后也会继续扩展 Promptfoo 的开源产品，让更多企业可以通过 Promptfoo 的开源技术来增强 AI 智能体的安全性。

以上就是“OpenAI宣布收购AI安全初创公司Promptfoo 可以提高智能体的安全防御能力”的详细内容，想要了解更多Python教程欢迎持续关注编程学习网。