OpenAI придбала Promptfoo для посилення тестування безпеки штучного інтелекту

Investing.com – OpenAI оголосила про плани придбати Promptfoo, платформу для безпеки штучного інтелекту, яка допомагає компаніям виявляти та виправляти вразливості в AI-системах під час розробки. Компанія заявила, що після завершення покупки технології Promptfoo будуть інтегровані у платформу OpenAI Frontier, яка використовується для створення та управління інструментами співпраці з AI.

Інструменти Promptfoo наразі використовують понад 25% компаній із списку Fortune 500. Платформа включає відкритий командний рядок та бібліотеку для оцінки та тестування великих мовних моделей у червоних командах. OpenAI повідомила, що продовжить розробку цього відкритого проекту у корпоративних функціях Frontier.

Команда Promptfoo очолюється Іаном Вебстером та Майклом Д’Анджело. За словами головного технічного директора застосунків B2B OpenAI Срініваса Нараянана, Promptfoo приносить інженерну експертизу у оцінку, безпеку та тестування корпоративних AI-систем.

OpenAI окреслила кілька функцій, які планує додати для компаній, що використовують Frontier. Компанія безпосередньо додасть автоматизовані функції безпеки та тестування червоних команд у платформу для допомоги у виявленні ризиків, таких як інжекція підказок, джейлбрейк, витік даних, зловживання інструментами та порушення політик. Інструменти безпеки та оцінки будуть інтегровані у робочі процеси розробки, а платформа також матиме функції звітності та відслідковування для підтримки управління, ризиків та відповідності.

Співзасновник та головний виконавчий директор Promptfoo Іан Вебстер заявив, що мета компанії — надати розробникам практичний спосіб захисту AI-систем. Вебстер зазначив, що приєднання до OpenAI дозволить команді прискорити роботу у сферах безпеки, гарантій безпеки та управління, підтримуючи команди, що створюють AI-системи.

Цей текст перекладено за допомогою штучного інтелекту. Детальніше дивіться у нашій угоді користувача.