OpenAI оголосила в понеділок, що придбала Promptfoo, стартап у галузі безпеки штучного інтелекту, заснований у 2024 році для захисту LLM від онлайн-супротивників.
У блозі Frontier Lab зазначено, що після завершення угоди технологія Promptfoo буде інтегрована в OpenAI Frontier, корпоративну платформу для агентів штучного інтелекту.
Розробка незалежних агентів штучного інтелекту, які виконують цифрові завдання, викликала ентузіазм щодо підвищення продуктивності. Але це також дало зловмисникам нові можливості для доступу до конфіденційних даних або маніпулювання автоматизованими системами. Ця угода підкреслює, як передові лабораторії намагаються довести, що їхні технології можна безпечно використовувати в критично важливих бізнес-операціях.
Promptfoo була заснована Іаном Вебстером і Майклом Д’Анджело для розробки інструментів, які компанії можуть використовувати для тестування вразливостей безпеки в LLM, включаючи інтерфейс з відкритим кодом і бібліотеку. Компанія повідомляє, що її продуктами користуються понад 25% компаній з рейтингу Fortune 500.
З моменту заснування Promptfoo залучила лише 23 мільйони доларів і, за даними PitchBook, після останнього раунду фінансування в липні 2025 року її оцінили в 86 мільйонів доларів. OpenAI не розкрила суму угоди.
У повідомленні OpenAI йдеться, що технологія Promptfoo дозволить її агентській платформі виконувати автоматизований «червоний» тестування, оцінювати агентські робочі процеси з точки зору безпеки та контролювати діяльність на предмет ризиків і вимог дотримання нормативних вимог. Компанія також заявила, що планує продовжувати розбудовувати відкрите програмне забезпечення Promptfoo.
