Про це розповідає KURAZH
OpenAI повідомила про придбання стартапу Promptfoo, який спеціалізується на розробці рішень для забезпечення безпеки систем штучного інтелекту. Після завершення угоди технологічні напрацювання Promptfoo будуть інтегровані у платформу OpenAI Frontier — корпоративний інструмент для створення та управління агентами ШІ.
Технології для тестування та захисту мовних моделей
Promptfoo заснована у 2024 році Іаном Вебстером та Майклом Д’Анджело. Стартап розробляє інструменти, що дозволяють компаніям тестувати великі мовні моделі (LLM) на вразливості та захищати їх від атак чи маніпуляцій. До ключових продуктів належать відкритий інтерфейс і бібліотека для перевірки безпеки ШІ-систем. За інформацією компанії, понад чверть підприємств зі списку Fortune 500 вже використовують ці рішення у своїй діяльності.
Попит на автономних агентів ШІ, здатних виконувати цифрові завдання без втручання людини, стрімко зростає. Разом із тим, такі системи створюють нові загрози — від спроб отримання доступу до конфіденційної інформації до маніпуляцій автоматизованими процесами. Саме тому компанії, що працюють із передовими моделями штучного інтелекту, активно впроваджують комплексні технології кібербезпеки.
Інтеграція Promptfoo у платформу OpenAI Frontier
Після інтеграції рішень Promptfoo, OpenAI Frontier зможе автоматично проводити “red-teaming” — тестування ШІ-систем на предмет потенційних атак, аналіз безпеки робочих процесів агентів і моніторинг активності для дотримання регуляторних вимог. Також компанія планує продовжити розвиток відкритих інструментів Promptfoo для спільноти розробників та корпоративних клієнтів.
“Сума угоди не розкривається. За даними PitchBook, від моменту заснування стартап залучив близько $23 млн інвестицій, а після раунду фінансування у липні 2025 року його оцінювали приблизно у $86 млн”.
