Семь семей из США инициировали судебные иски против OpenAI, обвинив компанию в запуске модели GPT-4o без надлежащих механизмов безопасности. Истцы утверждают, что из-за несовершенства системы четыре случая самоубийств могли быть спровоцированы или усугублены влиянием ChatGPT, а еще три иска касаются ухудшения психического здоровья пользователей, в частности усиления бредовых состояний, которые потребовали госпитализации.
Об этом сообщает KURAZH
Детали иска: примеры влияния ChatGPT
В судебных материалах приводится история 23-летнего Зейна Шамблина, который более четырех часов общался с ChatGPT, откровенно рассказывая о своих суицидальных намерениях. По словам семей, чат-бот не прекратил разговор и иногда даже отвечал фразами, которые, по мнению истцов, могли подтолкнуть к трагическому шагу.
«В исках утверждается, что OpenAI могла ускорить тестирование безопасности, поскольку стремилась опередить Google Gemini».
Еще один случай касается 16-летнего Адама Рейна, который также использовал ChatGPT. Несмотря на то, что чат-бот иногда советовал обратиться за помощью к специалисту, подросток находил способы обхода предохранителей, представляя свои обращения как задания по написанию художественного текста.
Ответ OpenAI и проблемы длительных диалогов
После подачи иска семьей Рейна, в октябре OpenAI опубликовала на своем блоге объяснение по поводу обработки чувствительных тем, связанных с психическим здоровьем. Компания отметила, что системы безопасности ChatGPT, как правило, действуют эффективно во время коротких бесед. В то же время OpenAI признала, что во время более длительных диалогов надежность защитных механизмов может снижаться: с увеличением количества сообщений часть встроенных предохранителей постепенно ослабевает.
Истцы убеждены, что OpenAI должна была более тщательно проверять безопасность своей модели, вместо того чтобы торопиться с запуском из-за конкуренции с Google Gemini. Эти судебные дела подчеркивают необходимость повышения стандартов безопасности для искусственного интеллекта, особенно в сферах, которые могут влиять на психическое здоровье пользователей.