OpenAI готовит к презентации новую версию своей языковой модели — GPT-5, которая получит инновационные возможности в области обнаружения психических и эмоциональных нарушений. Для разработки этой модели компания тесно сотрудничала с экспертами и профильными консультативными группами. Это позволило интегрировать в ChatGPT алгоритмы, способные распознавать так называемые «тревожные маркеры», которые могут свидетельствовать о симптомах переутомления, депрессии или даже суицидальных намерений.
Об этом сообщает KURAZH
Защита пользователей и новые подходы к этике
В последнее время эксперты выражали обеспокоенность тем, что ответы искусственного интеллекта могут не всегда быть уместными в сложных психологических ситуациях. Речь идет о том, что поддерживающий тон нейросети потенциально способен усугублять психологические проблемы пользователей, а советы ИИ иногда бывают неоднозначными, в частности в вопросах вроде «стоит ли завершать отношения?».
OpenAI давно заявляет, что ChatGPT не является заменой психологу или психотерапевту (как и любому другому врачу), но часто нейросеть выступает первым собеседником, который может заподозрить проблему.
Функция напоминания о перерыве
В рамках инициативы по «здоровому использованию» OpenAI внедрила для ChatGPT систему напоминаний о необходимости отдыха. Если пользователь проводит слишком много времени в непрерывном разговоре с ИИ, система будет автоматически предлагать сделать паузу. В то же время, пользователь может самостоятельно решить, продолжать ли общение. В настоящее время компания оттачивает критерии, которые помогут оптимально определять момент для показа такого напоминания.
Новые функции GPT-5 подчеркивают стремление OpenAI сделать взаимодействие с нейросетью более безопасным и ответственным, особенно в вопросах, касающихся психического здоровья пользователей.
