OpenAI анонсировала запуск новой функции Trusted Contact («Доверенное лицо») в ChatGPT, направленной на повышение безопасности и психологической поддержки пользователей. Эта инициатива стала ответом на рост доверия людей к чат-боту как к собеседнику и бесплатному психотерапевту. Теперь, в случае обнаружения алгоритмом признаков намерения причинить себе вред, система может привлечь к ситуации реального человека — друга или родственника пользователя.
Об этом сообщает KURAZH
Механизм работы Trusted Contact в ChatGPT
Функция Trusted Contact работает на добровольной основе. Пользователи могут самостоятельно выбирать контактное лицо в возрасте от 18 лет, которое получит официальное приглашение с объяснением своей роли. Обранный контакт имеет семь дней для принятия или отклонения предложения. После подтверждения Trusted Contact система действует в фоновом режиме, не навязывая никакой активности.
Особенность функции — многоуровневая защита и привлечение человеческого фактора. Если ChatGPT обнаруживает сигналы о том, что пользователь переживает кризисную ситуацию, бот сначала предлагает ресурсы для самопомощи. Далее, к анализу привлекаются специально подготовленные модераторы, которые должны подтвердить серьезность ситуации в течение часа. Лишь после их решения обранное доверенное лицо получает уведомление — SMS, письмо или сообщение в приложении.
Защита конфиденциальности и роль доверенного лица
Внедрение Trusted Contact сопровождается строгим соблюдением конфиденциальности. Разработчики подчеркивают, что доверенное лицо не будет иметь доступа к переписке пользователя и не узнает деталей разговоров. Уведомление будет содержать только информацию о том, что в диалоге была зафиксирована тревожная тема, связанная с самоповреждением, а также просьбу связаться с пользователем.
«Обранное лицо не получит доступ к переписке и не узнает подробностей разговора. Уведомление лишь проинформирует, что в диалоге возникла тревожная тема, связанная с самоповреждением, и будет содержать просьбу выйти на связь с пользователем».
Функция была разработана при поддержке экспертов и организаций, занимающихся психическим здоровьем, в частности Американской психологической ассоциации (APA). Trusted Contact ранее была доступна только для подростков, но теперь масштабирована и для взрослых. В компании подчеркивают, что эта возможность не заменяет собой экстренные службы или профессиональную психотерапевтическую помощь, а добавляет дополнительный уровень поддержки в критических ситуациях.
Стоит отметить, что технологии искусственного интеллекта все глубже интегрируются в повседневную жизнь. Например, недавно представленные очки Alibaba Qwen AI Glasses S1 способны давать советы владельцу даже без запроса.
