Google внедрила обновления безопасности в своем чат-боте Gemini, особенно сосредоточенные на поддержке пользователей, которые могут находиться в состоянии психической кризи. Новые механизмы охватывают как интерфейс, так и алгоритмы взаимодействия с запросами пользователей в сложных ситуациях.
Об этом сообщает KURAZH
Обновленный модуль экстренной помощи
В Gemini появился усовершенствованный модуль кризисной поддержки. Теперь пользователи могут быстро получить доступ к службам помощи с помощью звонка, текстовых сообщений, чата с консультантом или перехода на специализированный сайт 988. После активации этот инструмент остается доступным на протяжении всего диалога, что позволяет пользователям получать поддержку в любой момент общения с чат-ботом.
Обновленный интерфейс модуля поддержки в чат-боте Gemini. Иллюстрация: Google
Изменения в логике ответов и дополнительные инвестиции
Google также усовершенствовала принципы работы Gemini в критических ситуациях. Чат-бот теперь направляет пользователей к квалифицированным специалистам, избегая ответов, которые могут усиливать опасные убеждения или поддерживать деструктивное поведение. Компания отмечает, что искусственный интеллект обучен различать субъективные эмоции и объективные факты, чтобы более ответственно реагировать на чувствительные запросы.
Ответ Gemini на чувствительный запрос с рекомендацией обратиться за помощью. Иллюстрация: Google
В материалах дела утверждается, что во время взаимодействия чат-бот якобы вел ролевую коммуникацию и давал опасные ответы. В Google заявили, что система неоднократно рекомендовала обращаться к кризисным службам.
Обновления были внедрены на фоне громкого судебного разбирательства, инициированного семьей мужчины, который погиб в прошлом году. Обвинение касается того, что во время общения Gemini мог предлагать опасные советы, однако представители Google подчеркивают, что чат-бот неоднократно рекомендовал обращаться к службам поддержки в кризисных ситуациях.
Помимо технических усовершенствований, Google объявила о инвестициях в размере 30 миллионов долларов, которые планирует направить в течение трех лет на поддержку международных горячих линий помощи людям в кризисных состояниях.
