OpenAI готує до презентації нову версію своєї мовної моделі — GPT-5, яка отримає інноваційні можливості у сфері виявлення психічних і емоційних порушень. Для розробки цієї моделі компанія тісно співпрацювала з фахівцями та профільними консультативними групами. Це дозволило інтегрувати у ChatGPT алгоритми, здатні розпізнавати так звані «тривожні маркери», що можуть свідчити про симптоми перевтоми, депресії чи навіть суїцидальних намірів.
Про це розповідає KURAZH
Захист користувачів і нові підходи до етики
Останнім часом експерти висловлювали занепокоєння щодо того, що відповіді штучного інтелекту можуть не завжди бути доречними у складних психологічних ситуаціях. Мова йде про те, що підтримуючий тон нейромережі потенційно здатен посилювати психологічні проблеми користувачів, а поради ШІ іноді є неоднозначними, зокрема у питаннях на кшталт «чи варто завершувати стосунки?».
OpenAI вже давно заявляє, що ChatGPT не є заміною психологу чи психотерапевту (як і будь-якому іншому лікарю), але часто нейромережа є першим співрозмовником, який може запідозрити проблему.
Функція нагадування про перерву
У рамках ініціативи зі «здорового користування» OpenAI впровадила для ChatGPT систему нагадувань про необхідність відпочинку. Якщо користувач проводить надто багато часу у безперервній розмові з ШІ, система буде автоматично пропонувати зробити паузу. Водночас, користувач може самостійно вирішити, чи продовжувати спілкування. Наразі компанія відточує критерії, які допоможуть оптимально визначати момент для показу такого нагадування.
Нові функції GPT-5 підкреслюють прагнення OpenAI зробити взаємодію з нейромережею безпечнішою та більш відповідальною, особливо у питаннях, що стосуються психічного здоров’я користувачів.
