Гравці, які мають досвід у змагальних онлайн-іграх, знають, наскільки складним може бути голосовий чат. На відміну від текстового, де для написання повідомлення потрібен час, у голосовому чаті все відбувається миттєво, що ускладнює процес модерації.
Про це розповідає KURAZH
Для вирішення цієї проблеми компанія Roblox активно впроваджує штучний інтелект (ШІ), водночас визнаючи, що людський контроль залишається важливим для створення безпечного середовища для гравців.
Використання ШІ у Roblox
На конференції Game Developers Conference (GDC) 2025 старший технічний директор компанії Кіран Бхат та керівник напрямку безпеки голосового чату Ганнес Хейкінігеймо поділилися досвідом впровадження ШІ для модерації. Бхат зазначив, що основна проблема полягає не лише у виявленні образливих слів, а також у розумінні тону, інтенсивності та контексту, що визначають, чи є конкретні висловлювання образливими.
Ефективність та обмеження штучного інтелекту
Попри всі виклики, штучний інтелект продемонстрував високу ефективність. Як зазначив Бхат, 85% токсичної поведінки в голосовому чаті можна віднести до чотирьох основних категорій, а більшість порушень пов’язані приблизно з 50 ключовими словами. Алгоритми машинного навчання успішно виявляють ці патерни, що значно зменшує кількість скарг на зловживання.
Проте ШІ має свої обмеження. Хейкінігеймо підкреслив, що, хоча алгоритми забезпечують стабільність і неупередженість, вони не завжди можуть коректно інтерпретувати рідкісні або контекстно складні випадки, де людська оцінка залишається незамінною.
