Игроки, имеющие опыт в соревновательных онлайн-играх, знают, насколько сложным может быть голосовой чат. В отличие от текстового, где для написания сообщения требуется время, в голосовом чате все происходит мгновенно, что усложняет процесс модерации.
Об этом сообщает KURAZH
Для решения этой проблемы компания Roblox активно внедряет искусственный интеллект (ИИ), одновременно признавая, что человеческий контроль остается важным для создания безопасной среды для игроков.
Использование ИИ в Roblox
На конференции Game Developers Conference (GDC) 2025 старший технический директор компании Киран Бхат и руководитель направления безопасности голосового чата Ганнес Хейкинигеймо поделились опытом внедрения ИИ для модерации. Бхат отметил, что основная проблема заключается не только в выявлении оскорбительных слов, но и в понимании тона, интенсивности и контекста, которые определяют, являются ли конкретные высказывания оскорбительными.
Эффективность и ограничения искусственного интеллекта
Несмотря на все вызовы, искусственный интеллект продемонстрировал высокую эффективность. Как отметил Бхат, 85% токсичного поведения в голосовом чате можно отнести к четырем основным категориям, а большинство нарушений связано примерно с 50 ключевыми словами. Алгоритмы машинного обучения успешно выявляют эти паттерны, что значительно уменьшает количество жалоб на злоупотребления.
Тем не менее, ИИ имеет свои ограничения. Хейкинигеймо подчеркнул, что, хотя алгоритмы обеспечивают стабильность и беспристрастность, они не всегда могут корректно интерпретировать редкие или контекстуально сложные случаи, где человеческая оценка остается незаменимой.
