Roblox вже використовує ШІ для модерації голосового чату, однак фінальне рішення все ж приймає людина
Будь-хто, хто коли-небудь грав у змагальні онлайн-ігри, знає, наскільки токсичним місцем може бути голосовий чат в іграх. На відміну від текстового чату, де для того, щоб щось написати, потрібен час, у голосовому чаті все відбувається миттєво, що робить його дуже складним у плані модерації. Щоб розв'язати цю проблему, Roblox активно впроваджує штучний інтелект (ШІ), проте визнає, що людський контроль залишається необхідним для забезпечення безпечного середовища для гравців.
Що відомо
Під час Game Developers Conference (GDC) 2025 Кіран Бхат (Kiran Bhat), старший технічний директор Roblox, та Ганнес Хейкінігеймо (Hannes Heikinheimo), керівник напряму безпеки голосового чату, розповіли про рік використання ШІ для модерації. Бхат зазначив, що основна складність полягає не лише у виявленні образливих слів, а й у розумінні тону, інтенсивності та контексту, що визначають, чи є висловлювання дійсно образливими.
Попри ці виклики, штучний інтелект показав високу ефективність. Бхат пояснив, що 85% токсичної поведінки зводиться до всього чотирьох основних категорій, а більшість порушень пов’язані приблизно з 50 ключовими словами. Машинне навчання чудово справляється з виявленням цих патернів, значно скорочуючи кількість скарг на зловживання в голосовому чаті.
Втім, у ШІ є свої обмеження. Хейкінігеймо підкреслив, що хоча алгоритми забезпечують стабільність і неупередженість, вони не завжди можуть правильно інтерпретувати рідкісні або контекстно складні випадки, де людська оцінка залишається незамінною.
Джерело: Videogamer
