Roblox bruker allerede kunstig intelligens til å moderere stemmechatter, men den endelige avgjørelsen tas fortsatt av mennesker
Alle som noen gang har spilt konkurransespill på nettet, vet hvor giftig stemmechatten kan være i spill. I motsetning til tekstchat, der det tar tid å skrive noe, skjer talechat øyeblikkelig, noe som gjør det svært vanskelig å moderere. For å løse dette problemet implementerer Roblox aktivt kunstig intelligens (AI), men erkjenner at menneskelig kontroll fortsatt er nødvendig for å sikre et trygt miljø for spillerne.
Dette er hva vi vet
Under Game Developers Conference (GDC) 2025 snakket Kiran Bhat, Senior CTO hos Roblox, og Hannes Heikinheimo, Head of Voice Chat Security, om året med bruk av AI for moderering. Bhat bemerket at hovedutfordringen ikke bare ligger i å oppdage støtende ord, men også i å forstå tonen, intensiteten og konteksten som avgjør om utsagnene virkelig er støtende.
Til tross for disse utfordringene har kunstig intelligens vist seg å være svært effektiv. Bhat forklarte at 85 % av giftig atferd kan kokes ned til bare fire hovedkategorier, og de fleste krenkelser er knyttet til rundt 50 nøkkelord. Maskinlæring gjør en utmerket jobb med å identifisere disse mønstrene, noe som reduserer antallet klager på misbruk i talechat betydelig.
AI har imidlertid sine begrensninger. Heikinigheimo understreket at selv om algoritmer gir stabilitet og upartiskhet, kan de ikke alltid tolke sjeldne eller kontekstuelt komplekse tilfeller korrekt, og da er menneskelig skjønn uunnværlig.
Kilde: Videogamer Videogamer
