Activision Blizzard ha informado de que la exposición al chat de voz tóxico en Call of Duty se ha reducido en un 43% desde principios de este año debido a la reciente implementación de la moderación basada en IA.
La IA, llamada ToxMod, fue incorporada al Call of Duty: Modern Warfare III el pasado noviembre (2023). ToxMod analiza transcripciones de texto del chat de voz del juego y detecta palabras clave en función de múltiples factores.
Para distinguir entre palabras malsonantes y acoso, ToxMod supervisa las palabras clave y las reacciones a los comentarios, reconociendo las emociones de los jugadores y comprendiendo el código de conducta del juego. Además, el sistema calcula la edad y el sexo percibidos del interlocutor y los destinatarios para comprender mejor el contexto de cada conversación.
Para leer más tarde...
ToxMod no puede expulsar a nadie por sí solo, pero puede señalar rápidamente infracciones para que las revisen moderadores humanos. Activision decide entonces si avisa o silencia a los jugadores, y sólo emite prohibiciones en caso de infracciones reiteradas.
El número de infractores reincidentes en Modern Warfare III y Call of Duty: Warzone se redujo en un 67% desde que Activision implantó las mejoras en junio de 2024.
Sólo en julio, el 80% de los jugadores sorprendidos infringiendo las normas del chat de voz no reincidieron.
Todas las regiones, excepto Asia, admiten actualmente ToxMod, y Call of Duty utiliza el sistema para moderar el chat de voz en inglés, español y portugués. El francés y el alemán se incorporarán próximamente.
Mientras tanto, el chat de texto y la moderación de nombres de usuario se ampliaron de 14 a 20 idiomas en agosto. Community Sift ha sido el socio de moderación de texto de Call of Duty desde el lanzamiento del primer juego de reinicio de Modern Warfare en 2019, bloqueando 45 millones de mensajes desde el lanzamiento de Modern Warfare III en noviembre.
Usar IA para moderar el comportamiento de los jugadores es mucho menos controvertido que emplear la tecnología para los activos del juego. A finales del año pasado, el arte generado por IA apareció en skins de contenido para Modern Warfare III. En medio del histórico número de despidos que se produjeron en la industria del videojuego por esas fechas, algunos temen que los editores intenten sustituir a los artistas por modelos de IA.