Los juegos de disparos en primera persona, como Call of Duty, son conocidos por la toxicidad en sus lobbys y chats de voz. Diversas encuestas han nombrado a la base de fans de esta franquicia como la más negativa de todos los juegos; una disputa entre dos jugadores una vez resultó en la intervención de un equipo SWAT. Activision ha estado tratando de combatir este comportamiento durante años, y parte de la solución podría involucrar inteligencia artificial.
Activision se ha asociado con Modulate para implementar la "moderación del chat de voz en el juego" en sus títulos. El nuevo sistema de moderación, que utiliza una tecnología de inteligencia artificial llamada ToxMod, trabajará para identificar comportamientos como discursos de odio, discriminación y acoso en tiempo real.
El lanzamiento inicial de la versión beta de ToxMod en América del Norte comienza hoy. Está activo en Call of Duty: Modern Warfare II y Call of Duty: Warzone. Una "versión completa a nivel mundial" (que no incluye Asia, según el comunicado de prensa) se lanzará el 10 de noviembre con el lanzamiento de Call of Duty: Modern Warfare III, la nueva entrega de este año en la franquicia.
El comunicado de prensa de Modulate no proporciona demasiados detalles sobre cómo funciona exactamente ToxMod. Su sitio web indica que la herramienta "analiza el chat de voz para detectar comportamientos inapropiados, analiza los matices de cada conversación para determinar la toxicidad y permite a los moderadores responder rápidamente a cada incidente proporcionando contexto relevante y preciso". El CEO de la compañía dijo en una entrevista reciente que la herramienta busca ir más allá de la mera transcripción, teniendo en cuenta factores como las emociones y el volumen del jugador para diferenciar declaraciones dañinas de las que son juguetonas.
Cabe destacar que, por ahora, la herramienta no tomará medidas contra los jugadores en función de sus datos, sino que simplemente enviará informes a los moderadores de Activision. La participación humana probablemente seguirá siendo una salvaguarda importante, ya que la investigación ha demostrado que los sistemas de reconocimiento de voz pueden mostrar sesgos en la forma en que responden a los usuarios con diferentes identidades raciales y acentos.
