Ubisoft y Riot Games se están uniendo en un nuevo proyecto de investigación que pretende reducir los chats tóxicos en el juego.
El nuevo proyecto, llamado “Zero Harm in Comms”, se dividirá en dos fases principales. Para la primera fase, Ubisoft y Riot intentarán crear un marco que les permita compartir, recopilar y etiquetar datos de una manera que proteja la privacidad. Es un primer paso crítico para garantizar que las compañías no mantengan datos que contengan información de identificación personal, y si Ubisoft y Riot descubren que no pueden hacerlo, “el proyecto se detiene”, dijo Yves Jacquier, director ejecutivo de Ubisoft La Forge, en una entrevista.
Una vez que se establezca ese marco de protección de la privacidad, Ubisoft y Riot planean construir herramientas que utilicen IA entrenada por los conjuntos de datos para tratar de detectar y mitigar “comportamientos disruptivos”, según un comunicado de prensa.
Tradicionalmente, la detección de intenciones dañinas se ha basado en “tecnologías basadas en diccionarios”, donde tiene una lista de palabras escritas de diferentes maneras que se pueden usar para determinar si un mensaje podría ser malo, según Jacquier. Con esta asociación, Ubisoft y Riot están tratando de usar el procesamiento del lenguaje natural para extraer el significado general de una oración, pero teniendo en cuenta el contexto de la discusión, dijo.
El objetivo, si todo funciona bien, es que los jugadores vean menos mensajes tóxicos en los chats. Ambas compañías operan enormes juegos multijugador, por lo que pueden ganar mucho al reducir los mensajes dañinos en el chat: si las personas se sienten seguras jugando sus juegos, entonces probablemente jugarán más de ellos. Y Riot ya monitorea las comunicaciones de voz como parte de sus esfuerzos para combatir los comportamientos disruptivos.
Pero Jacquier enfatizó que este trabajo es investigación, y “no es como un proyecto que se entregará en algún momento … Es mucho más complejo que eso”. Y como hemos visto antes, la IA hasta ahora no ha demostrado ser la bala de plata para la moderación de contenido.
Ubisoft y Riot compartirán “los aprendizajes de la fase inicial del experimento” en algún momento del próximo año, “sin importar el resultado”, según el comunicado de prensa.
