Probablemente si no has jugado u observado los juegos online como League of Legends, CS:GO, Dota 2, no conoces la toxicidad que existen dentro de las comunidades que participan en dichas plataformas, siendo principalmente los mensajes que se envían.
Con toxicidad nos referimos a la agresividad que ocurre entre las personas, demostrándose desde comentarios sexistas, racistas, fuera de lugar o peores. Uno pensaría que una solución sencilla que muchos piensan que funcionaría es prohibir ciertas palabras, como las groserías, pero esto no detiene a las personas. La famosa compañía de videojuegos, Blizzard, parece encontrar una mejor herramienta gracias al machine learning.
Primero explicar porque falla el método de prohibir ciertas palabras, de esta manera se comprende mejor la importancia de la idea de Blizzard. La mayoría de los desarrolladores de juegos y sus plataformas tienen prohibidas por determinado las groserías y ciertas palabras para tratar de evitar los conflictos.
La manera de agredir a otros, sin embargo, sigue siendo sencillo, dado que solo tienen que escribir de la siguiente manera “3jemplo” o “prueba”, saltando la prohibición. Otra manera de hacerlo es utilizando el contexto de una oración para atacar, como deseando maneras de herir o sufrimiento de las personas. Como podrás observar, prohibir ciertas palabras es inútil.
Entonces lo que propone Blizzard es utilizar su machine learning para evaluar constantemente los chats en los juegos, analizando las oraciones y la manera que se están comunicando dentro del juego. De esta manera se puede controlar y evitar situaciones como la anterior, incluso deteniendo a los que hablan una letra o palabra por mensaje, dado que está evaluando los mensajes por jugador, permitiendo determinar el contexto e intenciones de la persona. Sin embargo esto causa dos problemas importantes a resolver:
Primero se le debe considerar los requerimientos que necesita el machine learning para funcionar, utilizando en este caso Internet y RAM del computador del jugador, sin considerar el coste de los servidores en las oficinas centrales de cada región. Esto causaría que los jugadores necesiten una mayor banda ancha de Internet de la que están acostumbrados y mejores computadores.
Segundo, que es lo más complicado de resolver, es enseñarle a la inteligencia la diferencia entre un buen comentario y lo que debe prohibir, además de aprender a diferencia entre una broma o un comentario hiriente.
En palabras suena sencillo de aplicar, pero en la práctica es lo complicado, siendo necesario corregirlo y aclararle cada vez que ocurre una situación, con millones de jugadores con maneras distintas maneras de expresarse, podrás suponer lo complicado de esto.
Si Blizzard logra aplicar esta herramienta, el futuro de los mensajes y la comunidad entre las personas podrá mejorar.
