Una de las redes sociales más famosas de todo el mundo anunció que estuvo trabajando en una nueva tecnología que le permitirá detectar los mensajes de odio que se encuentren en la plataforma. Todo esto gracias a “Rossetta”, la nueva Inteligencia Artificial de Facebook.
La red social anunció que Rossetta les permitiría analizar las miles de millones de publicaciones que se hacen diariamente en Facebook. Imágenes, videos y mensajes serán examinados para detectar cuales de ellos tienen contenidos que violen las reglas contra el odio de la plataforma.
Este ha sido un gran problema para la red social en varios países. Por ejemplo, en Myanmar, India y Sri Lanka, Facebook ha sido acusado de ayudar a promover la violencia. Por ello, hace un mes la plataforma anunció que tomaría medidas para que esta “propagación del odio” terminase.
Entre esas acciones resaltan las tomadas en Myanmar, donde se eliminaron 18 cuentas y 52 páginas asociadas con el ejército del país, debido a la violencia étnica contra los musulmanes Rohingya, según reporta CNET.
Pero esa no fue la primera acción contundente de Facebook contra el odio. En julio anunció que comenzaría a eliminar la desinformación que, a su juicio, pretendiera provocar o exaltar la violencia de cualquier tipo.
Es por ello que han decidido ayudarse con la IA. Rossetta puede analizar más de 1.000 millones de imágenes y cuadros en tiempo real, extrayendo información de diferentes idiomas para poder detectar rápidamente cualquier señal que incite a la violencia.
Sin embargo, esta tecnología aún está en etapa de prueba. Es por ello que la compañía ha contratado a más de 20.000 moderadores humanos que ayuden a vigilar la plataforma y a buscar este material que no se encuentra dentro de las reglas.
Mark Zuckerberg, presidente ejecutivo de Facebook, ha asegurado en varias oportunidades que la empresa se encuentra trabajando para desarrollar IA que pueda “limpiar” la plataforma de todos los contenidos dañinos. El objetivo es que la tecnología pueda detectar automáticamente los estos contenidos en lugar de esperar que los usuarios los denuncien.
Para Facebook, esta es una labor sumamente importante, en especial porque a lo largo del año, la red social ha estado involucrada en múltiples escándalos, como los relacionados con Cambridge Analytica. Ahora Facebook busca limpiar su nombre, y Rossetta se cuenta entre uno de los pasos para lograrlo.
