En diversas ocasiones hemos hecho cobertura sobre la nueva tendencia en Internet, siendo las plataformas de DeepFakes, basadas en Inteligencia Artificial para modificar o generar imágenes o audios que desafían la realidad. En previas ocasiones expusimos un caso controversial con respecto a una aplicación particular, hoy traemos a ZAO, una aplicación china que te convertía en una estrella de cine.
El viernes la nueva aplicación lanzada por Momo, un desarrollador de redes sociales, instantáneamente se volvió viral en las redes sociales chinas. Permite a los usuarios cargar un solo retrato y, en segundos, ver su cara superpuesta a los actores en escenas icónicas de películas. Para el domingo, se había convertido en la aplicación de entretenimiento gratuita más descargada en la Apple Store de China.
Esta misma es una plataforma basada en Inteligencia Artificial, utilizando redes de confrontación generativas, o GAN, los algoritmos de inteligencia artificial detrás de las deepfakes. Si bien las GAN se han utilizado para la edición y el intercambio de caras antes (cada vez más en las películas de Hollywood), el uso de ZAO de una sola foto, junto con la velocidad y la fluidez de su intercambio, demuestra hasta qué punto el estado del arte en la falsificación de medios ha avanzado.
A las pocas horas de su lanzamiento, ZAO comenzó a despertar inquietudes sobre la privacidad, específicamente sobre una cláusula en el acuerdo del usuario que daba a los desarrolladores el derecho de usar todas las fotos cargadas de forma gratuita a perpetuidad.
También les permitió transferir ese derecho a cualquier tercero sin el permiso del usuario. Los expertos legales en China dijeron que eso no era legal, y para el sábado, el desarrollador de la aplicación había cedido bajo presión y eliminó la cláusula. WeChat, la principal aplicación de redes sociales de China, también prohibió compartir imágenes o fotos de ZAO.
Decimos que es un Déjà Vu por el caso similar de FaceApp, una aplicación de edición de fotos que se volvió viral en julio. La aplicación también utilizó GAN para retocar los retratos de personas y había acumulado más de 150 millones de fotos de rostros desde su lanzamiento. ZAO recibió una reacción violenta mucho más rápida y aguda, pero probablemente también ya la habían utilizado millones de usuarios cuando revisó su política.
Se debe destacar que la frecuencia de tales incidentes muestra la facilidad con que los datos personales de un usuario ahora pueden ser cooptados y reutilizados más allá de su control. Pero el lado “positivo”, es que el caso muestra que las personas también se han vuelto más sensibles a la privacidad y están menos dispuestas a renunciar a ella sin luchar.
