En previas ocasiones hemos podido observar como las plataformas de Inteligencia Artificial están evolucionando. Primero solo en el ámbito de la computación, pero trasciende a áreas como la producción o la salud. Sin embargo, más recientemente está llegando al mundo del entretenimiento. Aunque con problemas, particularmente las IA que realizan “fakes“.
Fakes
Antes que nada, exponemos un breve contexto de lo que nos referimos con estos fakes. En anteriores ocasiones los hemos expuesto, con nuestros artículos al respecto. Básicamente son creaciones realizadas con IA, las cuales pueden ser originales y nada parecidas a la realidad. Sin embargo, también pueden ser utilizadas para crear información falsa.
Hemos expuesto cómo utilizando estas plataformas de Inteligencia Artificial se ha logrado modificar fotos, incluso video o audio, simulando que una persona hace o dice algo que en verdad no pasó.
El impacto que tiene esto es mayor de lo que uno pensaría, no solo se puede utilizar para bromas pesadas. Imagina la polémica si se crea una imagen del presidente de los Estados Unidos golpeando a alguien, o un audio del presidente de una empresa exigiendo la transferencia del dinero de la compañía.
Además de estas creaciones sofisticadas, las IA también se pueden utilizar para crear escritos que parecen reales. Nuevamente puede ocurrir la situación descrita inicialmente. Se puede utilizar para crear documentos 100% originales nunca visto. Sin embargo, también sirve para imitar estilos de personas, causando problemas de veracidad.
Fuego contra Fuego
Considerando esta situación, Allen Institute decidieron diseñar una herramienta que permita defendernos de las creaciones de IA. De esta forma nació Grover, una plataforma basada en IA que analiza los textos para identificar si fueron creados por otra IA.
“Para estudiar y detectar noticias falsas neuronales, creamos un modelo llamado Grover. Nuestro estudio presenta un resultado sorprendente: la mejor manera de detectar noticias falsas neuronales es utilizar un modelo que también sea un generador”. Explican los desarrolladores en su página.
Grover es una plataforma IA que puede generar textos para demostrar el problema existente. Además, puede analizar artículos de su base de datos para comparar artículos hechos por el hombre contra los de IA.
“Grover, es un generador que puede detectar fácilmente sus propios artículos de noticias falsas, así como los generados por otras IA. En un entorno desafiante con acceso limitado a artículos de noticias falsas neuronales, Grover obtiene más del 92% de precisión al distinguir las noticias escritas por humanos de las escritas a máquina”.
Lo invitamos a probar la plataforma si le interesa el tema.
