IA entre la amenaza, la regulación y la política

Esta semana, la Inteligencia Artificial mostró sus múltiples caras: desde un ciberataque a gran escala apoyado ampliamente en agentes autónomos hasta nuevas exigencias sindicales en el sector del transporte y la propuesta de limitar su uso en las escuelas de Cataluña.

Entre tanto, la comunidad de KDE debate reglas para los desarrolladores que utilizan estas herramientas, mientras la política añade un elemento inesperado con la propuesta de Donald Trump de cambiar el nombre de la IA.

• ¿El inicio de la ciberdelincuencia autónoma? Las dudas tras un ataque dirigido contra un centenar de organizaciones.
• Sindicatos globales exigen voz y participación frente a la Inteligencia Artificial en el transporte.
• Donald Trump propone cambiar el nombre de la Inteligencia Artificial mediante una encuesta.
• Salvador Illa propone vetar el uso de la Inteligencia Artificial en los colegios hasta los 14 años.
• KDE debate límites para los desarrolladores que utilizan IA.

¿El inicio de la ciberdelincuencia autónoma? Las dudas tras un ataque dirigido contra un centenar de organizaciones

Un ciberdelincuente utilizó distintos agentes de Inteligencia Artificial para automatizar ataques contra hasta un centenar de organizaciones en un periodo de apenas cinco días. Al menos 27 compañías fueron comprometidas, mientras los investigadores localizaron información asociada con más de 600.000 tarjetas de crédito dentro de la infraestructura utilizada durante la campaña.

La infraestructura empleada por el atacante quedó accidentalmente expuesta en Internet, lo que permitió a los investigadores acceder a registros, instrucciones, herramientas y parte de la información recopilada durante las operaciones.

Los investigadores identificaron datos correspondientes a unas 618.000 tarjetas de crédito, de las cuales aproximadamente 488.000 estaban asociadas con Estados Unidos. Eyal Sela, director de inteligencia de amenazas de Gambit Security, calificó el episodio como uno de los «abusos más graves de la IA con fines de explotación vistos hasta ahora».

• ¿Con qué dinero pagará una IA? El dilema que plantea Michael Saylor

Sindicatos globales exigen voz y participación frente a la Inteligencia Artificial en el transporte

En Colombo, capital de Sri Lanka, sindicatos del transporte aprobaron una serie de principios globales para establecer condiciones sobre el uso de la Inteligencia Artificial en el sector. El acuerdo surgió durante la Conferencia del Personal del Transporte sobre Inteligencia Artificial organizada por la Federación Internacional de los Trabajadores del Transporte (ITF).

El documento, denominado «Tomemos las riendas: principios del personal del transporte sobre la Inteligencia Artificial», plantea derechos relacionados con la información, la consulta y la negociación antes de introducir o modificar sistemas de IA que afecten a los trabajadores.

También establece que debe mantenerse el control humano en operaciones donde la seguridad sea fundamental y contempla principios sobre datos laborales, transparencia, responsabilidad algorítmica, igualdad y protección frente a posibles impactos discriminatorios.

Donald Trump propone cambiar el nombre de la Inteligencia Artificial mediante una encuesta

El presidente de Estados Unidos, Donald Trump, lanzó una encuesta en sus redes sociales para plantear posibles alternativas al término Inteligencia Artificial. Inicialmente propuso «inteligencia superior», «inteligencia extrema» e «inteligencia suprema», antes de reducir posteriormente la votación a las dos primeras opciones.

«Vamos a retirar «inteligencia suprema» de la competición y a permitirles votar por las dos finalistas: «inteligencia superior» o «inteligencia extrema». ¡Comienza una nueva votación!», escribió Trump al explicar la segunda fase de la encuesta.

Posteriormente, durante su discurso ante la Asamblea General de las Naciones Unidas, Trump utilizó el término «super inteligencia» para referirse a la tecnología. La iniciativa se produce en medio de un debate más amplio sobre los posibles riesgos de la IA y el grado de regulación que debería aplicarse en Estados Unidos.

Trump mantiene una postura favorable a acelerar su desarrollo y ha mostrado resistencia a establecer regulaciones que, según su administración, puedan limitar la competitividad estadounidense.

Al mismo tiempo, legisladores de ambos partidos han aumentado la presión para debatir nuevas salvaguardas, mientras el expresidente Barack Obama pidió recientemente a los demócratas prestar mayor atención a los riesgos y a la gobernanza de esta tecnología.

Salvador Illa propone vetar el uso de la Inteligencia Artificial en los colegios hasta los 14 años

El presidente de la Generalitat de Cataluña, Salvador Illa, planteó prohibir el uso de la IA en las escuelas hasta los 14 años y reforzar la lectura entre las nuevas generaciones como parte de una estrategia destinada a mejorar el bienestar digital de los menores.

Durante una entrevista en la emisora RAC1, el dirigente explicó los planes de su gobierno para establecer mayores límites al uso de pantallas y herramientas digitales entre niños y adolescentes.

Según Illa, las nuevas tecnologías ofrecen oportunidades, pero también implican riesgos que deben tenerse en cuenta en el entorno educativo. En este contexto, su propuesta busca establecer límites durante determinadas etapas de aprendizaje y, al mismo tiempo, reforzar actividades como la lectura.

KDE debate límites para los desarrolladores que utilizan IA

La comunidad de KDE debate nuevas directrices para regular el uso de herramientas de IA y modelos de lenguaje por parte de sus desarrolladores. Una de las propuestas presentadas parte de una regla básica: «no ser perezoso», es decir, no utilizar estas herramientas para sustituir el criterio propio, la comunicación o el proceso de aprendizaje del desarrollador.

Entre los principios propuestos aparece la necesidad de que las contribuciones asistidas por IA mantengan los mismos estándares técnicos que cualquier otro aporte. La iniciativa también busca evitar que los desarrolladores deleguen completamente en estas herramientas tareas que requieren comprensión y responsabilidad humana.

Sin embargo, estas reglas todavía forman parte de un debate interno y no constituyen una política definitiva de KDE. La propuesta generó desacuerdos dentro de la comunidad y la discusión inicial llegó a cerrarse temporalmente tras recibir numerosas críticas. El objetivo de fondo continúa siendo encontrar un equilibrio entre aprovechar la IA como herramienta de apoyo y preservar la calidad, la responsabilidad y el criterio humano dentro del desarrollo de software libre.

Finalizo con esta frase de Sundar Pichai: «la Inteligencia Artificial es una de las cosas más importantes en las que está trabajando la humanidad. Es más profunda que el fuego o la electricidad».