Resumen IA: Tensiones geopolíticas, inversiones en Europa y resistencia en el entretenimiento

Esta semana, el panorama de la Inteligencia Artificial (IA) se mueve en un terreno de contrastes fascinantes y tensiones crecientes. Mientras los laboratorios de desarrollo técnico anticipan fronteras de autonomía de software que desafían lo conocido, las grandes potencias mundiales mueven sus fichas en el tablero geopolítico.

• Anthropic predice una IA que evoluciona por sí sola.
• El Gobierno de EE. UU. estudia adquirir participaciones en gigantes de la IA.
• Whoopi Goldberg rechaza la Inteligencia Artificial en sus proyectos.
• Madrid se posiciona como el hub de inversión en IA de España.
• Gobierno chino enciende las alarmas por el avance sin control de la IA.

• Visa y OpenAI se alían para impulsar pagos procesados por agentes de IA

Anthropic predice una IA que evoluciona por sí sola

Anthropic advierte a la industria: es necesario crear un «pedal de freno» o las empresas correrán el riesgo de perder el control sobre sus creaciones.

Específicamente, en el blog de Marina Favaro, líder del Anthropic Institute, y Jack Clark, cofundador de Anthropic, los sistemas de IA capaces de progresar por sí mismos podrían aportar grandes beneficios a la ciencia y la atención sanitaria, pero también plantean enormes riesgos para la humanidad.

Señalan que la industria está mucho más cerca de lograr una IA capaz de auto mejorarse de lo que se esperaba anteriormente. Por ello, las empresas tecnológicas deberían considerar ralentizar o pausar el desarrollo de IA de vanguardia para dar tiempo a los investigadores a comprender mejor los posibles daños sociales que podría desencadenar una IA de este tipo.

También, señalaron que los investigadores deberían crear mecanismos que permitan a los humanos intervenir si la situación se descontrola.

El Gobierno de EE. UU. estudia adquirir participaciones en gigantes de la IA

Donald Trump declaró interés en que el gobierno de Estados Unidos mantenga participaciones accionarias en los principales desarrolladores de inteligencia artificial y afirmó que planea discutir la idea de una asociación con los ejecutivos de esas compañías tan pronto como sea posible.

Trump mencionó: «Existen conceptos mediante los cuales se podrían otorgar participaciones al público estadounidense, permitiendo que los ciudadanos de EE.UU. se conviertan, esencialmente, en socios de las empresas. Hay algo muy interesante en esta idea, ya que casi se transforma en una asociación con el público estadounidense, y vamos a analizarlo detenidamente».

Trump comunicó que ya ha hablado con los gigantes tecnológicos sobre la propuesta, aunque no ofreció más detalles sobre las conversaciones.

Whoopi Goldberg rechaza la Inteligencia Artificial en sus proyectos

La galardonada actriz ha rechazado la idea de que deba adoptar la IA, después de que Demi Moore animara recientemente a los estudios de cine a trabajar con esta tecnología. Whoopi planea empezar a usar la tecnología de IA en algún momento, pero no le gusta que la presionen para que lo haga.

En realidad, Whoopi, dijo: «Salgo y hablo con la gente, y hago cosas que entiendo. Entiendo cuando algo llega como un automóvil y un carruaje sin caballos. Es genial y no es genial. No quiero que nadie me diga que tengo que esforzarme para seguirle el ritmo. Necesito lo que necesito y voy a encontrar la manera de conseguirlo.

Madrid se posiciona como el hub de inversión en IA de España

De acuerdo a Rocío Albert López-Ibor, consejera de Economía, Hacienda y Empleo, la Comunidad de Madrid concentra dos de cada tres euros invertidos en inteligencia artificial en España, acaparando el 63% del gasto que las empresas destinan a incorporar esta tecnología, con una cifra que supera los 360 millones de euros.

En este sentido, Albert ha recordado que el Gobierno regional ha formado ya a más de 8.700 alumnos a través del Plan de Talento Digital, cuyas tasas de inserción laboral superan el 60%.

A ello se suma el convenio firmado entre el Ejecutivo autonómico y Microsoft para capacitar gratuitamente en IA a 75.000 madrileños durante el próximo año.

Gobierno chino enciende las alarmas por el avance sin control de la IA

El Centro Nacional de Coordinación de Respuesta ante Emergencias de Redes Informáticas (CNCERT), ha alertado sobre la proliferación de extensiones y complementos de IA capaces de eludir las medidas de protección de los modelos y, en algunos casos, inducir a los usuarios a ejecutar software de minería de criptomonedas.

Concretamente, denuncia la aparición de un mercado gris alrededor de las denominadas «habilidades» de IA. Estas herramientas, desarrolladas por terceros, permiten ampliar las capacidades de los agentes inteligentes mediante conexiones con bases de datos externas, automatización de procesos o integración con otros servicios digitales. De hecho, el CNCERT advierte de que todo esto puede abrir la puerta a problemas mucho más graves.

Finalizo con esta frase de Christian Lous Lange: «La tecnología es un siervo útil, pero un amo peligroso».