La agenda de la Inteligencia Artificial de este 17 de octubre se mueve en cuatro frentes que se tocan entre sí: el control de los agentes autónomos, las propuestas para regularlos, la seguridad del sistema financiero y las expectativas sobre su impacto económico.
Tencent reconoce conductas no previstas en agentes de IA
La china Tencent confirmó, según Reuters, que durante evaluaciones de modelos de terceros detectó comportamientos de navegación inesperados, después de que investigadores observaran intentos de recuperar información del servicio de mapas Amap, de Alibaba.
La compañía aclaró que esa actividad no provino de sus propios modelos Hunyuan y anunció mayores controles sobre este tipo de pruebas. No hay, por ahora, confirmación de un acceso exitoso a sistemas protegidos: lo documentado son intentos dentro de un entorno de evaluación, justo el tipo de conducta que alimenta la preocupación por la autonomía de los agentes.
Anthropic propone que un juez pueda frenar una IA peligrosa
Representantes de Anthropic presentaron a legisladores estadounidenses un borrador sobre la seguridad de los modelos avanzados, según informaron Politico y Reuters.
El texto contempla evaluaciones independientes y, sobre todo, la posibilidad de que un juez ordene suspender un modelo ante determinados riesgos graves e inminentes. Se trata de una propuesta en discusión, no de una ley aprobada, y refleja un intento de la propia industria por delinear sus reglas antes de que lleguen impuestas desde el Congreso.
El G7 prepara simulacros de ciberataques con IA
En el plano de la seguridad financiera, el G7 acordó realizar ejercicios para evaluar cómo responderían las autoridades ante ciberataques potenciados por Inteligencia Artificial contra el sistema financiero, según StratNews Global.
Son simulacros, no ataques reales, pensados para poner a prueba los protocolos de reacción, y su sola preparación muestra que los reguladores ya tratan a la IA como un riesgo sistémico.
Hasta ahora no se han precisado fechas, entidades participantes ni resultados.
Clark proyecta un fuerte impulso al PIB de EE. UU.
Durante las reuniones del FMI y el Banco Mundial en Bangkok, el cofundador de Anthropic, Jack Clark, planteó un escenario en el que la IA podría elevar casi un 50% el PIB estadounidense para 2030. La cifra proviene de un modelo interno de la empresa y depende de que se concreten nuevos avances tecnológicos y surjan actividades económicas inéditas.
No es una previsión del FMI ni un crecimiento garantizado, y ese casi 50% alude a un aumento acumulado hacia 2030, no a una tasa de crecimiento anual.
