Gobernador del BoE alerta sobre los riesgos de la IA para el sistema financiero

Durante una comunicación dirigida al G20, el gobernador del Banco de Inglaterra, Andrew Bailey, alertó sobre los riesgos que el rápido desarrollo de la Inteligencia Artificial podría representar para la estabilidad financiera global. El funcionario pidió una mayor vigilancia y coordinación internacional ante el creciente despliegue de modelos avanzados de IA.

En una carta enviada a los ministros de Finanzas del grupo, Bailey advirtió sobre los desafíos asociados con los sistemas de Inteligencia Artificial más avanzados. A su juicio, los modelos de vanguardia están desarrollando mayores niveles de autonomía, capacidades sofisticadas para resolver problemas y herramientas que, utilizadas de manera maliciosa, podrían generar nuevas amenazas.

Como presidente del Consejo de Estabilidad Financiera (FSB), Bailey remarcó que los mercados globales se encuentran altamente interconectados. En consecuencia, una amenaza de gran magnitud podría propagarse rápidamente entre numerosas jurisdicciones.

En la carta también señaló que muchos reguladores todavía no cuentan con las herramientas y protocolos necesarios para responder adecuadamente a los desafíos derivados del rápido avance de esta tecnología.

«Muchas jurisdicciones no cuentan con los protocolos necesarios para gestionar el desarrollo, la publicación y el despliegue de modelos avanzados de IA de vanguardia», expresó. Seguidamente, agregó que esta situación «aumenta los riesgos para el mundo financiero y otros sectores».

Según su visión, compartida por distintos especialistas y líderes de la industria tecnológica, el avance de la IA plantea riesgos que requieren una respuesta coordinada antes de que sus posibles efectos alcancen una escala sistémica.

• ¿Nos estamos convirtiendo en seres sintéticos sin darnos cuenta?

Los riesgos de la IA deben ser atendidos con urgencia

Numerosas voces han pedido públicamente que los reguladores adopten medidas para afrontar los riesgos derivados del desarrollo acelerado de la IA. Organismos internacionales y especialistas reclaman que las principales economías establezcan marcos comunes de supervisión para reducir los peligros asociados con los modelos más avanzados.

Entre las principales preocupaciones aparece la posibilidad de que estas herramientas sean utilizadas por actores maliciosos para ejecutar ataques cada vez más sofisticados.

En un reciente trabajo de CriptoTendencia, se analiza cómo determinadas herramientas de IA pueden aumentar las capacidades de los ciberdelincuentes para atacar infraestructuras críticas en Estados Unidos. En particular, distintas agencias de seguridad han advertido sobre vulnerabilidades y ataques dirigidos contra sistemas industriales utilizados para controlar instalaciones esenciales, incluyendo infraestructuras relacionadas con el suministro de agua.

Este tipo de amenazas sirve como ejemplo de algunos de los riesgos señalados por el gobernador del BoE. Bailey destaca que «ningún país puede aislarse por completo del carácter transfronterizo de los sistemas que prevalecen en la actualidad».

El mes pasado, cerca de 1.400 trabajadores y especialistas, entre ellos profesionales vinculados con compañías como Anthropic, DeepMind y OpenAI, respaldaron un documento que advertía sobre los riesgos asociados con el desarrollo de sistemas de IA cada vez más capaces.

El documento advierte sobre la posibilidad de que el desarrollo de nuevas capacidades avance rápidamente «más allá de nuestra capacidad de comprender o controlar los sistemas resultantes».

Aunque este escenario continúa siendo objeto de debate entre especialistas, el hecho de que estas preocupaciones también procedan de investigadores y trabajadores involucrados directamente en el desarrollo de la tecnología refuerza los llamados a establecer mecanismos de supervisión adecuados.

La llegada de la AGI aumenta el peligro

Una de las etapas más debatidas del desarrollo de la IA es la denominada Inteligencia Artificial General (AGI), concepto utilizado para describir sistemas capaces de realizar una amplia variedad de tareas intelectuales con un nivel de autonomía y versatilidad considerablemente superior al de los modelos actuales.

Algunas compañías del sector consideran que importantes avances hacia este objetivo podrían producirse durante los próximos años, aunque no existe consenso sobre cuándo se alcanzará la AGI ni sobre una definición técnica universal para determinar su llegada.

Las preocupaciones también se extienden al comportamiento inesperado que pueden mostrar algunos modelos avanzados durante pruebas controladas. Investigadores de distintas compañías han documentado escenarios experimentales en los que determinados agentes intentaron evadir restricciones, manipular información o aprovechar vulnerabilidades cuando recibieron objetivos específicos.

Sin embargo, estos experimentos se realizan bajo condiciones diseñadas precisamente para estudiar posibles fallos y no significan que los sistemas actuales actúen de manera autónoma fuera de esos entornos.

Con estos elementos sobre la mesa, las advertencias de Bailey adquieren una relevancia especial para los reguladores. El rápido avance de la Inteligencia Artificial obliga a las autoridades financieras a evaluar no solamente sus oportunidades económicas, sino también los riesgos tecnológicos, operativos y sistémicos que podrían surgir de una adopción cada vez más amplia.