¿Qué está pasando en el mundo crypto? En el canal de WhatsApp de CriptoTendencia te lo contamos todo. ¡Suscríbete!
Mientras la «Asamblea General de las Naciones Unidas» (AGNU) se reúne esta semana en Nueva York, el importante organismo mundial ha intensificado sus esfuerzos para formalizar la supervisión multilateral de la inteligencia artificial (IA). Esto marca una notable evolución en el compromiso de la «Organización de las Naciones Unidas» (ONU) con esta tecnología en auge.
Es importante señalar que la reunión de alto nivel de la Asamblea General sobre gobernanza de la IA, que se está llevando a cabo durante esta semana, marca la primera vez que los 193 Estados miembros de la ONU tendrán voz en la forma en que se desarrolla la gobernanza internacional de la inteligencia artificial.
Asimismo, los líderes de todo el mundo se están reuniendo para debatir y definir cómo podría ser una «IA responsable» a nivel internacional. Además, previamente se discutió sobre dos organismos recién creados: el «Panel Científico Internacional Independiente sobre IA», diseñado para proporcionar una evaluación científica rigurosa e imparcial, y el «Diálogo Global sobre la Gobernanza de la IA», un foro destinado a conectar a los Estados, la industria y la sociedad civil.
En conjunto, estos organismos conforman el primer esfuerzo coordinado, multilateral e institucionalizado de la ONU para convertir la rápida y caótica evolución de la IA en un «marco de supervisión compartida».
«Este es un avance significativo en los esfuerzos globales para aprovechar los beneficios de la inteligencia artificial y, al mismo tiempo, abordar sus riesgos», indicó António Guterres, Secretario General de la ONU. «Existe la necesidad de debatir los problemas críticos relacionados con la IA que enfrenta la humanidad hoy en día», agregó.
El llamado de los expertos para evitar la catástrofe tecnológica
Durante el último año, la IA ha influido cada vez más en todo, desde los mercados financieros hasta el consumo de noticias, e incluso en la salud pública. Además, el poder concentrado en un puñado de corporaciones y naciones, el potencial de uso indebido -ya sea mediante armamento autónomo, vigilancia masiva o deepfakes capaces de desestabilizar la democracia- se ha magnificado, según el organismo.
«La integridad de la información es la madre de todas las batallas. Si ganamos esta, podemos ganar el resto. Si perdemos esta, lo perderemos todo», expresó la periodista ganadora del Premio Nobel, Maria Ressa.
Debido a ello, durante esta semana, pioneros tecnológicos y legisladores globales se reunieron virtualmente y en persona para lanzar un «Llamado Global para Líneas Rojas en IA», una petición para que se establezcan acuerdos internacionales vinculantes sobre lo que la IA nunca debería poder hacer. Entre los firmantes se encuentran «Geoffrey Hinton» y «Yoshua Bengio», dos de los denominados «padrinos de la IA», junto con ganadores del Premio Nobel.
«Con la IA, puede que no tengamos la oportunidad de aprender de nuestros errores, porque la IA es la primera tecnología capaz de tomar decisiones por sí misma, inventar nuevas ideas por sí misma y escapar de nuestro control», indicó Harari.
«Los seres humanos debemos acordar límites claros para la IA, antes de que esta tecnología transforme la sociedad más allá de nuestra comprensión y destruya los cimientos de nuestra humanidad», agregó.
Estas advertencias son parte de un debate que comenzó hace años, poco después del lanzamiento del chatbot «ChatGPT», cuando un grupo de investigadores emitió una carta abierta solicitando una pausa en el desarrollo de IA.
El plan de la ONU para regular la IA: Panel Científico, Diálogo Global y el desafío del consenso
El «Panel Científico» servirá de puente entre la investigación de vanguardia y la formulación de políticas, anticipando las amenazas emergentes antes de que se conviertan en crisis. Por su parte, el «Diálogo Global» intentará generar consenso entre Estados con prioridades muy divergentes, desde las superpotencias en IA hasta los países que apenas comienzan a construir su infraestructura digital.
Respecto a los consumidores y la industria tecnológica, la asamblea muestra el panorama de presiones probables en torno a las directrices voluntarias y los compromisos de seguridad corporativos que deben ceder ante acuerdos internacionales formales.
Aunque estas iniciativas, esbozadas en el «Pacto para el Futuro» de la ONU de 2024, prevén una evaluación basada en evidencia y recomendaciones relevantes para políticas, su éxito dependerá del liderazgo del Sur Global, en particular África, según «Brookings Institution».
«Para 2050, una de cada cuatro personas será africana, y para 2035, África albergará la mayor afluencia de fuerza laboral joven del mundo, superando al resto del planeta», indicó Brookings Institution en un informe reciente.
Sin embargo, a pesar de este potencial, África se queda atrás, con menos del 1% de los centros de datos globales y menos del 1% de la investigación y el desarrollo de IA. Además, solo el 0,02% del contenido en internet está en idiomas africanos.
El reto de regular en años una tecnología que avanza en días
Expertos también advirtieron sobre un «problema de ritmo», donde la tecnología IA evoluciona en semanas, mientras que la gobernanza se retrasa años.
«En lugar de registros anuales, estas sesiones deben convertirse en procesos de políticas continuos con herramientas de pronóstico integradas para detectar riesgos emergentes de manera temprana y paneles de monitoreo en tiempo real para rastrear cómo la implementación de IA afecta a las personas en tiempo real», recomendó «Brookings Institution».
Estos debates podrían determinar las tecnologías que se incorporen a la vida cotidiana, desde la IA que recomienda compras hasta los sistemas que moderan lo que se ve en línea. Sin embargo, incluso mientras la ONU da estos primeros pasos, el desafío que se avecina es inmenso.
Según un informe de la ONU de 2024, se encontró que 118 países no eran parte de ninguna de las iniciativas de gobernanza de IA «internacionales» creadas en los últimos años, y solo siete naciones, todas del mundo desarrollado, participaban en todas ellas.
Aunque la gobernanza de la IA no se resolverá de inmediato, el «Panel Científico» y el «Diálogo Global» ofrecen el marco necesario para una regulación proactiva. No obstante, su éxito dependerá de tres factores clave: transparencia, financiación sostenida y voluntad de los Estados para acatar normas acordadas internacionalmente en este sector tecnológico en rápido crecimiento.
