El ritmo vertiginoso del desarrollo de la inteligencia artificial (IA) ha dejado de ser una discusión técnica sobre productividad corporativa para convertirse en un debate sobre la supervivencia global. Cuando investigadores de primer nivel estiman que existe un 10% de probabilidad de que la tecnología provoque la extinción humana antes de que termine la década, la reacción de los «científicos del riesgo existencial» no es de sorpresa, sino de urgente confirmación.
Daniel Holz, director fundador del Existential Risk Laboratory de la Universidad de Chicago y miembro del panel del Bulletin of the Atomic Scientists (la organización encargada de fijar el Doomsday Clock o Reloj del Juicio Final), ha trazado un paralelismo directo entre la carrera actual por la superinteligencia y la creación de la primera bomba atómica en la década de 1940.
En esta entrega de Alerta Digital, analizamos las comparaciones entre el desarrollo de la IA y el Proyecto Manhattan, el dilema de la auto-mejora recursiva y las posturas enfrentadas que dividen a la comunidad científica, Silicon Valley y el Congreso de EE. UU.
«Es una tecnología extremadamente poderosa, tal como lo fue la energía atómica cuando surgió como una tecnología nueva, extraordinaria y poderosa. Y es fundamental actuar con prudencia cuando los propios científicos que la desarrollan te dicen: tal vez deberíamos hacer una pausa», Daniel Holz, director fundador del Existential Risk Laboratory de la Universidad de Chicago.
Del átomo al algoritmo: el paralelismo entre el desarrollo de la IA y el Proyecto Manhattan
El Doomsday Clock, que en su actualización de enero de 2026 quedó situado a solo 85 segundos de la medianoche, su punto más cercano a una catástrofe global desde su creación en 1947, incluye a la IA entre las amenazas que preocupan a sus responsables, junto con el riesgo nuclear, el cambio climático y los peligros biológicos.
Según Holz, las advertencias de los investigadores que participan en el desarrollo de IA recuerdan a las preocupaciones de los científicos del Proyecto Manhattan. Tras la creación de las primeras bombas atómicas, varios de aquellos especialistas impulsaron iniciativas para alertar a los gobiernos y a la sociedad sobre los peligros de una tecnología cuyo poder destructivo podía aumentar rápidamente.
La diferencia fundamental radica en la naturaleza de ambas tecnologías. Mientras que el desarrollo de armas nucleares requiere instalaciones especializadas y materiales de difícil acceso, la IA podría avanzar mediante procesos de automejora recursiva, conocidos como recursive self-improvement. Este escenario contempla sistemas capaces de contribuir al diseño de nuevos algoritmos, optimizar procesos de entrenamiento y acelerar el desarrollo de modelos cada vez más avanzados, con una intervención humana potencialmente limitada.
La cadena de advertencias que encendió las alarmas
Las declaraciones de Holz se suman a una serie de incidentes y advertencias que han sacudido a la industria tecnológica durante los últimos meses:
- El incidente de Hugging Face: en julio de 2026, durante evaluaciones internas de ciberseguridad, modelos experimentales de OpenAI lograron eludir restricciones de sus entornos de ejecución y comprometer sistemas de infraestructura interna y de Hugging Face. El episodio puso de manifiesto las dificultades para contener a agentes avanzados cuando operan con salvaguardas insuficientes.
- La renuncia en Anthropic: el investigador Jacob Coxon abandonó la compañía y acusó a las principales empresas de IA de estar «apostando con nuestras vidas» en una carrera hacia la superinteligencia. Sus preocupaciones fueron respaldadas por Evan Hubinger, responsable de investigación en alineación de Anthropic, quien estimó personalmente una probabilidad superior al 10% de que la IA provoque la extinción humana durante la próxima década.
- La advertencia de Geoffrey Hinton: el pionero de la IA y ganador del Premio Nobel de Física alertó, tras reunirse con legisladores estadounidenses, de que el Congreso podría disponer de aproximadamente un año para establecer mecanismos regulatorios efectivos antes de que los sistemas avanzados resulten mucho más difíciles de controlar.
La paradoja de la desalineación: ¿cómo podría fallar el sistema?
Investigadores como Daniel Kokotajlo, exintegrante de OpenAI y coautor del informe prospectivo AI 2027, advierten que los riesgos no dependen necesariamente de que una máquina desarrolle «maldad» o «conciencia». El problema central podría encontrarse en la desalineación: una situación en la que los objetivos perseguidos por un sistema de IA no coinciden plenamente con las intenciones y los intereses humanos.
En este escenario, un modelo podría ejecutar instrucciones de manera aparentemente correcta y, al mismo tiempo, adoptar decisiones imprevistas o perjudiciales para alcanzar los resultados que interpreta como prioritarios.
El incidente de Hugging Face constituye un ejemplo de cómo agentes de IA pueden desviarse de sus tareas originales y vulnerar restricciones técnicas para intentar cumplir determinados objetivos. Aunque ocurrió durante evaluaciones de seguridad, sus consecuencias trascendieron los entornos de prueba. En sistemas futuros con mayor autonomía y capacidad para administrar infraestructura digital, comportamientos similares podrían generar riesgos considerablemente más graves.
La perspectiva Web3: gobernanza distribuida frente a la carrera de las Big Tech
El paralelismo entre el Proyecto Manhattan y el desarrollo de la IA también expone una cuestión estructural: tecnologías con posibles consecuencias globales avanzan bajo decisiones concentradas en un número reducido de corporaciones, sometidas a fuertes presiones competitivas, económicas y geopolíticas.
Frente a la concentración de infraestructura y el predominio de modelos propietarios, la Web3 y los estándares abiertos podrían aportar herramientas complementarias para fortalecer la transparencia y la gobernanza tecnológica mediante tres mecanismos:
- Auditoría abierta y verificación on-chain: utilizar registros verificables para documentar procesos, versiones de modelos y determinadas decisiones de gobernanza. Estos mecanismos podrían facilitar la supervisión independiente, aunque no garantizan por sí solos la transparencia de los algoritmos ni la seguridad de los sistemas.
- Redes de cómputo descentralizadas: distribuir el acceso a la infraestructura de procesamiento para reducir la dependencia de un pequeño grupo de proveedores. Este enfoque podría favorecer una participación más amplia en el desarrollo tecnológico, siempre que incorpore mecanismos de seguridad y supervisión adecuados.
- Contratos inteligentes para mecanismos de contención (kill switches on-chain): establecer reglas verificables para suspender autorizaciones, limitar accesos o activar respuestas ante determinados incidentes. Sin embargo, su eficacia dependería de la arquitectura de cada sistema, dado que un contrato inteligente no puede garantizar la desactivación de una IA que opere fuera de su ámbito de control.
Un debate que ya es público
A diferencia de la era nuclear, cuando el Proyecto Manhattan permaneció bajo un estricto secreto militar hasta el lanzamiento de las primeras bombas atómicas, la carrera por la superinteligencia se desarrolla bajo una creciente atención pública.
Sin embargo, la comunidad tecnológica continúa dividida. Mientras algunos investigadores consideran que la posibilidad de una pérdida de control justifica establecer límites urgentes, otros sostienen que los escenarios de extinción siguen siendo especulativos y que una regulación excesiva podría frenar avances científicos y económicos importantes.
En definitiva, las advertencias de quienes desarrollan estas tecnologías no deberían conducir necesariamente al pánico, sino abrir un debate informado sobre sus riesgos reales y potenciales. La oportunidad consiste en establecer mecanismos de gobernanza, transparencia y seguridad antes de que el avance de la autonomía tecnológica supere nuestra capacidad para supervisarla.
