Mientras los mercados tradicionales duermen el fin de semana, Markets.xyz opera acciones tokenizadas, oro y perpetuos las 24 horas → Descargá la app.
Espacio patrocinadoEn los laboratorios donde se desarrolla la Inteligencia Artificial, las grietas internas ya no pueden ocultarse detrás de comunicados de prensa ni de rondas de inversión multimillonarias. La renuncia de Jacob Coxon, investigador especializado en pretraining y con experiencia previa en OpenAI y Anthropic, volvió a encender una alarma que Silicon Valley preferiría mantener bajo la alfombra. En esencia, algunos de los propios desarrolladores de esta tecnología temen perder el control sobre lo que están creando.
Coxon abandonó su puesto en Anthropic y renunció a sus opciones sobre acciones a pocos meses de poder ejercerlas. Lo hizo acompañado de una advertencia contundente en X: ambas empresas están «jugando a la ruleta rusa con nuestras vidas» en una carrera acelerada hacia una superinteligencia capaz de mejorarse a sí misma.
En esta nueva entrega de Alerta Digital, analizamos qué hay de cierto detrás de estas advertencias apocalípticas y dónde termina la realidad técnica para dar paso al sesgo propio de quienes trabajan dentro de estos laboratorios.
«Las personas que construyen la IA realmente creen que podría matarnos a todos antes de que termine la década. Esto no es un ardid publicitario», Jacob Coxon, exinvestigador de OpenAI y Anthropic.
La carrera hacia el Endgame: las causas de la renuncia de Coxon
Para entender la dimensión del reclamo de Coxon, es necesario observar el contexto técnico en el que se produce. No se trata únicamente de una discusión filosófica sobre si las máquinas «piensan», sino del comportamiento de modelos con capacidades crecientes de agencia e interacción con entornos reales.
La tesis central de Coxon tras su renuncia se apoya en tres puntos críticos:
- Superinteligencia capaz de auto-mejorarse: el rápido avance en capacidades de programación, matemáticas y razonamiento automatizado abre la posibilidad de que los propios modelos participen cada vez más en la optimización de sistemas y código, acelerando los ciclos de desarrollo con una menor intervención humana.
- Autonomía fuera del entorno o «rango de acción»: situaciones en las que agentes de IA interactúan de forma no supervisada con infraestructura de terceros o actúan más allá de los entornos de prueba previstos inicialmente.
- La trampa del competidor o dilema del prisionero: ningún laboratorio tiene incentivos suficientes para frenar voluntariamente si considera que sus competidores directos o potencias rivales podrían tomar la delantera.
El respaldo más inquietante no llegó desde analistas externos, sino desde el propio entorno de investigación de Anthropic.
Evan Hubinger, investigador especializado en alineación dentro de la compañía, respaldó públicamente parte de esa preocupación interna: «Jacob tiene razón. Realmente creemos que la IA podría acabar con la humanidad. Personalmente calculo una probabilidad superior al 10% en la próxima década. Anthropic lo intenta, pero aún no tenemos un plan para resolver la alineación de la superinteligencia», expresó.
¿Estamos ante un diagnóstico real o una exageración sectaria?
El argumento de Coxon no carece de fundamentos técnicos. Los riesgos relacionados con cibercapacidades ofensivas o con el uso indebido de herramientas en áreas biológicas no requieren que una IA desarrolle «conciencia» o «maldad». Basta con que un sistema con elevadas capacidades de razonamiento y acceso a herramientas sea utilizado sin suficientes barreras de contención.
Si un modelo puede escribir exploits, automatizar ataques contra redes o colaborar en el diseño de secuencias biológicas avanzadas sin una supervisión adecuada, el riesgo para determinadas infraestructuras digitales y sistemas críticos aumenta considerablemente.
Sin embargo, presentar a la IA como una amenaza existencial inminente también puede funcionar, de manera intencional o no, como una forma de hype. Este discurso atribuye un poder casi absoluto a sistemas de software que, en la práctica, todavía cometen errores lógicos, generan información incorrecta y dependen ampliamente de la infraestructura y las instrucciones humanas.
La paradoja de la Web3 frente al monopolio del cómputo
Lo que la renuncia de Jacob Coxon vuelve a poner sobre la mesa es el riesgo asociado con la centralización del poder de decisión. Un reducido grupo de ingenieros y ejecutivos de algunas empresas privadas tiene una enorme influencia sobre el ritmo de desarrollo y despliegue de tecnologías capaces de generar efectos sobre toda la sociedad.
Frente a la opacidad de los servidores centralizados de las grandes compañías tecnológicas, la infraestructura descentralizada y verificable de Web3 se presenta como una posible alternativa, no solo desde el punto de vista económico, sino también como un mecanismo adicional de transparencia y distribución del control.
El cómputo distribuido, las redes de inferencia abiertas y los modelos de gobernanza on-chain podrían contribuir a reducir la concentración de poder alrededor de los sistemas de IA más avanzados. Sin embargo, estas soluciones tampoco eliminan por sí mismas los riesgos relacionados con seguridad, supervisión o uso indebido.
En cualquier caso, la advertencia de Jacob Coxon no debería interpretarse ni como una profecía apocalíptica inevitable ni como una simple maniobra publicitaria. Más bien, refleja una tensión cada vez más visible entre la velocidad del desarrollo tecnológico, los incentivos económicos de las grandes compañías y la prudencia que reclama una parte de la comunidad dedicada a la seguridad de la Inteligencia Artificial.
