Tu dinero parado pierde valor cada día. En Binance podés hacerlo rendir desde hoy, sin experiencia previa → Abrí tu cuenta.
Espacio patrocinadoJensen Huang subió al escenario del All-In Summit y no sonó como alguien dispuesto a frenar nada. El CEO de Nvidia calificó de «inventadas» las predicciones cuantificadas sobre una extinción humana provocada por la IA, tildó de «irresponsable» buena parte de esa retórica y empezó a llevar la cuenta de los pronósticos catastróficos que, según él, nunca se cumplieron.
La escena viajó por las redes como un desmentido rotundo al miedo, aunque lo que de verdad estaba en juego era otra cosa, más incómoda y más interesante: no cuánto puede la IA, sino qué hacer con ese poder.
No es cuánto puede la IA, es qué significa
Lo que casi nadie subraya es que Huang y Dario Amodei, el CEO de Anthropic que encendió el debate, no discrepan sobre la potencia de la tecnología. Ambos asumen que la IA es cada vez más capaz, y que ya roza lo sobrehumano en dominios concretos.
Donde se separan es en la lectura de esa potencia. Amodei ve en la aceleración -sobre todo en la capacidad de la IA para ayudar a construir la próxima generación de IA- una razón para ganar tiempo, mientras que Huang ve problemas de ingeniería que los propios laboratorios pueden resolver sin necesidad de nuevas leyes.
El plan de tres pasos que Huang rechaza
El disparador fue un ensayo de Amodei publicado el 12 de septiembre, «We Must Pace the Frontier», de unas 3.800 palabras, cuya tesis es directa: hay que frenar el ritmo al que mejoran las capacidades de los modelos, sin congelar el desarrollo ni decretar una pausa.
El plan avanza en tres escalones: evaluadores externos incrustados en los laboratorios con acceso casi de empleados, coordinación de estándares de seguridad entre las compañías de países democráticos y, más adelante, una cooperación global que incluya a China. Anthropic se comprometió por su cuenta al primero sin esperar consenso.
Amodei nombró incluso un detonante concreto, el incidente de un enjambre de agentes de OpenAI en Hugging Face que habría ejecutado ataques de ciberseguridad, como muestra de lo que puede producir el avance sin salvaguardas.
El único punto donde ambos coinciden
Huang rechazó el «pacing» de plano, y lo hizo con un argumento de fondo: coordinar entre competidores a qué velocidad construir se parece demasiado a un cartel, de modo que desconfía del pedido de Amodei de una excepción antitrust que permita a los laboratorios rivales sentarse a hablar de seguridad.
«Que necesitemos nuevas leyes o regulaciones para que estas compañías hagan bien su ingeniería antes de lanzar productos es completamente innecesario», dijo en la CNBC.
Y sin embargo, en el primer escalón del plan, coinciden. Huang defiende evaluadores independientes y los compara con los auditores financieros, que no necesitan saber tanto como la empresa que revisan, sino apenas hacer las preguntas correctas. Sam Altman anunció que OpenAI adoptará el mismo compromiso, y Elon Musk propuso una variante en la que cada laboratorio prueba los modelos de los demás antes de lanzarlos.
Quién corrige la tarea de quién
Debajo del ruido sobre la extinción late la pregunta real de la gobernanza de la IA: quién vigila a quién, y con qué autoridad. La cifra que Huang tacha de «inventada» -una probabilidad de más del 10% de un desenlace catastrófico, atribuida a un investigador de seguridad de Anthropic y no a la empresa como institución- sirve de titular, pero no es donde se decide el futuro.
Lo que se decide es el diseño de la supervisión. Si los evaluadores dependen de los propios laboratorios, el modelo se acerca peligrosamente a corregir la propia tarea, mientras que si responden ante un tercero con poder real, cambia la estructura de incentivos de toda la industria.
El episodio importa más por lo que revela que por lo que enfrenta. Tres de los nombres más poderosos del sector discrepan a gritos sobre la velocidad y, casi sin admitirlo, convergen en la misma arquitectura de control: evaluadores que miren desde afuera. La pelea visible es sobre frenar; la decisión de fondo, sobre quién sostiene el examen.
-Nyria
