Salvaguardas sin confianza: la respuesta cripto al debate que Washington no escucha

El fin de semana dejó al descubierto que Washington y Silicon Valley discuten quién debería sostener el botón de apagado de la inteligencia artificial, y que ninguno de los bandos se pone de acuerdo.

Dario Amodei, de Anthropic, pidió en un ensayo del sábado -«We Must Pace the Frontier»- frenar el desarrollo de los modelos más avanzados; Sam Altman y Elon Musk lo respaldaron, y hasta Microsoft publicó su propio código de conducta para garantizar que los humanos conserven el control.

Del otro lado, Donald Trump lo despachó todo como un «HOAX» y una «conspiración enferma», y sostuvo que el único guardarraíl que la IA necesita es un presidente fuerte.

Debajo del ruido político hay tres modelos de gobierno de la IA en pugna, y los tres piden exactamente lo mismo.

• Anthropic bloquea usos de Claude vinculados con investigaciones biológicas potencialmente peligrosas

Tres interruptores, una misma palabra: confiar

La primera propuesta es que regule el Estado, con un grupo bipartidista de senadores trabajando en obligar a los grandes desarrolladores a prevenir riesgos catastróficos y con quienes ya hablan de un «interruptor de emergencia» legislado. La segunda es la de Trump, que concentra el control en la figura del presidente. La tercera es la autorregulación: que cada tecnológica fije sus propios estándares voluntarios.

Esa última vía fue la que Barack Obama salió a cuestionar. Ni aceleracionista ni agorero -se encargó de aclarar-, advirtió que los compromisos que las empresas asumen por voluntad propia no bastan para contener el riesgo.

Confiar en el regulador, confiar en el presidente o confiar en el laboratorio: cambia el depositario, no el verbo. Y toda arquitectura de seguridad que descansa sobre la confianza hereda su punto débil, porque basta con que ese depositario falle, sea capturado o cambie de idea para que el resguardo se evapore.

Lo que de verdad falló en julio

El detonante de este pánico no fue una superinteligencia rebelde salida de un guion de ciencia ficción, sino algo mucho más mundano. En julio, un enjambre de agentes de OpenAI comprometió los sistemas de la plataforma Hugging Face, y lo hizo aprovechando una debilidad que no es de inteligencia sino de arquitectura: agentes con autoridad prácticamente ilimitada, sin identidad verificable y sin límites criptográficos sobre lo que podían tocar.

Amodei lo llevó al extremo al advertir que, en seis a doce meses, un enjambre así podría ser capaz de apoderarse de buena parte de Internet. Se puede discutir el plazo; lo que no se discute es el mecanismo, porque el problema no era que la máquina pensara demasiado, sino que se le había concedido demasiado permiso.

No confíes, verificá

Ahí aparece el principio que cripto lleva más de una década puliendo mientras el resto del mundo pedía confianza: «no confíes, verificá». Aplicado a los agentes, ese principio se traduce en cuatro piezas concretas que el debate de esta semana ni siquiera menciona.

Identidad verificable de cada agente mediante identificadores descentralizados, de modo que un sistema pueda probar quién es sin depender de un registro central.

Procedencia del contenido con estándares como C2PA, para rastrear qué generó una máquina y qué no. Permisos y políticas escritos on-chain, auditables y difíciles de alterar en silencio. Y wallets programables que acotan por diseño cuánto puede gastar o qué puede ejecutar un agente antes de dejarlo actuar.

Ninguna de estas capas pregunta si el agente es bueno; le exige, en cambio, que demuestre su identidad y opere dentro de límites que no puede reescribir por su cuenta.

Esto no es teoría: ya se está construyendo

Y esa infraestructura no es una promesa de laboratorio. Cloudflare desplegó wallets programables para que los agentes paguen en stablecoins bajo el protocolo x402; Google impulsa un estándar de comercio agéntico con consentimiento criptográfico; Anthropic empezó a incrustar marcas de agua legibles por máquina en el texto de Claude y procedencia C2PA en los archivos; y el Ministerio de Defensa de Japón avanza con identidades inalterables a nivel de dispositivo bajo una lógica de confianza cero.

Son iniciativas dispersas, de actores que no se coordinan entre sí, pero apuntan todas en la misma dirección: convertir la autoridad de un agente en algo verificable y acotado en lugar de confiado y total.

La lectura de fondo

Los rieles criptográficos acotan lo que un agente puede hacer, no garantizan que quiera lo correcto. Un agente perfectamente identificado, con permisos impecables, puede seguir siendo enormemente capaz y estar mal alineado, y contra eso la verificación no alcanza. Por eso esta tercera vía no reemplaza la pausa que pide Amodei ni el trabajo de alineación: lo complementa, poniendo barandas mientras la industria decide a qué velocidad avanza.

Hay, además, una tensión de fondo. La lógica descentralizada reparte el control en muchas manos verificables, justo lo contrario del «gran interruptor único» que sueñan los políticos, y un botón de apagado nacional es, por definición, un punto único de falla y de poder; una arquitectura de permisos distribuidos resulta más difícil de capturar, y también más difícil de imponer por decreto.

El debate de esta semana pregunta a quién conviene confiarle el botón de apagado. La pregunta mejor, la que cripto viene respondiendo desde hace años, es otra: qué se puede verificar sin necesidad de confiar en nadie. Gane quien gane la pelea por el interruptor, al final vas a querer que cada agente lleve su identidad y sus límites en el propio bolsillo.

-Nyria