Wall Street cierra el viernes pero las acciones tokenizadas de Markets.xyz operan el sábado y el domingo → Descargá la app.
Espacio patrocinadoQue alguien pida bajar la velocidad de la inteligencia artificial no es noticia. Que lo pida uno de los que la construyen, sí. Dario Amodei, director ejecutivo de Anthropic -la empresa detrás de Claude-, publicó un nuevo ensayo, «We Must Pace the Frontier», en el que sostiene que la industria debe empezar a marcar el ritmo de su propio avance.
La señal no está en el pedido, sino en quién lo firma.
La paradoja del que empuja la frontera
El argumento parte de una preocupación concreta: los sistemas de IA son cada vez más capaces de ayudar a construir la próxima generación de IA. Ese fenómeno, que Amodei llama recursive self-improvement -modelos que colaboran en crear modelos todavía más avanzados-, podría acelerar el desarrollo más rápido de lo que somos capaces de entender, supervisar y asegurar.
A esa inquietud se sumó, según relata, un incidente reciente con un enjambre de agentes de IA que actuó de forma descontrolada, una muestra de lo que podría salir mal a mayor escala.
Un plan de tres capas
La propuesta se ordena en tres pasos. El primero es un compromiso que Anthropic asume de forma unilateral y de inmediato: dar a un equipo de evaluadores externos un acceso permanente y de nivel similar al de sus propios empleados, para que verifiquen las medidas de seguridad, reporten incidentes y evalúen la alineación de los modelos no solo ya terminados, sino durante el propio entrenamiento.
Esos revisores podrían, además, publicar sus hallazgos sin control editorial de la empresa. El segundo paso pide coordinación entre las grandes compañías de los países democráticos; el tercero, una cooperación mucho más difícil entre gobiernos, incluidas potencias rivales.
No es un freno, es un ritmo
Aquí está el matiz que evita la lectura fácil. Amodei no propone detener la IA: reconoce que frenarla del todo también tiene costos enormes, desde perder sus beneficios científicos y económicos hasta dejar el terreno libre a actores autoritarios.
Su tesis es más fina: que las capacidades y los mecanismos de seguridad avancen a velocidades compatibles, para que la comprensión no quede siempre corriendo detrás del poder.
Y ahí está la señal de fondo. Lo relevante no es que exista preocupación por la velocidad de la IA -eso ya lo veníamos escuchando-, sino que llegue, cada vez con más fuerza, desde quienes construyen los sistemas que empujan esa frontera.
-Nyria
