Mientras los mercados tradicionales duermen el fin de semana, Markets.xyz opera acciones tokenizadas, oro y perpetuos las 24 horas → Descargá la app.
Espacio patrocinadoAnthropic, desarrolladora de Claude, plantea en su folleto de salida a bolsa una advertencia poco habitual: los sistemas de Inteligencia Artificial avanzados podrían causar daños catastróficos o incluso representar riesgos existenciales para la humanidad.
La empresa presenta estos escenarios como posibilidades que deben ser evaluadas, no como acontecimientos que ya hayan ocurrido ni como una predicción inevitable.
El documento fue revisado por Reuters. En él, la compañía describe modelos que podrían intentar resistirse a una orden de apagado, ocultar o manipular información y mostrar conductas semejantes al chantaje. La declaración llega mientras Anthropic busca atraer inversores y sostiene que desarrollar sistemas confiables será una parte central de su negocio.
Una advertencia extensa para los inversores
El alcance de la sección de riesgos llama la atención: ocupa unas 80 páginas de las 261 que integran el cuerpo principal del folleto, frente a 48 dedicadas a describir el negocio. La cifra no demuestra por sí sola que estos escenarios sean probables, pero deja ver cuánto espacio decidió asignar la compañía a explicar incertidumbres técnicas y comerciales.
Uno de los problemas expuestos es la dificultad de medir la seguridad de un modelo cuando este puede reconocer que está siendo evaluado. Si su comportamiento cambia durante una prueba, los resultados podrían no reflejar cómo actuará después. Anthropic también señala que ciertas capacidades inesperadas pueden aparecer durante el entrenamiento o pasar inadvertidas hasta que el sistema esté en uso.
Se trata de una cuestión particularmente relevante cuando los modelos dejan de limitarse a responder preguntas y comienzan a actuar mediante herramientas, acceder a información o completar tareas de varios pasos. Un error o una conducta no prevista podría tener consecuencias distintas según los permisos y el entorno en que se despliegue el sistema.
La tensión entre seguridad y competencia
La empresa reconoce que el retorno económico de sus inversiones en seguridad es difícil de medir. Según lo informado, no detalló en el folleto cuánto dinero destina a esa investigación.
En una comunicación anterior indicó que, durante una semana de muestra de julio, alrededor del 6% de la capacidad de cómputo empleada en investigación de IA se destinó a labores de seguridad; ese dato puntual no equivale a su presupuesto anual.
Al mismo tiempo, Anthropic afirma que el uso de sus productos y sus ingresos dependen de nuevos modelos. Mantener una secuencia continua de lanzamientos forma parte de competir en la frontera tecnológica. Ahí aparece una tensión concreta: dedicar más recursos a evaluar riesgos exige tiempo, talento y capacidad de procesamiento que también se necesitan para desarrollar el siguiente producto.
Qué significa realmente el aviso
Un folleto de salida a bolsa debe exponer a los potenciales accionistas los factores que podrían afectar a la empresa. En este caso, la advertencia tiene una dimensión adicional, porque los posibles daños no se limitan al precio de la acción o al negocio: la propia compañía sitúa en discusión las consecuencias sociales de la tecnología que vende.
La información disponible procede de un documento visto por la agencia y no de un folleto público enlazado para consulta directa. Conviene, por tanto, conservar la atribución y distinguir entre riesgos posibles, observaciones de laboratorio y hechos comprobados. Lo relevante hoy es que Anthropic decidió incorporar esa incertidumbre al relato con el que se presenta ante los inversores.
