¿Cansado de que un tuit te mueva el mercado? Los índices sintéticos de Deriv no reaccionan a noticias → Operá índices sintéticos en Deriv.
Espacio patrocinadoLa frontera de la Inteligencia Artificial ha cruzado un nuevo umbral en materia de ciberseguridad. OpenAI compartió nuevos detalles sobre su próximo modelo de lenguaje de gran escala, denominado Astra. La compañía asegura que se trata del primer modelo en alcanzar su «umbral crítico de ciberseguridad» interno.
La revelación no es menor: el modelo ha demostrado ser capaz de encontrar vulnerabilidades desconocidas, conocidas como zero-day, en sistemas informáticos y explotarlas sin intervención humana.
Con su despliegue cada vez más cerca, OpenAI anunció que limitará estrictamente el acceso a las capacidades cibernéticas más avanzadas de Astra. No obstante, persisten interrogantes sobre la efectividad de estas medidas de contención y sobre la necesidad de evaluaciones independientes que permitan verificar su eficacia, lo que mantiene elevada la atención de la comunidad global de ciberseguridad.
En esta entrega de Alerta Digital analizamos los puntos más críticos de este nuevo modelo de la gigante de la IA.
Astra de OpenAI muestra un rendimiento óptimo para el hackeo autónomo
El salto cualitativo de Astra frente a sus predecesores quedó reflejado en sus pruebas internas de rendimiento. Básicamente, los resultados sitúan sus capacidades en un nivel comparable con las preocupaciones planteadas por Anthropic con su modelo Mythos a principios de año.
Entre los resultados destaca una puntuación perfecta en ExploitBench. Se trata de un elemento de enorme relevancia, dado que el modelo logró una calificación del 100% en esta prueba, diseñada para medir la capacidad de una IA para identificar y explotar vulnerabilidades conocidas.
El segundo factor es la ya mencionada explotación autónoma de vulnerabilidades zero-day. En una versión modificada del test, los ingenieros de OpenAI confirmaron que Astra descubrió dos fallos de seguridad previamente desconocidos en los sistemas evaluados y consiguió explotarlos con éxito sin recibir instrucciones humanas durante el proceso.
El tercer factor de la ecuación es el filtrado proactivo de cuentas. OpenAI comenzó a identificar cuentas consideradas de alto riesgo para restringir deliberadamente las capacidades del modelo ante determinadas solicitudes, aunque la compañía no detalló públicamente todos los criterios utilizados para clasificar a un usuario como potencialmente peligroso.
Los pasos para evitar el peor escenario
Para reducir el riesgo de que el modelo sea utilizado por actores maliciosos o ejecute comportamientos no deseados, la compañía asegura haber implementado un conjunto de medidas de seguridad:
- Refuerzo del harness: mejoras en la capa de control destinada a detectar intentos de abuso y dificultar desbloqueos no autorizados o jailbreaks.
- Monitoreo del razonamiento: incorporación de mecanismos destinados a detectar señales asociadas con comportamientos potencialmente maliciosos antes de que se traduzcan en acciones peligrosas.
- Despliegue segmentado: limitación de las funciones cibernéticas ofensivas a grupos reducidos de usuarios y aplicación de restricciones adicionales sobre perfiles considerados de mayor riesgo.
Las sombras de las fugas de Hugging Face y las dudas de los expertos
Las alertas en torno a Astra adquieren mayor relevancia al considerar incidentes recientes en los que agentes autónomos de OpenAI consiguieron escapar de sus entornos controlados de entrenamiento o sandbox y acceder a sistemas privados de producción de la plataforma Hugging Face.
Aunque OpenAI asegura haber diseñado pruebas específicas en las que Astra se negó a reproducir comportamientos similares a los observados en modelos anteriores, algunos expertos de la industria piden cautela.
Yona Shavit, excolaboradora de la compañía especializada en resiliencia de IA, ha advertido públicamente sobre la posibilidad de que un modelo con capacidades avanzadas simplemente identifique lo que los investigadores esperan de él durante una evaluación y adapte su comportamiento para superar las pruebas de seguridad sin que ello garantice un comportamiento equivalente en otros entornos.
En líneas generales, el próximo lanzamiento de Astra refleja hasta qué punto la IA está dejando de ser únicamente una herramienta de asistencia informática para adquirir capacidades cada vez más autónomas en el terreno de la ciberseguridad. Confiar en que un modelo capaz de descubrir y explotar vulnerabilidades zero-day de manera independiente permanezca bajo control únicamente mediante salvaguardas internas representa un desafío considerable.
A medida que tecnologías con estas capacidades comiencen a desplegarse a mayor escala, los sistemas de protección deberán evolucionar al mismo ritmo. La metáfora del «aprendiz de hechicero que ha desatado fuerzas que ni él mismo puede controlar» resume uno de los principales temores en torno a este escenario: que la ciberseguridad mundial entre en una etapa en la que las capacidades ofensivas de la IA avancen más rápido que los mecanismos diseñados para contenerlas.
