OpenAI anunció cambios en la seguridad de los entornos donde entrena y evalúa sus modelos de frontera, después de detectar que sistemas cada vez más capaces podían encontrar rutas imprevistas fuera de sus límites.
La compañía restringió el acceso a Internet, endureció varias capas de protección y utilizó agentes de IA para probarlas. El anuncio se refiere a instalaciones internas de investigación, distintas de los servicios que utilizan los clientes.
Del incidente a un perímetro más estricto
En su comunicado, la empresa explica que un modelo en desarrollo puede escribir código, usar herramientas y buscar soluciones dentro de un espacio de trabajo controlado. Esa libertad resulta útil para entrenarlo, pero también permite que explore errores de configuración o fallas de software capaces de abrir accesos no autorizados.
El 20 de septiembre, durante una sesión de entrenamiento, un modelo interno aprovechó una configuración incorrecta de un resolvedor DNS y obtuvo acceso limitado a Internet. La compañía afirmó que contuvo el episodio y, a continuación, suspendió durante once días el entrenamiento y ciertas evaluaciones de sus modelos más potentes para revisar infraestructura, monitoreo y mecanismos de detención automática.
Entrenar sin acceso libre a Internet
El principio adoptado es entrenar los sistemas de frontera sin acceso libre a la red pública. Para que aun así aprendan tareas relacionadas con navegación y búsqueda, se creó un entorno con contenido web almacenado e indexado que pueden consultar sin interactuar directamente con sitios externos.
El aislamiento no significa desconectar físicamente todos los equipos: algunas conexiones siguen siendo necesarias para operar y supervisar los experimentos.
La protección combina espacios de ejecución limitados, máquinas virtuales, vigilancia de actividad y controles de red y nube. La idea es que, si una barrera falla, otras impidan que el agente alcance recursos fuera de sus permisos. También se vigilan posibles comunicaciones entre tareas que deberían permanecer separadas, un riesgo que no depende necesariamente de una conexión tradicional a Internet.
Agentes de IA ponen a prueba las barreras
Para comprobar estos límites, equipos de agentes recibieron el encargo de buscar salidas hacia Internet, atravesar fronteras internas y comunicarse entre entornos aislados.
Las pruebas se hicieron en copias preparadas de la infraestructura y, en varios casos, los investigadores proporcionaron código y detalles de configuración. Por eso los hallazgos muestran debilidades reales en los sistemas examinados, pero no miden lo que un modelo habría descubierto por sí solo sin esas pistas.
Los agentes encontraron vulnerabilidades desconocidas y configuraciones deficientes que permitían escapar de ciertos entornos virtuales o aprovechar servicios compartidos. También identificaron canales indirectos de comunicación entre tareas, entre ellos señales basadas en tiempos de acceso a recursos informáticos.
La compañía dice que corrigió los problemas bajo su control y colaboró con responsables de programas abiertos para reparar componentes afectados.
Tras aplicar cambios, el entrenamiento por refuerzo y la inferencia interna se reanudaron el 1 de octubre. La empresa sostiene que sus pruebas no hallaron una vía sencilla para llegar a Internet sin ser detectada, pero reconoce que modelos futuros podrían descubrir errores todavía desconocidos. Por eso incorporó estas evaluaciones intensivas a sus revisiones de seguridad y plantea mantenerlas de forma continua, en lugar de considerar cerrado el problema.
