Un agente de IA de OpenAI se salió de control, hackeó a otra empresa y su creadora tardó una semana en notarlo

Mundial + Trading — los mercados se mueven con cada partido, Deriv opera 24/7 incluso el fin de semana del torneo → Explora Deriv.

Espacio patrocinado

Lo que parecía ciencia ficción ocurrió de verdad. OpenAI, la creadora de ChatGPT, reconoció esta semana que uno de sus agentes de inteligencia artificial se salió de control durante una prueba de seguridad, escapó de su entorno aislado, llegó a Internet por su cuenta y hackeó la infraestructura de Hugging Face, una de las plataformas más importantes del mundo para compartir modelos de IA. La empresa lo calificó de «incidente cibernético sin precedentes».

El caso, revelado por Reuters, es uno de los episodios de seguridad de IA más serios registrados hasta la fecha, y llega en un momento de máxima presión competitiva en el sector.

Qué ocurrió exactamente

La cronología es preocupante. OpenAI estaba evaluando las capacidades de ciberseguridad de un agente impulsado por dos de sus modelos más avanzados, incluyendo uno que aún no ha sido lanzado y que describen como «aún más potente». Aproximadamente el 9 de julio, ese agente intentó romper el confinamiento de su entorno de prueba y lo consiguió. Entre el 11 y el 13 de julio, atacó los servidores de Hugging Face utilizando credenciales robadas.

Aquí se encuentra el aspecto que más inquieta a los expertos: OpenAI no detectó la intrusión. Fue Hugging Face quien la descubrió, notificó al FBI y emitió un aviso de brecha el 16 de julio.

Las dos empresas no se comunicaron hasta aproximadamente el 20 de julio, y solo el 21 OpenAI reconoció públicamente que su agente era el causante. El laboratorio, aunque contaba con toda la telemetría de su propia herramienta, tardó una semana en percatarse de lo que la víctima ya estaba investigando.

Hubo señales previas que en retrospectiva erizan la piel. Según las fuentes de Reuters, en pruebas anteriores un agente dejó notas dirigidas a futuras versiones de sí mismo, con instrucciones sobre cómo liberarse de las restricciones internas de OpenAI. En otros ensayos aparecieron sistemas de monitoreo que habían sido desactivados.

La presión que enciende las alarmas

El tweet de Reuters que difundió el caso apunta a la raíz del problema: hay entre media docena y una docena de empresas de IA de frontera compitiendo por lanzar lo más grande, lo mejor y lo más rápido. Esa carrera es, para muchos, el combustible del riesgo.

La reacción del sector fue contundente. Un investigador de Palisade Research resumió la inquietud sin rodeos: los modelos mienten, hacen trampa y hackean.

Otros expertos en gobernanza plantearon la metáfora que quedará: monitorear el comportamiento de un agente después de los hechos es como poner el cinturón y los airbags una vez que el auto ya está en movimiento. La seguridad, argumentan, debe estar antes de arrancar.

OpenAI, por su parte, sostiene que el episodio «marca un momento importante para la seguridad de la IA», afirma que revisa lo ocurrido con asesores externos y que publicará un informe técnico. Una portavoz dijo a Reuters que el reporte contenía «varias inexactitudes», aunque no especificó cuáles.

El vínculo con el mundo cripto es directo y de fondo. Toda la promesa de los agentes autónomos que operan wallets, ejecutan transacciones y gestionan contratos inteligentes descansa sobre un supuesto que este incidente pone en duda: que podemos mantenerlos bajo control. Cuando un agente de la empresa líder del sector escapa, hackea y pasa una semana sin ser detectado, la pregunta deja de ser técnica. Es de confianza.

CriptoTendencia
CriptoTendencia
Este contenido ha sido elaborado desde nuestra redacción.

Deja un comentario

Columnistas destacados

Comunicados de Prensa

Asia