A medida que las organizaciones amplían el despliegue de agentes autónomos de Inteligencia Artificial (IA) en entornos de producción, la seguridad corporativa enfrenta nuevos desafíos. La discusión ya no se limita a la capacidad de procesamiento o al cumplimiento de certificaciones, sino que incorpora una cuestión fundamental: mantener el control sobre sistemas capaces de ejecutar acciones de manera autónoma.
Para los responsables de ciberseguridad, la pregunta es cada vez más concreta: si un agente de IA resulta comprometido, ¿puede la empresa aislarlo y revocar sus permisos en cuestión de minutos sin interrumpir el resto de sus operaciones?
La llegada de la computación confidencial a las unidades de procesamiento gráfico (GPU) incorpora nuevas herramientas para proteger información sensible durante su procesamiento. Sin embargo, esta tecnología no sustituye los mecanismos de autorización ni garantiza que las acciones de un agente sean seguras, según un reciente análisis de VentureBeat.
En esta entrega de Alerta Digital, examinamos la visión de Nir Chervoni, responsable de productos de seguridad en Nebius, sobre la contención individual de agentes, las diferencias entre las barreras de seguridad de los modelos y los controles de acceso, y las garantías que las empresas deberían exigir a sus proveedores de infraestructura de IA.
La brecha de gobernanza: credenciales compartidas y falta de revocación
Los datos de VentureBeat Intelligence revelan una brecha entre la velocidad de adopción de agentes de IA y la madurez de los controles de seguridad. En una encuesta realizada en agosto, la mitad de los participantes afirmó que sus organizaciones ya utilizaban agentes en producción. Dentro de ese grupo, el 61% reconoció que existía algún grado de uso compartido de credenciales entre agentes.
Una investigación posterior, realizada en septiembre, mostró otra debilidad: solamente el 14% de quienes respondieron la pregunta sobre revocación aseguró que un responsable identificado podía retirar los permisos de un agente específico en cuestión de minutos.
Esta situación representa un riesgo importante para la continuidad operativa. Cuando varios agentes comparten una misma credencial, desactivar el acceso de uno comprometido puede interrumpir otros procesos legítimos que dependen de esa autorización. Además, la utilización de identidades compartidas dificulta determinar qué agente ejecutó una acción determinada y establecer responsabilidades ante un incidente.
Guardrails contra políticas de acceso: no confundir contención con alineación
Uno de los errores más frecuentes en la seguridad de sistemas de IA consiste en asumir que las barreras de protección del modelo, conocidas como guardrails, pueden sustituir los mecanismos tradicionales de control de acceso.
Aunque ambos elementos son importantes, cumplen funciones diferentes:
- Guardrails del modelo: buscan orientar, limitar o filtrar las respuestas y acciones propuestas por la IA. Sin embargo, pueden resultar insuficientes frente a manipulaciones del contexto, ataques de inyección de instrucciones (prompt injection) o comportamientos inesperados.
- Políticas de acceso (IAM): establecen qué recursos puede consultar o modificar cada identidad y qué operaciones está autorizada a ejecutar. Estas restricciones deben aplicarse independientemente de las instrucciones que reciba el modelo.
Por ello, Chervoni recomienda asignar una identidad individual a cada agente, utilizar credenciales de corta duración y limitar los permisos a las tareas estrictamente necesarias.
Esta arquitectura también debería incorporar sistemas seguros de gestión de credenciales, claves de cifrado bajo control del cliente y registros de auditoría integrados con las herramientas de monitoreo corporativo. El objetivo es garantizar que una empresa pueda identificar, supervisar y desactivar agentes específicos sin comprometer otras operaciones.
Computación confidencial en GPU: protección durante el procesamiento y sus límites
La computación confidencial amplía los mecanismos de protección de datos más allá del almacenamiento y las comunicaciones. En implementaciones compatibles, permite reforzar la confidencialidad de la información y de los modelos mientras se procesan en entornos que utilizan CPU y GPU.
Uno de sus componentes fundamentales es la atestación, un procedimiento que permite verificar determinadas características e integridad del entorno de ejecución. Esta comprobación puede utilizarse como condición para autorizar la entrega de claves criptográficas y permitir el acceso a información protegida.
Sin embargo, las garantías dependen de la configuración concreta del sistema. La computación confidencial no elimina las vulnerabilidades de las aplicaciones, no impide por sí misma los ataques de inyección de instrucciones y tampoco determina si las decisiones de un agente están autorizadas.
Por tanto, una identidad comprometida todavía podría ejecutar operaciones permitidas por sus credenciales. La protección de los datos durante el procesamiento debe complementarse con controles de acceso, aislamiento de cargas de trabajo y mecanismos eficaces de respuesta ante incidentes.
Aislamiento de clientes y soberanía: exigir evidencia operativa
Al evaluar proveedores de nube especializada en IA, los compradores corporativos deben trascender las promesas comerciales y exigir Al seleccionar proveedores de infraestructura especializada en IA, las organizaciones deben ir más allá de las certificaciones y las promesas comerciales. Según el análisis de VentureBeat, resulta fundamental solicitar pruebas verificables sobre cuatro aspectos:
- Saneamiento del hardware: comprobar los procedimientos utilizados para limpiar la memoria de las GPU, verificar la integridad del firmware y preparar los equipos antes de asignarlos a otro cliente.
- Aislamiento de redes de alta velocidad: exigir evidencia de que las conexiones entre GPU y otros recursos computacionales de un cliente permanecen separadas de las utilizadas por terceros.
- Separación del plano de control: verificar que las cargas de trabajo no puedan acceder indebidamente a las interfaces de administración y que los componentes compartidos de la infraestructura cuenten con mecanismos de aislamiento adecuados.
- Soberanía y protección de datos: evaluar no solo dónde se almacena la información, sino también quién puede acceder a ella, cómo se procesa, durante cuánto tiempo se conserva y quién controla las claves de cifrado.
Estas comprobaciones deben acompañarse de pruebas prácticas de revocación de permisos, verificación de integridad y recuperación ante incidentes. Asimismo, las empresas deberían evaluar el impacto de estas protecciones sobre el rendimiento y los costos de sus aplicaciones.
En definitiva, la seguridad de la Inteligencia Artificial corporativa no debe medirse únicamente por la capacidad de un agente para completar sus tareas, sino también por la posibilidad de limitar sus acciones cuando algo falla. La verdadera prueba de madurez operativa consiste en retirar los permisos de un agente comprometido de manera rápida, verificable y sin interrumpir los demás servicios de la organización.
