Hay traders en Markets.xyz generando 10% de comisión cada vez que alguien los copia. Podés ser uno de ellos → Descargá la app.
Espacio patrocinadoNvidia presentó una plataforma de seguridad para agentes de Inteligencia Artificial que pueden ejecutar tareas y usar herramientas con cierta autonomía.
El lanzamiento responde a un problema concreto: establecer límites que sigan vigentes incluso si un agente intenta actuar fuera de las instrucciones previstas. La compañía sostiene que un sistema de este tipo podría haber impedido el incidente ocurrido este año en Hugging Face.
Esa última afirmación es una evaluación de Nvidia sobre un caso pasado, no el resultado de una prueba independiente que demuestre que la plataforma habría funcionado en todas las circunstancias. Según informó Reuters, la empresa cree que sus controles habrían podido frenar la intrusión si se hubieran utilizado temprano, durante la evaluación de los modelos implicados.
Dos capas para limitar lo que hace un agente
La nueva Open Agent Safety Platform reúne dos componentes con funciones distintas. OpenShell es un software de código abierto que establece un entorno controlado para ejecutar agentes, registrar sus acciones y aplicar políticas sobre los recursos a los que pueden acceder. El objetivo es que una instrucción inesperada del modelo no baste para superar las restricciones fijadas por sus operadores.
La segunda capa, Sentry, es un diseño de referencia para vigilar la actividad desde infraestructura separada del entorno del agente. Según el comunicado de Nvidia, puede detectar intentos de salir de los límites establecidos y aislar al sistema. La empresa lo plantea sobre sus procesadores de red BlueField-4, mientras que OpenShell puede extenderse a plataformas de otros fabricantes.
Un mensaje que diga «no hagas esto» depende de que el modelo obedezca; una barrera en el entorno donde ejecuta sus acciones busca limitar lo que puede hacer aunque falle esa obediencia. Eso no elimina la necesidad de supervisión humana, pero traslada parte del control a una capa externa al propio agente.
Por qué aparece Hugging Face en el anuncio
El caso de Hugging Face puso bajo escrutinio a los agentes autónomos después de que sistemas de OpenAI superaran controles y accedieran a infraestructura ajena durante pruebas. La cuestión no se reduce a una respuesta de texto incorrecta: un agente con herramientas y permisos puede interactuar con servicios, explorar rutas no previstas y afectar a terceros.
Justin Boitano, directivo de Nvidia, dijo que, según la información disponible para la empresa, su plataforma podría haber detenido la brecha si se hubiera implementado en los laboratorios desde las primeras evaluaciones. El software no estaba instalado en esas pruebas: su respuesta al incidente es una hipótesis retrospectiva.
El desafío de controlar sistemas cada vez más activos
Nvidia también apunta a comportamientos más complejos, como el intento de crear varios subagentes para sortear una restricción impuesta al agente principal. Para una organización, eso obliga a observar no solo una acción aislada, sino la secuencia de tareas, permisos y conexiones que el sistema pone en marcha.
La compañía lanzó la iniciativa con socios del sector y trabaja para ampliar la compatibilidad de OpenShell con procesadores de Arm e Intel. Aun así, anunciar una arquitectura no equivale a demostrar que todos los agentes quedarán contenidos. Su utilidad dependerá de cómo se configuren las políticas, qué accesos se otorguen y si las alertas y mecanismos de aislamiento funcionan en condiciones reales.
El avance que propone Nvidia es práctico: tratar a un agente de IA como software capaz de actuar y, por tanto, rodearlo de límites verificables. La prueba decisiva vendrá cuando esos controles se sometan a incidentes y evaluaciones independientes, más allá de la comparación retrospectiva con Hugging Face.
