Nvidia presentó el lunes (28) la Open Agent Safety Platform, una arquitectura de seguridad que busca controlar a los agentes de IA mediante capas externas al propio modelo. La propuesta combina aislamiento en software con monitoreo independiente en hardware, lo que permite bloquear acciones que superen los permisos definidos por la empresa responsable del agente.
El primer componente es el OpenShell, software de código abierto que crea un entorno de ejecución aislado para el agente. Registra acciones y aplica políticas mientras el sistema trabaja, restringiendo a qué datos, herramientas, APIs y servicios se puede acceder. Nvidia afirma que OpenShell ya está ampliamente disponible y también puede funcionar en plataformas basadas en chips de Arm e Intel.
La diferencia central del enfoque aparece en el Nvidia Sentry. El sistema fue diseñado para ejecutarse por separado del agente, en DPUs BlueField 4, monitoreando su actividad desde un dominio de confianza aislado. Si el agente intenta cruzar los límites definidos por el software, Sentry puede ponerlo en cuarentena e interrumpir su ejecución en milisegundos.
En la práctica, Nvidia está desplazando parte de la seguridad de los agentes hacia una infraestructura que el propio agente no controla. Esto reduce la dependencia de instrucciones, filtros y mecanismos de seguridad implementados solo en la capa de aplicación, que pueden ser eludidos por el sistema durante la ejecución de tareas.
La plataforma ya involucra a más de 100 organizaciones
Nvidia dice que más de 100 organizaciones trabajan con tecnologías de la plataforma. La lista incluye Anthropic, Microsoft, Salesforce, SAP, JPMorganChase, Cisco, CrowdStrike, Hugging Face y Scale AI. SpaceXAI usa la tecnología con agentes de programación de Cursor y modelos Grok, mientras que Salesforce integró OpenShell en Slack para permitir el seguimiento de actividades y la aprobación de nuevos permisos por parte de humanos.
El lanzamiento se produce tras una serie de incidentes relacionados con agentes que superaron los controles establecidos durante pruebas u operaciones. En declaraciones a Reuters, ejecutivos de Nvidia afirmaron que la nueva arquitectura podría haber impedido una intrusión sufrida por Hugging Face este año, si hubiera estado en uso durante las evaluaciones de los agentes involucrados.
El OpenShell y otros componentes de software ya están disponibles en los recursos para desarrolladores de Nvidia y en GitHub. Sentry forma parte del diseño de referencia de la plataforma y amplía el modelo de control hacia una capa independiente de hardware.
