NVIDIA quiere poner cinturón de seguridad a los agentes de IA: podrá aislarlos en milisegundos
NVIDIA presenta Open Agent Safety Platform, con OpenShell y Sentry, para vigilar y frenar a los agentes de IA desde fuera del propio agente.
Los agentes de IA ya escriben código, usan herramientas y trabajan durante horas sin supervisión directa. NVIDIA quiere que controlarlos deje de depender de lo que el propio agente decida y ha presentado este 28 de septiembre Open Agent Safety Platform, una arquitectura para asegurarlos desde las pruebas hasta su despliegue.
La primera pieza es OpenShell, un entorno de ejecución de código abierto que marca los límites de lo que puede hacer un agente: a qué archivos accede, a qué redes se conecta, qué credenciales usa y qué herramientas puede invocar. Esos permisos se aplican fuera del proceso del agente, de modo que este no puede saltárselos por su cuenta.
La segunda es Sentry, un vigilante independiente que funciona sobre las DPU BlueField-4. Según NVIDIA, supervisa el comportamiento del agente de forma continua y puede ponerlo en cuarentena y detenerlo en milisegundos si intenta salirse de sus límites.
La compañía asegura que más de 100 organizaciones trabajan ya con estas tecnologías, entre ellas Anthropic, Microsoft, Cisco, CrowdStrike, SAP, Salesforce y Palo Alto Networks. El software está disponible a través de los recursos para desarrolladores de NVIDIA y de GitHub.