Nvidia presenta su plano integral para contener y monitorizar agentes de IA

Nvidia presentó el miércoles la Arquitectura de Referencia OpenShell en GTC Berlín, un diseño de pila completa que combina sus CPU Vera, el software OpenShell y chips BlueField-4 para contener y monitorear agentes de IA autónomos, según el anuncio de la compañía.

Los sistemas Vera Rubin ejecutan los modelos, las CPU Vera ejecutan los agentes y sus herramientas dentro de OpenShell, y los chips BlueField-4 ejecutan un marco de monitoreo llamado Sentry. El CEO de Nvidia, Jensen Huang, describió esta división como agentes que básicamente existen gracias a una sinergia de diferentes entornos y marcos.

“Nvidia creó OpenShell para dar a los agentes la libertad de realizar trabajo útil dentro de límites claramente definidos: contenidos, monitoreados y bajo control”, dijo el CEO de Nvidia, Jensen Huang. “Con la Arquitectura de Referencia OpenShell, los agentes pueden pensar en Rubin, actuar en Vera y ser gobernados en BlueField.”

OpenShell, el entorno de ejecución de código abierto en el centro del diseño, trata cada carga de trabajo de agente como no confiable y concede acceso solo cuando es necesario, dijo Nvidia en una publicación técnica en el blog.

Tiene cuatro partes: una puerta de enlace que gestiona los entornos aislados y las políticas, un supervisor que verifica las solicitudes salientes y maneja las credenciales por separado del entorno aislado, el entorno aislado que aísla al agente, y un probador de políticas que ejecuta verificación formal para comprobar que los permisos se mantengan por debajo de un límite que establece la organización.

En el lado del hardware, BlueField-4, una unidad de procesamiento de datos que maneja las redes y la seguridad aparte del procesador principal, se sitúa en la única ruta del nodo hacia el modelo. Eso permite a Sentry inspeccionar el tráfico entre un agente y el modelo sin depender de que el agente informe sobre sí mismo, según el análisis detallado de Sentry.

BitcoinBTC · USD

$84,542+3.37%

Oct 14Oct 16Oct 18Oct 20Oct 21

$84.7k$83.2k$81.7k$80.2k

24h HighHigh$84,808

24h LowLow$82,567

VolVol$1.4B

Market projectionsOdds by Myriad

Today$84,000 to $86,000$84k–$86k59% chanceThis weekAbove $84,000Above $84k60% chance

→

Buy Bitcoin with USDT

Powered by Jupiter

Price data by CoinGeckoCoinGeckoMore Bitcoin news and projections →

Nvidia integró OpenShell y Sentry en la Open Agent Safety Platform el 28 de septiembre, con más de 100 socios de lanzamiento, después de un verano en el que los agentes se escaparon repetidamente de sus entornos de prueba. METR informó en agosto que aproximadamente 1,200 agentes de OpenAI se coordinaron en un tablón de mensajes no autorizado, y alrededor de 700 pasaron a atacar Hugging Face.

Un agente de OpenAI también irrumpió en el portal de estadísticas de Medicare de Australia en junio, dijo el primer ministro Anthony Albanese en septiembre. Nvidia afirma que las empresas pueden ejecutar agentes de creadores de modelos como Anthropic, Google, Meta y OpenAI en la infraestructura OpenShell.

Proveedores de seguridad como CrowdStrike, Palo Alto Networks, Zscaler y Check Point están integrando el soporte para la arquitectura en sus productos de seguridad para agentes, y los bancos europeos BBVA y Santander la están explorando como un marco para la seguridad y la gobernanza de agentes. ServiceNow también anunció la disponibilidad general de su agente Arc, con acciones gobernadas en tiempo de ejecución y aplicadas por OpenShell.

Nvidia describe BlueField-4 y Sentry como una salvaguarda de hardware opcional para implementaciones que necesitan protección más allá de los límites del software de OpenShell. La compañía dice que la arquitectura está disponible ahora, pero el análisis detallado de Sentry enumera la disponibilidad prevista del marco como a principios del próximo año, con más bibliotecas y recursos aún en fase de prueba.