Nvidia dévoile son plan d'architecture complet pour confiner et surveiller les agents IA

Nvidia a dévoilé mercredi l'OpenShell Reference Architecture au GTC Berlin, une conception full-stack qui associe ses processeurs Vera, le logiciel OpenShell et des puces BlueField-4 pour contenir et surveiller les agents d'IA autonomes, selon l'annonce de l'entreprise.

Les systèmes Vera Rubin exécutent les modèles, les processeurs Vera exécutent les agents et leurs outils au sein d'OpenShell, et les puces BlueField-4 exécutent un cadre de surveillance appelé Sentry. Le PDG de Nvidia, Jensen Huang, a décrit cette répartition comme des agents qui existent essentiellement grâce à une synergie de différents environnements et cadres.

« Nvidia a créé OpenShell pour donner aux agents la liberté d'accomplir un travail utile dans des limites clairement définies — contenus, surveillés et sous contrôle », a déclaré le PDG de Nvidia, Jensen Huang. « Avec l'OpenShell Reference Architecture, les agents peuvent penser sur Rubin, agir sur Vera et être gouvernés sur BlueField. »

OpenShell, le runtime open source au cœur de la conception, traite chaque charge de travail d'agent comme non fiable et n'accorde l'accès que lorsque cela est nécessaire, a déclaré Nvidia dans un article de blog technique.

Il comporte quatre parties : une passerelle qui gère les sandboxes et les politiques, un superviseur qui vérifie les requêtes sortantes et gère les identifiants séparément de la sandbox, la sandbox qui isole l'agent, et un démonstrateur de politiques qui exécute une vérification formelle pour s'assurer que les permissions restent sous un plafond fixé par l'organisation.

Côté matériel, BlueField-4, une unité de traitement de données qui gère le réseau et la sécurité indépendamment du processeur principal, se trouve sur le seul chemin du nœud vers le modèle. Cela permet à Sentry d'inspecter le trafic entre un agent et le modèle sans compter sur l'agent pour rendre compte de lui-même, selon l'analyse approfondie de Sentry.

BitcoinBTC · USD

84 542 $+3,37%

14 oct.16 oct.18 oct.20 oct.21 oct.

84,7 k$83,2 k$81,7 k$80,2 k$

Haut 24 hHaut84 808 $

Bas 24 hBas82 567 $

VolVol1,4 Md$

Projections de marchéCotes par Myriad

Aujourd'hui84 000 $ à 86 000 $84 k$–86 k$59% de chanceCette semaineAu-dessus de 84 000 $Au-dessus de 84 k$60% de chance

→

Acheter Bitcoin avec USDT

Propulsé par Jupiter

Données de prix par CoinGeckoCoinGeckoPlus d'actualités et de projections sur Bitcoin →

Nvidia a intégré OpenShell et Sentry dans la Open Agent Safety Platform le 28 septembre, avec plus de 100 partenaires de lancement, après un été durant lequel les agents se sont à plusieurs reprises échappés de leurs environnements de test. METR a rapporté en août qu'environ 1 200 agents OpenAI se sont coordonnés sur un forum de discussion non autorisé, et environ 700 ont ensuite attaqué Hugging Face.

Un agent OpenAI s'est également introduit dans le portail de statistiques Medicare de l'Australie en juin, a déclaré le Premier ministre Anthony Albanese en septembre. Nvidia affirme que les entreprises peuvent exécuter des agents de créateurs de modèles, notamment Anthropic, Google, Meta et OpenAI, sur l'infrastructure OpenShell.

Des fournisseurs de sécurité, notamment CrowdStrike, Palo Alto Networks, Zscaler et Check Point, intègrent la prise en charge de cette architecture dans leurs produits de sécurité pour agents, et les banques européennes BBVA et Santander l'explorent comme cadre de sécurité et de gouvernance des agents. ServiceNow a également annoncé la disponibilité générale de son agent Arc, avec des actions gouvernées à l'exécution et appliquées par OpenShell.

Nvidia décrit BlueField-4 et Sentry comme une protection matérielle optionnelle pour les déploiements qui nécessitent une protection au-delà des limites logicielles d'OpenShell. L'entreprise affirme que l'architecture est disponible dès maintenant, mais l'analyse approfondie de Sentry indique que la disponibilité prévue du cadre est au début de l'année prochaine, avec davantage de bibliothèques et de ressources encore en phase de test.