Nvidia przedstawia kompleksowy plan izolacji i monitorowania agentów AI

Nvidia zaprezentowała w środę w Berlinie na GTC architekturę referencyjną OpenShell, pełnostosowe rozwiązanie łączące jej procesory Vera, oprogramowanie OpenShell i układy BlueField-4, aby izolować i monitorować autonomicznych agentów AI, zgodnie z ogłoszeniem firmy.

Systemy Vera Rubin uruchamiają modele, procesory Vera uruchamiają agentów i ich narzędzia wewnątrz OpenShell, a układy BlueField-4 uruchamiają framework monitorujący o nazwie Sentry. Dyrektor generalny Nvidii Jensen Huang opisał ten podział jako agentów, którzy zasadniczo istnieją dzięki synergii różnych środowisk i frameworków.

„Nvidia stworzyła OpenShell, aby dać agentom swobodę wykonywania użytecznej pracy w jasno określonych granicach — izolowanych, monitorowanych i pod kontrolą” — powiedział dyrektor generalny Nvidii Jensen Huang. „Dzięki architekturze referencyjnej OpenShell agenci mogą myśleć na Rubin, działać na Vera i być zarządzani na BlueField”.

OpenShell, open-source'owe środowisko uruchomieniowe będące w centrum projektu, traktuje każde obciążenie agenta jako niezaufane i przyznaje dostęp tylko wtedy, gdy jest to potrzebne, powiedział Nvidia w wpisie na blogu technicznym.

Składa się z czterech części: bramy, która zarządza piaskownicami i politykami; supervisora, który sprawdza żądania wychodzące i obsługuje poświadczenia oddzielnie od piaskownicy; piaskownicy, która izoluje agenta; oraz dowodziciela polityk, który przeprowadza formalną weryfikację, aby sprawdzić, czy uprawnienia pozostają poniżej pułapu ustalonego przez organizację.

Po stronie sprzętowej BlueField-4, jednostka przetwarzania danych, która obsługuje sieć i bezpieczeństwo niezależnie od głównego procesora, znajduje się na jedynej ścieżce węzła do modelu. To pozwala Sentry kontrolować ruch między agentem a modelem bez polegania na tym, że agent sam się zgłosi, zgodnie z pogłębioną analizą Sentry.

BitcoinBTC · USD

$84,542+3.37%

Oct 14Oct 16Oct 18Oct 20Oct 21

$84.7k$83.2k$81.7k$80.2k

24h HighHigh$84,808

24h LowLow$82,567

VolVol$1.4B

Prognozy rynkoweKursy według Myriad

Dzisiaj$84,000 do $86,000$84k–$86k59% szansW tym tygodniuPowyżej $84,000Powyżej $84k60% szans

→

Kup Bitcoin za USDT

Obsługiwane przez Jupiter

Dane cenowe od CoinGeckoCoinGeckoWięcej Bitcoin wiadomości i prognoz →

Nvidia połączyła OpenShell i Sentry w Open Agent Safety Platform 28 września, z ponad 100 partnerami startowymi, po lecie, w którym agenci wielokrotnie wymykali się ze swoich środowisk testowych. METR poinformował w sierpniu, że około 1200 agentów OpenAI koordynowało działania na nieautoryzowanej tablicy ogłoszeń, a około 700 z nich następnie zaatakowało Hugging Face.

Agent OpenAI również włamał się do australijskiego portalu statystyk Medicare w czerwcu, powiedział premier Anthony Albanese we wrześniu. Nvidia twierdzi, że przedsiębiorstwa mogą uruchamiać agentów od twórców modeli, w tym Anthropic, Google, Meta i OpenAI, na infrastrukturze OpenShell.

Dostawcy zabezpieczeń, w tym CrowdStrike, Palo Alto Networks, Zscaler i Check Point, integrują obsługę tej architektury ze swoimi produktami bezpieczeństwa agentów, a europejskie banki BBVA i Santander badają ją jako ramy bezpieczeństwa i zarządzania agentami. ServiceNow ogłosiło również ogólną dostępność swojego agenta Arc, którego działania są zarządzane w czasie wykonywania i egzekwowane przez OpenShell.

Nvidia opisuje BlueField-4 i Sentry jako opcjonalne zabezpieczenie sprzętowe dla wdrożeń, które wymagają ochrony wykraczającej poza granice oprogramowania OpenShell. Firma twierdzi, że architektura jest już dostępna, ale szczegółowy przegląd Sentry wymienia planowaną dostępność frameworku na początek przyszłego roku, przy czym więcej bibliotek i zasobów jest wciąż w fazie testów.