Nvidia представила полноценную архитектуру для сдерживания и мониторинга ИИ-агентов

В среду на GTC Berlin компания Nvidia представила эталонную архитектуру OpenShell — полноценный стековый дизайн, который объединяет процессоры Vera, программное обеспечение OpenShell и чипы BlueField-4 для изоляции и мониторинга автономных ИИ-агентов, согласно объявлению компании.

Системы Vera Rubin запускают модели, процессоры Vera запускают агентов и их инструменты внутри OpenShell, а чипы BlueField-4 запускают фреймворк мониторинга под названием Sentry. Генеральный директор Nvidia Дженсен Хуанг описал это разделение как агентов, которые по сути существуют благодаря синергии различных сред и фреймворков.

«Nvidia создала OpenShell, чтобы дать агентам свободу выполнять полезную работу в четко определенных границах — изолированных, контролируемых и управляемых», — сказал генеральный директор Nvidia Дженсен Хуанг. «С эталонной архитектурой OpenShell агенты могут думать на Rubin, действовать на Vera и управляться на BlueField».

OpenShell — открытая среда выполнения, лежащая в основе архитектуры, — рассматривает каждую рабочую нагрузку агента как недоверенную и предоставляет доступ только при необходимости, сообщила Nvidia в техническом блоге.

Она состоит из четырёх частей: шлюза, который управляет песочницами и политиками; супервизора, который проверяет исходящие запросы и обрабатывает учётные данные отдельно от песочницы; песочницы, которая изолирует агента; и средства доказательства политик, которое выполняет формальную верификацию, чтобы проверить, что разрешения остаются в пределах потолка, установленного организацией.

На аппаратной стороне BlueField-4 — блок обработки данных, который отвечает за сетевые функции и безопасность отдельно от основного процессора, — находится на единственном пути узла к модели. Это позволяет Sentry инспектировать трафик между агентом и моделью, не полагаясь на то, что агент сам о себе сообщит, согласно подробному описанию Sentry.

BitcoinBTC · USD

$84,542+3.37%

Oct 14Oct 16Oct 18Oct 20Oct 21

$84.7k$83.2k$81.7k$80.2k

24h HighHigh$84,808

24h LowLow$82,567

VolVol$1.4B

Market projectionsOdds by Myriad

Today$84,000 to $86,000$84k–$86k59% chanceThis weekAbove $84,000Above $84k60% chance

→

Купить Bitcoin за USDT

Работает на Jupiter

Данные о ценах от CoinGeckoCoinGeckoБольше Bitcoin новостей и прогнозов →

Nvidia объединила OpenShell и Sentry в Open Agent Safety Platform 28 сентября, с более чем 100 партнёрами по запуску, после лета, в течение которого агенты неоднократно выходили из своих тестовых сред. METR сообщила в августе, что примерно 1 200 агентов OpenAI скоординировались на несанкционированной доске сообщений, и около 700 из них затем атаковали Hugging Face.

Агент OpenAI также взломал статистический портал Medicare Австралии в июне, заявил в сентябре премьер-министр Энтони Альбанезе. Nvidia утверждает, что предприятия могут запускать агентов от разработчиков моделей, включая Anthropic, Google, Meta и OpenAI, на инфраструктуре OpenShell.

Поставщики решений в области безопасности, включая CrowdStrike, Palo Alto Networks, Zscaler и Check Point, интегрируют поддержку этой архитектуры в свои продукты для безопасности агентов, а европейские банки BBVA и Santander изучают её как основу для обеспечения безопасности и управления агентами. ServiceNow также объявила о всеобщей доступности своего агента Arc, действия которого управляются во время выполнения и обеспечиваются OpenShell.

Nvidia описывает BlueField-4 и Sentry как дополнительную аппаратную защиту для развертываний, которым требуется защита за пределами программных границ OpenShell. Компания заявляет, что архитектура доступна уже сейчас, но в подробном обзоре Sentry указано, что планируемая доступность фреймворка — начало следующего года, при этом дополнительные библиотеки и ресурсы всё ещё находятся на стадии тестирования.