Коротко
- OCC випустила свою першу рамкову програму для екзаменаторів, які оцінюють використання банками штучного інтелекту, зосереджуючись на наслідках і автономії, а не на складності моделі.
- Настанова прямо стосується зовнішніх ШІ-агентів, відображаючи занепокоєння, висловлене великими банками.
- Рамкова програма не є обов'язковою, але надає приклади запобіжних заходів для автономних платежів, доступу третіх сторін і людського нагляду.
Управління контролера грошового обігу США опублікувало сьогодні свою першу наглядову рамкову програму щодо штучного інтелекту в банківській сфері, доручивши екзаменаторам зосереджуватися менше на тому, наскільки потужною є система ШІ, і більше на тому, що відбувається, коли вона припускається помилки.
Рамкова програма OCC стосується саме цього занепокоєння, хоча регулятор не пов'язав її випуск із тими конкретними інцидентами.
У розділі, присвяченому операційній стійкості, агентство попереджає, що зовнішні агенти, якими керують клієнти, фінтех-компанії або інші підприємства, можуть створювати ризики для банків, навіть коли банки не контролюють ці системи.
Це свідчить про те, що екзаменатори розглядають такі заходи, як перевірка особи, делеговані дозволи, ліміти транзакцій, моніторинг і можливість призупиняти або відкликати доступ.
Ці настанови мають на меті розв'язати дилему, з якою вже стикаються банки: як дозволити клієнтам використовувати ШІ-асистентів для управління своїми фінансами, не надаючи автономному програмному забезпеченню необмеженого доступу до рахунків.
Нові настанови OCC з'явилися менш ніж через два тижні після повідомлень про те, що великі банки виявляли несанкціонованих сторонніх ШІ-агентів, які діяли всередині клієнтських рахунків, іноді вчиняючи дії, що, схоже, виходили за межі інструкцій користувачів.
Morgan Stanley блокував сторонніх агентів, тоді як JPMorgan, Bank of America і Citi обмежували доступ, згідно з Axios від 22 жовтня. Керівники банків описали ситуацію як «жахливу», порушивши питання про те, хто контролює автономного агента, щойно він отримує доступ до чиїхось грошей.
ШІ, який переміщує гроші, ризикованіший за той, що пише електронні листи
Структура OCC проводить розмежування між технічною складністю системи ШІ та шкодою, яку вона може завдати.
Простий агент, уповноважений ініціювати фінансові транзакції, може становити більший ризик, ніж досконаліша модель, обмежена написанням внутрішніх документів, зазначив регулятор.
Згідно з 22-сторінковою структурою, екзаменатори можуть враховувати наслідки збою, чи можна скасувати дію та наскільки люди зберігають контроль над системою.
Агентство окреслює чотири ілюстративні рівні ризику. Повністю автономні платіжні агенти та системи прийняття кредитних рішень у реальному часі належать до найвищої категорії, тоді як базові внутрішні інструменти продуктивності займають найнижчу.
BitcoinBTC · USD
$80,042−1.89%
28 жовт30 жовт1 лист3 лист4 лист
$81.8k$79.9k$78.0k$76.2k
24г Макс.Макс.$81,004
24г Мін.Мін.$75,695
Об.Об.$1.7B
→Купити Bitcoin за USDC
Працює на Jupiter
Системи з підвищеним ризиком можуть потребувати жорсткіших обмежень щодо автономності, незалежного тестування та схвалення людиною, перш ніж можна буде перейти до наслідкових дій.
Ця структура також стосується систем штучного інтелекту, які продовжують працювати, ухвалюючи шкідливі рішення. Запропоновані запобіжні заходи включають автоматичні вимикачі, обмеження швидкості, обмежені дозволи та засоби аварійного вимкнення.
Ці міркування особливо актуальні для зовнішніх агентів, описаних у попередніх матеріалах Axios, де банки ледве могли відрізнити легітимне програмне забезпечення, авторизоване клієнтом, від систем, що працюють поза межами своїх передбачених дозволів.
Настанова, а не нові банківські правила
OCC наголосив, що документ не створює нових регуляторних вимог або обов'язкових стандартів для банків.
Натомість він дає екзаменаторам спосіб оцінювати ШІ в межах наявних категорій операційного, комплаєнс- та кібербезпекового ризику. Банки не зобов'язані створювати окрему категорію ризику ШІ.
Документ використовує обов'язковий термін «Super Intelligence» (надінтелект), який адміністрація Дональда Трампа наполягає використовувати замість «штучний інтелект», але його сфера охоплює звичайний ШІ та «автономних агентів», а не лише гіпотетичні системи з інтелектом, що перевершує людські можливості.
Рамкова програма охоплює ШІ, що використовується в платежах, виявленні шахрайства, обслуговуванні клієнтів та інших банківських операціях. Вона також поширює свої міркування щодо ризиків на зовнішніх агентів ШІ, які підключаються через банківські канали.
OCC заявив, що має намір оновлювати настанову в міру розвитку технологій. Наразі його ілюстративна шкала ризиків відносить автономних платіжних агентів до категорії найвищого ризику, незалежно від того, наскільки добре вони показують себе під час тестування.
Приєднуйтесь до понад 72 000 читачів
Створіть обліковий запис, щоб зберігати свої статті.
