W skrócie
- OCC wydało swoje pierwsze ramy dla egzaminatorów oceniających wykorzystanie sztucznej inteligencji przez banki, koncentrując się na konsekwencjach i autonomii, a nie na zaawansowaniu modelu.
- Wytyczne wyraźnie odnoszą się do zewnętrznych agentów AI, odzwierciedlając obawy zgłaszane przez największe banki.
- Ramy nie są wiążące, ale zawierają przykłady zabezpieczeń dla autonomicznych płatności, dostępu stron trzecich i nadzoru człowieka.
Urząd Kontrolera Waluty Stanów Zjednoczonych wydał dziś swoje pierwsze ramy nadzorcze dotyczące sztucznej inteligencji w bankowości, nakazując egzaminatorom skupić się mniej na tym, jak potężny jest system AI, a bardziej na tym, co się dzieje, gdy popełni błąd.
Ramy OCC odnoszą się właśnie do tej kwestii, choć regulator nie powiązał ich wydania z tymi konkretnymi incydentami.
W sekcji dotyczącej odporności operacyjnej agencja ostrzega, że zewnętrzni agenci obsługiwani przez klientów, firmy fintech lub inne przedsiębiorstwa mogą stwarzać ryzyko dla banków, nawet gdy banki nie kontrolują tych systemów.
Sugeruje to, że egzaminatorzy rozważają środki obejmujące weryfikację tożsamości, delegowane uprawnienia, limity transakcji, monitorowanie oraz możliwość zawieszenia lub cofnięcia dostępu.
Wytyczne mają na celu rozwiązanie dylematu, w jaki sposób umożliwić klientom korzystanie z asystentów AI do zarządzania finansami, nie dając autonomicznemu oprogramowaniu nieograniczonego dostępu do kont, z którym to dylematem banki już się mierzą.
Nowe wytyczne OCC pojawiają się niespełna dwa tygodnie po doniesieniach, że główne banki odkrywały nieautoryzowanych zewnętrznych agentów AI działających wewnątrz kont klientów, czasami podejmujących działania, które wydawały się wykraczać poza instrukcje użytkowników.
Morgan Stanley blokował zewnętrznych agentów, podczas gdy JPMorgan, Bank of America i Citi ograniczały dostęp, zgodnie z raportem Axios z 22 października. Kadra kierownicza banków opisała sytuację jako „przerażającą”, co rodzi pytania o to, kto kontroluje autonomicznego agenta, gdy ten uzyska dostęp do czyichś pieniędzy.
AI, które przenosi pieniądze, jest bardziej ryzykowne niż to, które pisze e-maile
Ramy OCC dokonują rozróżnienia między technicznym zaawansowaniem systemu AI a szkodami, jakie mógłby on wyrządzić.
Prosty agent upoważniony do inicjowania transakcji finansowych może stanowić większe ryzyko niż bardziej zaawansowany model ograniczony do pisania dokumentów wewnętrznych, stwierdził regulator.
Zgodnie z 22-stronicowymi ramami egzaminatorzy mogą rozważyć konsekwencje awarii, czy działanie można odwrócić oraz ile kontroli zachowują ludzie nad systemem.
Agencja przedstawia cztery ilustracyjne poziomy ryzyka. W pełni autonomiczni agenci płatności i systemy podejmowania decyzji kredytowych w czasie rzeczywistym należą do najwyższej kategorii, podczas gdy podstawowe wewnętrzne narzędzia produktywności zajmują najniższą.
BitcoinBTC · USD
$80,042−1.89%
28 paź30 paź1 lis3 lis4 lis
$81.8k$79.9k$78.0k$76.2k
Maks. 24hMaks.$81,004
Min. 24hMin.$75,695
Wol.Wol.$1.7B
→Kup Bitcoin za USDC
Obsługiwane przez Jupiter
Systemy o wyższym ryzyku mogą wymagać surowszych ograniczeń autonomii, niezależnych testów oraz zatwierdzenia przez człowieka, zanim będzie można przystąpić do działań o istotnych skutkach.
Ramy te dotyczą również systemów AI, które nadal działają, podejmując szkodliwe decyzje. Sugerowane zabezpieczenia obejmują wyłączniki awaryjne, limity szybkości, ograniczone uprawnienia oraz mechanizmy awaryjnego wyłączania.
Te względy są szczególnie istotne w przypadku zewnętrznych agentów opisanych we wcześniejszych materiałach Axios, gdzie banki miały trudności z odróżnieniem legalnego oprogramowania autoryzowanego przez klienta od systemów działających poza zamierzonymi uprawnieniami.
Wytyczne, a nie nowe przepisy bankowe
OCC podkreślił, że dokument nie tworzy nowych wymogów regulacyjnych ani egzekwowalnych standardów dla banków.
Zamiast tego daje egzaminatorom sposób oceny AI w ramach istniejących kategorii ryzyka operacyjnego, zgodności i cyberbezpieczeństwa. Banki nie są zobowiązane do ustanowienia odrębnej kategorii ryzyka AI.
Dokument używa obowiązkowego terminu „Super Intelligence”, którego administracja Donalda Trumpa nalega używać zamiast „sztucznej inteligencji”, ale jego zakres obejmuje konwencjonalną AI i „autonomicznych agentów”, a nie tylko hipotetyczne systemy o inteligencji przewyższającej możliwości człowieka.
Ramy obejmują AI wykorzystywaną w płatnościach, wykrywaniu oszustw, obsłudze klienta i innych operacjach bankowych. Rozszerzają także rozważania dotyczące ryzyka na zewnętrznych agentów AI łączących się przez kanały bankowe.
OCC stwierdził, że zamierza aktualizować wytyczne w miarę rozwoju technologii. Na razie jego poglądowa skala ryzyka umieszcza autonomicznych agentów płatniczych w kategorii najwyższego ryzyka, niezależnie od tego, jak dobrze wypadają w testach.
Dołącz do ponad 72 000 czytelników
Utwórz konto, aby zapisywać swoje artykuły.
