Kurz gefasst
- Das OCC hat seinen ersten Rahmen für Prüfer veröffentlicht, die die Nutzung von KI durch Banken bewerten, wobei der Schwerpunkt auf Folgen und Autonomie statt auf Modellkomplexität liegt.
- Die Leitlinie befasst sich ausdrücklich mit externen KI-Agenten und greift damit Bedenken auf, die von großen Banken geäußert wurden.
- Der Rahmen ist unverbindlich, liefert aber Beispiele für Schutzmaßnahmen bei autonomen Zahlungen, Drittzugriff und menschlicher Aufsicht.
Das U.S. Office of the Comptroller of the Currency veröffentlichte heute seinen ersten Aufsichtsrahmen für künstliche Intelligenz im Bankwesen und wies die Prüfer an, weniger darauf zu achten, wie leistungsfähig ein KI-System ist, sondern vielmehr darauf, was passiert, wenn es einen Fehler macht.
Der Rahmen des OCC befasst sich genau mit dieser Sorge, obwohl die Aufsichtsbehörde ihre Veröffentlichung nicht mit diesen konkreten Vorfällen in Verbindung gebracht hat.
In einem Abschnitt zur operativen Resilienz warnt die Behörde, dass externe Agenten, die von Kunden, Fintechs oder anderen Unternehmen betrieben werden, Risiken für Banken schaffen könnten, selbst wenn die Banken diese Systeme nicht kontrollieren.
Es deutet darauf hin, dass Prüfer Maßnahmen wie Identitätsverifizierung, delegierte Berechtigungen, Transaktionslimits, Überwachung und die Möglichkeit, den Zugriff auszusetzen oder zu widerrufen, in Betracht ziehen.
Die Leitlinien zielen darauf ab, das Dilemma zu lösen, wie Kunden KI-Assistenten zur Verwaltung ihrer Finanzen nutzen können, ohne dass autonome Software uneingeschränkten Zugriff auf Konten erhält – eine Frage, mit der Banken bereits konfrontiert sind.
Die neue OCC-Leitlinie erscheint weniger als zwei Wochen, nachdem Berichte bekannt wurden, dass große Banken nicht autorisierte KI-Agenten von Drittanbietern entdeckten, die in Kundenkonten operierten und manchmal Handlungen vornahmen, die über die Anweisungen der Nutzer hinauszugehen schienen.
Morgan Stanley blockierte externe Agenten, während JPMorgan, Bank of America und Citi den Zugriff einschränkten, so ein Axios-Bericht vom 22. Oktober. Bankmanager beschrieben die Situation als „erschreckend“ und warfen die Frage auf, wer einen autonomen Agenten kontrolliert, sobald dieser Zugriff auf das Geld einer Person hat.
KI, die Geld bewegt, ist riskanter als eine, die E-Mails schreibt
Der Rahmen der OCC unterscheidet zwischen der technischen Raffinesse eines KI-Systems und dem Schaden, den es verursachen könnte.
Ein einfacher Agent, der zur Initiierung von Finanztransaktionen befugt ist, kann ein größeres Risiko darstellen als ein fortgeschritteneres Modell, das auf das Verfassen interner Dokumente beschränkt ist, so die Aufsichtsbehörde.
Gemäß dem 22-seitigen Rahmenwerk können Prüfer die Folgen eines Fehlers berücksichtigen, ob eine Handlung rückgängig gemacht werden kann und wie viel Kontrolle Menschen über das System behalten.
Die Behörde skizziert vier illustrative Risikostufen. Vollständig autonome Zahlungsagenten und Echtzeit-Kreditentscheidungssysteme fallen in die höchste Kategorie, während grundlegende interne Produktivitätstools die niedrigste belegen.
BitcoinBTC · USD
$80.042−1,89%
28. Okt.30. Okt.1. Nov.3. Nov.4. Nov.
$81,8k$79,9k$78,0k$76,2k
24h-HochHoch$81.004
24h-TiefTief$75.695
Vol.Vol.$1,7 Mrd.
→Bitcoin mit USDC kaufen
Bereitgestellt von Jupiter
Systeme mit höherem Risiko können strengere Einschränkungen der Autonomie, unabhängige Tests und menschliche Genehmigung erfordern, bevor folgenreiche Maßnahmen durchgeführt werden können.
Der Rahmen behandelt auch KI-Systeme, die weiter betrieben werden, während sie schädliche Entscheidungen treffen. Vorgeschlagene Schutzmaßnahmen umfassen Schutzschalter, Ratenbegrenzungen, eingeschränkte Berechtigungen und Notabschaltungssteuerungen.
Diese Überlegungen sind besonders relevant für die externen Agenten, die in der früheren Berichterstattung von Axios beschrieben wurden, als Banken Schwierigkeiten hatten, legitime, vom Kunden autorisierte Software von Systemen zu unterscheiden, die über ihre vorgesehenen Berechtigungen hinaus betrieben wurden.
Orientierung, keine neuen Bankvorschriften
Die OCC betonte, dass das Dokument keine neuen regulatorischen Anforderungen oder durchsetzbaren Standards für Banken schafft.
Stattdessen gibt es Prüfern eine Möglichkeit, KI innerhalb bestehender Risikokategorien für Betrieb, Compliance und Cybersicherheit zu bewerten. Banken sind nicht verpflichtet, eine separate KI-Risikokategorie einzurichten.
Das Dokument verwendet den verbindlichen Begriff „Super Intelligence“, auf dessen Verwendung die Regierung von Donald Trump anstelle von „künstlicher Intelligenz“ besteht, doch sein Geltungsbereich umfasst konventionelle KI und „autonome Agenten“ und nicht nur hypothetische Systeme mit Intelligenz, die menschliche Fähigkeiten übersteigt.
Der Rahmen umfasst KI, die in Zahlungen, Betrugserkennung, Kundenservice und anderen Bankabläufen eingesetzt wird. Er erstreckt seine Risikoerwägungen auch auf externe KI-Agenten, die über Bankkanäle eine Verbindung herstellen.
Die OCC erklärte, sie beabsichtige, die Orientierungshilfe weiterzuentwickeln, sobald sich die Technologie weiterentwickelt. Vorerst ordnet ihre illustrative Risikoskala autonome Zahlungsagenten der Kategorie mit dem höchsten Risiko zu, unabhängig davon, wie gut sie in Tests abschneiden.
Schließen Sie sich über 72.000 Lesern an
Erstellen Sie ein Konto, um Ihre Artikel zu speichern.
