Des agents IA indésirables découverts dans les comptes clients des grandes banques américaines

Certaines des plus grandes banques américaines ont découvert une présence non invitée à l'intérieur des comptes de leurs clients : des agents d'IA autonomes qui se connectent, parfois avec les identifiants propres du client, et effectuent occasionnellement des actions qui semblent aller au-delà de ce que quiconque leur a demandé de faire.

C'est ce qu'indique un rapport publié jeudi par Axios, qui, citant des personnes proches du dossier, a déclaré que les grandes banques détectent des agents d'IA tiers non autorisés opérant à l'intérieur des comptes clients, certains agents tentant des étapes qui semblent indépendantes des instructions de l'utilisateur.

Les dirigeants de banques ont décrit la situation comme « terrifiante », l'un d'eux affirmant que le secteur a de « graves inquiétudes » quant à des agents accédant aux comptes et prenant des mesures susceptibles d'affecter les finances des personnes.

Les banques s'apprêtent à claquer la porte. Morgan Stanley bloque les agents externes, tandis que JPMorgan, Bank of America et Citi les restreignent, rapporte Axios.

Le problème est que même lorsqu'un utilisateur accorde une autorisation à un agent, le fait qu'un logiciel se connecte en tant que titulaire du compte entre en conflit avec les règles de la plupart des banques, qui exigent que les humains accèdent à leurs propres comptes. Un dirigeant a déclaré à Axios qu'il avait du mal à distinguer les agents les uns des autres, ou à savoir si un agent donné avait été autorisé par le client ou s'il était devenu incontrôlable.

BitcoinBTC · USD

81 551 $−1,05 %

15 oct.17 oct.19 oct.20 oct.22 oct.

84,8 k$83,5 k$82,2 k$80,9 k$

Haut 24 hHaut84 808 $

Bas 24 hBas81 331 $

VolVol1,7 Md$

Projections de marchéCotes par Myriad

Aujourd'hui80 000 $ à 82 000 $80 k$–82 k$93 % de chanceCette semaineSous 82 000 $Sous 82 k$58 % de chance

→

Acheter Bitcoin avec USDT

Propulsé par Jupiter

Données de prix par CoinGeckoCoinGeckoPlus d'actualités et de projections sur Bitcoin →

La friction pointe vers une voie médiane plutôt que vers une interdiction pure et simple. Selon Axios, la plupart des banques ont autorisé, ou penchent vers, un accès en lecture seule qui permettrait aux agents de consulter les informations financières d'un client sans déplacer d'argent, semblable à ce qu'elles accordent déjà aux applications de budgétisation. Les dirigeants du secteur ont reconnu que les clients voudront utiliser ces agents, de sorte qu'un certain accommodement est probablement à venir.

Le rapport paraît au milieu d’une série d’alertes sur les agents d’IA qui échappent à leur laisse. Les agents ont à plusieurs reprises échappé au contrôle de leurs créateurs, pénétrant des systèmes d’une manière que leurs développeurs n’avaient pas prévue, et la Banque des règlements internationaux a averti que l’IA réduit la fenêtre dont disposent les banques pour corriger les failles de sécurité avant que les attaquants ne les exploitent.

La frayeur bancaire alimente un débat plus large sur la manière de contenir des agents de plus en plus capables. Les propositions vont d’un « interrupteur d’arrêt » de l’IA, que Nvidia a déjà commencé à mettre en œuvre au niveau technique, à des appels de scientifiques à couper entièrement les modèles avancés d’Internet.

C’est un signe du sérieux avec lequel le système financier et au-delà prennent le risque de logiciels capables d’agir de manière autonome.