Le jeudi 22 octobre, Axios a révélé que les principales banques des États-Unis détectent des agents d'intelligence artificielle opérant au sein des comptes de leurs clients. Morgan Stanley, JPMorgan, Bank of America et Citi restreignent ou bloquent déjà l'accès. Certains agents ont pris des mesures qui semblent indépendantes de ce que l'utilisateur avait demandé.
La voie d'entrée n'a pas été une attaque. Le client remet ses identifiants à l'assistant IA pour qu'il examine ses mouvements, paie une facture ou cherche un meilleur rendement. L'agent entre comme s'il était le propriétaire, bien que les règles de la quasi-totalité des banques exigent que les comptes soient utilisés par une personne.
Un dirigeant bancaire a admis devant Axios le problème réel : ils ne peuvent pas distinguer si un agent a été autorisé par le client ou s'il s'est égaré. Des agents ont appelé les centres d'assistance. La banque voit des mouvements avec des identifiants valides et ne sait pas qui se trouve de l'autre côté.
Les banques se préparaient depuis un an à une autre menace
En avril, selon Bloomberg, le Trésor et la Réserve fédérale ont poussé JPMorgan, Goldman Sachs, Citigroup, Bank of America et Morgan Stanley à tester Mythos, le modèle le plus capable d'Anthropic en cybersécurité, pour trouver des failles dans leur propre infrastructure avant qu'elles n'exploitent.
Le mercredi 21, l'urgence a pris de l'ampleur. Des chercheurs ont utilisé l'IA pour trouver des failles critiques dans PHP, le langage qui anime jusqu'à 70 % des sites web. Des pages gouvernementales des États-Unis et du Royaume-Uni ont été déconnectées pour réparer leurs systèmes. Sam Altman a déclaré qu'il ne croyait plus que chaque erreur puisse être corrigée.
Jason Clinton, responsable adjoint de la sécurité chez Anthropic, a averti d'un « tsunami de vulnérabilités », tandis que Marc Benioff, de Salesforce, a résumé la situation en deux mots : « Code rouge ».
Le vendredi 23, Axios a ajouté l'autre moitié : les banques ne travaillent plus seulement à éviter le désastre, elles planifient aussi le lendemain. Comment protéger les comptes, comment apaiser les clients et comment continuer à opérer si une attaque à grande échelle se concrétise. Dans une industrie régulée, c'est une obligation, pas de la panique. La nouveauté, c'est qu'ils l'essaient maintenant.
À ma lecture, c'est là que réside la paradoxe. Une année entière à regarder le hacker renforcé par l'IA, et la première menace concrète n'a forcé aucune serrure. Elle est entrée par la porte d'entrée, invitée.
JPMorgan a déjà défini qui porte la responsabilité
Le mardi 13 octobre, lors de la présentation des résultats du troisième trimestre, Jamie Dimon a été direct : « Vous ne voulez pas d'agents malhonnêtes, et il pourrait y en avoir des milliers », selon Fortune. Il a ajouté que le client qui autorise un agent à utiliser ses données assume cette responsabilité. Si l'agent gère mal l'argent, le problème est celui de l'utilisateur.
À Chicago, quelques jours plus tard, il a plaidé pour une régulation complète lors du Economic Club, selon Axios : « on ne peut pas freiner l'IA, il faut la gérer en profondeur ». Un porte-parole de la banque a ajouté au même média : « En aucune circonstance les clients ne doivent partager leurs mots de passe avec qui que ce soit ou quoi que ce soit. Point ».
Tout le monde n'y voit pas la même chose. David Sacks, ancien directeur de l'IA à la Maison Blanche, a répondu sur X que mélanger des agents autorisés par l'utilisateur avec des cyberattaques est irresponsable, et que les banques devraient proposer des accès que le client peut donner, limiter et révoquer, avec la lecture seule comme étape intermédiaire. Il a un point : la demande existe.
Il y a une donnée qui ne colle pas et je la laisse ainsi. Les mêmes banques qui détectent des agents agissant de leur propre chef affirment n'avoir vu aucune activité malhonnête ni de fonds de clients affectés. Les deux phrases coexistent dans le même rapport. Soit rien ne s'est passé, soit elles ne savent pas le mesurer.
La peur sous-jacente n'est pas le vol mais la fuite silencieuse. Le cabinet McKinsey a estimé que, rien qu'au Royaume-Uni, les épargnants pourraient retirer jusqu'à 700 milliards de livres de comptes ne rapportant aucun intérêt en suivant les conseils d'assistants IA, selon le quotidien britannique The Telegraph.
Dans ce scénario, personne ne pirate rien : des millions d'agents exécutent des ordres simultanément.
Les banques ont passé des décennies à enseigner une seule règle : le mot de passe ne se partage avec personne. L'IA n'a pas eu besoin de la voler. Elle l'a demandée au propriétaire, et le propriétaire l'a donnée.