Les banques progressent vers l'utilisation de collaborateurs basés sur l'intelligence artificielle capables de planifier des tâches, d'utiliser des outils et de coordonner des actions entre les systèmes. Ce changement augmente les risques opérationnels : une erreur peut affecter les systèmes de production, exposer les données des clients ou provoquer des non-conformités réglementaires, selon un rapport de McKinsey.
Ces systèmes vont au-delà des assistants qui résumment des documents, rédigent des messages ou suggèrent du code. Ils peuvent ouvrir des tickets, exécuter des tests, utiliser des interfaces de programmation et compléter des chaînes de travail au sein de l'infrastructure technologique d'une entité.
La différence réside dans le degré d'autonomie. Alors qu'un agent exécute une instruction concrète, un collaborateur numérique conserve le contexte d'un dossier, organise plusieurs étapes et transfère des tâches entre les plateformes pour atteindre un résultat défini.
Une banque des États-Unis a appliqué ce modèle à la comptabilité des fonds, aux rapprochements, aux opérations de middle office et aux revues d'architecture. Lors de l'une de ces évaluations, elle a réussi à réduire de 40 % à 50 % le travail manuel. Le projet vise également à augmenter de 60 % le volume annuel des revues d'autorisations et à raccourcir de 25 % les cycles d'approbation, bien que les architectes conservent l'autorisation finale.
Les autorisations et les contrôles doivent répondre au niveau de risque
Les modèles de langage peuvent interpréter de manière erronée une norme, créer des résultats de tests inexistants ou tenter des actions incorrectes dans les systèmes de production. Par conséquent, les banques doivent limiter les outils, les environnements et les autorisations disponibles pour chaque système autonome.
Les actions doivent être soumises à des validations par rapport à des sources officielles, à des revues de politiques et à des mécanismes permettant de révoquer les modifications. Le contrôle ne peut pas être identique pour tous les cas : un système qui résume des informations publiques présente un risque moindre qu'un autre qui traite des états financiers d'un emprunteur ou modifie des enregistrements sur une plateforme de paiement.
Les règles bancaires s'appliquent même lorsque la tâche est réalisée par un système autonome. Un agent intervenant dans les crédits doit respecter les normes de prêts équitables ; un agent lié aux paiements, les exigences de secret bancaire et de prévention du blanchiment d'argent ; et un agent préparant des communications commerciales, les normes de protection des consommateurs.
La responsabilité finale incombe à l'institution financière et à la personne qui supervise la mise en œuvre. Face à une demande d'un régulateur ou d'un client, la banque doit pouvoir reconstituer les données utilisées, les politiques appliquées, l'action entreprise et l'autorisation correspondante.
Chaque système nécessite une identité propre, dotée des permissions minimales nécessaires pour sa version, son environnement et son objectif. Cette crédence doit définir quelles informations il peut consulter, s'il est autorisé à modifier des enregistrements et comment son accès sera révoqué lorsqu'il cessera d'être utilisé.
Il est également nécessaire de désigner un responsable humain pour chaque mise en œuvre. Celui-ci doit répondre de la finalité, des permissions, du risque, des incidents, du cycle de vie et du résultat attendu. McKinsey recommande, en outre, un registre centralisé des agents avec leurs accès, leurs propriétaires et leur état opérationnel afin d'éviter une prolifération qui se transformerait en dette technologique ou engendrerait des réserves réglementaires.
L'intervention humaine varie selon l'impact de la décision
Les décisions de crédit, la résolution des fraudes et l'attribution d'accès privilégiés exigent qu'une personne autorise l'exécution. Pour les tâches à risque intermédiaire, la revue peut se concentrer sur des échantillons définis par des critères documentés. Les automatisations à faible risque peuvent fonctionner avec un contrôle par exception et une surveillance continue.
La marge d'autonomie doit être élargie de manière progressive. À une étape initiale, les actions peuvent rester soumises à l'approbation humaine. Ensuite, l'intensité de la supervision peut être ajustée après validation des performances et des cas extrêmes. Les limites d'autorité, les seuils de confiance et les règles d'escalade doivent être définis dans la politique de risque de l'IA de chaque entité.
Lorsque le système ne peut pas résoudre un cas avec une certitude suffisante ou dépasse les paramètres fixés, il doit le transmettre à un réviseur. Parallèlement, les employés auront besoin d'une formation pour passer de la revue de tâches isolées à la supervision des exceptions, des résultats et des systèmes autonomes.
L'expérience analysée par McKinsey indique que les bénéfices ne dépendent pas uniquement de l'accélération d'une activité. La refonte des processus a défini ce que les agents pouvaient investiguer, décider, coordonner et exécuter, tandis que les personnes conservaient les décisions finales et le pouvoir de signature.
Le contexte interne détermine jusqu'où peut aller l'automatisation
La vitesse sans connaissance institutionnelle peut multiplier les erreurs. Un agent qui modifie le code de paiements sans connaître les règles d'architecture ou qui classe des alertes de blanchiment d'argent sans comprendre l'appétit pour le risque peut agir rapidement dans une direction erronée.
Ce contexte inclut les règles commerciales, les contrats d'interface, la traçabilité des données et les obligations réglementaires. Les politiques de crédit, les paramètres de risque et les typologies internes de blanchiment d'argent font partie d'une connaissance qu'un outil externe ne peut pas apporter de manière générique.
Les entités peuvent adopter des produits standardisés pour coordonner les agents, gérer les identités et connecter les systèmes. Cependant, elles doivent conserver le contrôle de leurs données, définitions et procédures. La recommandation est d'ordonner cette connaissance pour lier les concepts métier aux actifs d'information, plutôt que de laisser les systèmes face à des documents isolés.
Les corrections des équipes humaines doivent être intégrées à cette base afin que les agents puissent récupérer les antécédents, méthodes et vocabulaire internes. Les informations partagées doivent respecter les restrictions correspondant à la donnée la plus sensible contenue et conserver la trace des outils utilisés ainsi que de l'identité ayant activé chaque processus.
Une infrastructure commune doit protéger les données et enregistrer chaque action
L'infrastructure centralisée doit appliquer des politiques, valider les identités, protéger les informations et conserver les registres d'activité. Une couche de connexion entre agents, modèles, outils et plateformes internes permet de concentrer les contrôles qui, autrement, resteraient dispersés.
Cette couche peut masquer les noms des clients, les numéros de compte et les données de connaissance du client avant d'envoyer une requête à un modèle externe. Elle doit également enregistrer les instructions, les réponses et les appels aux outils, afin de déterminer quelle information a soutenu une décision et sous quelle autorisation elle a été exécutée.
Le coût de ces systèmes devrait finalement être mesuré par le résultat global de chaque flux de travail — par exemple, la résolution d'un cas dans les normes réglementaires — et non uniquement par la consommation technique de l'intelligence artificielle.