La prolifération des fraudes basées sur l'intelligence artificielle a élevé la préoccupation des entreprises et des utilisateurs dans le monde entier. En réponse, Zoom, la plateforme de visioconférence, a annoncé une alliance avec World, la société de vérification d'identité humaine fondée par Sam Altman, pour garantir que les participants à ses réunions soient réellement des personnes et non des imitateurs numériques créés par IA.
L'essor des deepfakes et son impact financier
L'utilisation des deepfakes dans les fraudes d'entreprise a augmenté de manière alarmante. L'un des cas les plus notoires est survenu au début de 2024, lorsque l'entreprise d'ingénierie Arup a perdu 25 millions de dollars après un appel vidéo durant lequel l'employé, convaincu de parler à des dirigeants et collègues, a terminé par autoriser des transferts bancaires à des imposteurs numériques générés par IA. Des situations similaires se sont répétées, comme l'attaque d'une multinationale à Singapour en 2025.
Les chiffres illustrent l'ampleur du problème : rien qu'au premier trimestre de l'année dernière, les pertes dues aux fraudes avec deepfake ont dépassé les 200 millions de dollars. Le coût moyen par incident d'entreprise s'élève déjà à plus de 500 000 dollars, selon des rapports du secteur de la cybersécurité. Bien que la fraude par appels vidéo n'affecte pas encore massivement les utilisateurs individuels, elle représente un risque sérieux pour les entreprises qui effectuent des transactions sensibles via vidéoconférences.
Comment fonctionne la vérification humaine sur Zoom
Jusqu'à présent, les mécanismes pour détecter les deepfakes lors de réunions virtuelles se concentraient sur l'analyse de cadres vidéo à la recherche de signes de manipulation numérique. Cependant, l'amélioration constante des modèles de génération de vidéo avec IA a rendu ces méthodes de moins en moins fiables. Pour faire face à cette limitation, World et Zoom ont mis en œuvre une vérification plus robuste et difficile à contourner.
La technologie World ID Deep Face utilise une méthode triple d'authentification. Tout d'abord, elle compare une image signée prise lors de l'enregistrement de l'utilisateur via le dispositif Orb de World. Ensuite, elle effectue un scannage facial en temps réel depuis le dispositif de l'utilisateur. Enfin, elle analyse une image vidéo en direct visible pour les autres participants de la réunion. Ce n'est que lorsque les trois éléments correspondent que World accorde la distinction "Humain vérifié" à côté du nom du participant.
La plateforme permettra aux hôtes de mettre en place une "salle d'attente Deep Face" pour que tous les participants vérifient leur identité avant d'entrer dans la réunion. De plus, durant l'appel vidéo, tout participant pourra demander la vérification d'identité d'un autre utilisateur en temps réel.
Un pas vers la confiance numérique dans les environnements d'entreprise
« Cette intégration fait partie de l'approche d'écosystème ouvert de Zoom, qui offre aux clients plus de moyens de générer de la confiance dans leurs flux de travail en fonction de ce qui est le plus important pour leur cas d'utilisation », a indiqué Travis Isaman, porte-parole de l'entreprise.
L'objectif est de réduire la marge de manœuvre des imposteurs numériques et d'offrir aux entreprises des garanties supplémentaires lors de réunions critiques, notamment dans les secteurs qui traitent des informations confidentielles ou de grands volumes de transactions.
L'initiative s'inscrit dans une tendance croissante de vérification numérique. World, la société de Sam Altman, a conclu des accords avec des plateformes comme Tinder et Visa pour certifier que les utilisateurs sont de vraies personnes et non des programmes automatisés d'IA. Le mois dernier, World a lancé un outil pour vérifier l'identité humaine derrière des agents d'achats avec IA dans les points de vente, élargissant le champ d'application de ces technologies dans diverses industries.
L'implémentation de mécanismes de vérification robustes sur des plateformes comme Zoom répond à une menace réelle et croissante. La lutte contre la fraude numérique par deepfakes nécessite une combinaison d'innovation technologique et de collaboration entre entreprises. Les avancées de ces solutions renforcent la confiance dans les environnements numériques et préparent le terrain pour une nouvelle phase de sécurité des interactions virtuelles.