Dans la vidéo, on entend clairement Mario Castañeda, l'acteur de doublage qui est la voix de Goku depuis de nombreuses années, ainsi que René García qui double Vegeta. Ces audios ne sont pas enregistrés par eux, mais sont générés par une intelligence artificielle prenant leurs enregistrements vocaux.
De cette façon, ils créent un contenu qui semble très réel et peut tromper les utilisateurs. Dans cette parodie, on peut comprendre qu'il s'agit d'une blague, mais les possibilités offertes par l'IA sont si précises que n'importe qui peut être trompé avec un autre type de message, non seulement en demandant de l'argent, mais aussi en diffusant de fausses informations ou en demandant des données personnelles.
Comment ils utilisent l’IA pour créer du faux contenu et des escroqueries
Bien que Goku n'appellera probablement jamais notre téléphone pour demander de l'argent pour sauver Vegeta. L'intelligence artificielle nous permet de reproduire la voix d'une personne que nous connaissons ou de créer une vidéo avec une personne connue qui diffuse de fausses informations.
Dans le cas des appels, qui peuvent être la méthode la plus courante, l'arnaque est la tentative traditionnelle de se faire passer pour un membre de la famille qui se trouve dans une situation d'urgence et a besoin d'argent rapidement pour payer une amende à la police ou envoyer quelqu'un à l'hôpital. .
Des plateformes comme ElevenLabs vous permettent de créer un dialogue simulant n'importe quelle voix, seulement 30 secondes d'enregistrement sont nécessaires, afin que les criminels puissent appeler au préalable le membre de la famille pour capturer ces informations, puis s'en prendre à la victime.
Ce que dit cette intelligence artificielle est le résultat d'un texte créé par les attaquants, en profitant du fait que le logiciel analyse chaque aspect de la voix comme le sexe, l'âge et l'accent pour trouver des modèles et en faire la copie.
Comment éviter de tomber dans le piège de cette arnaque
Bien que l’intelligence artificielle porte la modalité du vol à un très haut niveau de tromperie, il faut toujours hésiter dans ce type de situation.
La première chose est que dans le cas d'un appel au cours duquel quelqu'un demande immédiatement de l'aide, vous ne devez jamais donner le nom d'un membre de la famille, car cela aidera le criminel à créer un lien et à commencer à agir comme cette personne. Il est préférable d'attendre jusqu'à ce que ce soit lui qui révèle son identité.
Si vous donnez le nom par erreur ou si l'autre partie le devine, la meilleure alternative est d'appeler directement cette personne et de vous assurer que la situation est réelle . Les criminels appelleront toujours à partir de numéros inconnus et sous prétexte que c'est à cause du problème qu'ils traversent, c'est pourquoi leur téléphone portable est inutile ou ils l'ont retenu.
Un autre point clé est de ne jamais divulguer d'informations personnelles telles que l'adresse, le numéro de téléphone, les noms, les numéros de compte et les adresses e-mail, car l'argent ne peut pas être volé à ce moment-là, mais ces données seront utiles au criminel à l'avenir.