Le Federal Bureau of Investigation ( FBI ) a averti les Américains que les criminels utilisent de plus en plus l'intelligence artificielle pour créer des images sexuellement explicites afin d'intimider et d'extorquer de l'argent aux victimes.
Dans une alerte diffusée cette semaine, le FBI a déclaré avoir récemment constaté une augmentation du nombre de victimes d'extorsion qui ont déclaré avoir été ciblées à l'aide de versions trafiquées d'images innocentes tirées de publications en ligne, de messages privés ou de chats vidéo.
"Les photos sont ensuite envoyées directement aux victimes par des acteurs malveillants pour extorsion ou harcèlement sexuel" , précise l'avertissement. "Une fois qu'il circule, les victimes peuvent être confrontées à d'importants problèmes pour éviter le partage continu du contenu manipulé ou sa suppression d'Internet."
Le FBI a déclaré que les images semblaient "réelles" et que, dans certains cas, des enfants avaient été attaqués.
Le FBI n'a pas donné de détails sur les programmes utilisés pour générer des images sexuelles, mais a noté que les progrès technologiques "amélioraient continuellement la qualité, la personnalisation et l'accessibilité de la création de contenu basée sur l'intelligence artificielle (IA)".
Le bureau n'a pas répondu aux demandes de renseignements sur le phénomène.
La manipulation d'images anodines pour créer des images sexuellement explicites est presque aussi ancienne que la photographie elle-même, mais la sortie d'outils d'IA open source a rendu le processus plus facile que jamais.
Les résultats sont souvent indiscernables des photographies réelles et un certain nombre de sites Web et de canaux de médias sociaux ont vu le jour ces dernières années et se spécialisent dans la création et le partage d'images sexuelles activées par l'IA.
En janvier, le directeur du FBI, Christopher Wray, s'est dit "profondément préoccupé" par le programme d'intelligence artificielle du gouvernement chinois , qui, selon lui, "n'est pas soumis à l'État de droit".
S'exprimant lors d'un panel au Forum économique mondial de Davos, en Suisse, Wray a déclaré que les ambitions de Pékin en matière d'IA "étaient fondées sur des accumulations massives de propriété intellectuelle et de données sensibles qu'elle a volées au fil des ans".
Sans contrôle, la Chine pourrait utiliser les progrès de l'intelligence artificielle pour poursuivre ses opérations de piratage, de vol de propriété intellectuelle et de répression des dissidents chez elle et au-delà.
« C'est quelque chose qui nous inquiète profondément. Je pense que cela devrait préoccuper profondément tout le monde » , a-t-il déclaré.
« L'IA est un exemple classique de technologie qui me donne toujours la même réaction. Je pense, 'Wow, pouvons-nous le faire?' Et puis je pense, 'Mon Dieu, ils peuvent le faire.
Les responsables américains ont depuis longtemps exprimé ces préoccupations. En octobre 2001, des agents de contre-espionnage américains ont mis en garde contre les ambitions chinoises en matière d'IA dans le cadre d'une campagne visant à informer les dirigeants d'entreprise, les universitaires et les responsables des gouvernements des États et des villes des risques d'accepter des investissements ou une expertise chinoise dans les industries clés.
Cette année-là, une commission sur l'IA dirigée par l'ancien PDG de Google, Eric Schmidt, a exhorté les États-Unis à améliorer leur capacité à affronter la Chine, notamment en créant des armes "alimentées par l'IA".
Un porte-parole de l'ambassade de Chine à Washington n'a pas immédiatement répondu à une demande de commentaire sur les commentaires de Wray. Pékin a accusé à plusieurs reprises Washington de répandre la peur et les renseignements américains sur ses évaluations de la Chine.
(Avec des informations de Reuters)
Continuer à lire:
FAQ
Qu'a averti le FBI concernant l'utilisation de l'intelligence artificielle ?
Le FBI a averti que les criminels utilisent de plus en plus l'intelligence artificielle pour créer des images sexuellement explicites afin d'intimider et d'extorquer de l'argent aux victimes.
Comment les criminels utilisent-ils l'intelligence artificielle pour cibler les victimes ?
Les criminels utilisent des versions trafiquées d'images innocentes tirées de publications en ligne, de messages privés ou de chats vidéo pour cibler les victimes. Ces images sont ensuite envoyées directement aux victimes pour extorsion ou harcèlement sexuel.
Quels problèmes les victimes peuvent-elles rencontrer une fois que ces images circulent ?
Une fois que ces images circulent, les victimes peuvent faire face à des difficultés pour éviter le partage continu du contenu manipulé ou sa suppression d'Internet.
Comment le FBI décrit-il les images générées par l'intelligence artificielle ?
Le FBI a déclaré que les images générées par l'intelligence artificielle semblent 'réelles' et que, dans certains cas, des enfants ont été attaqués.
Pourquoi la manipulation d'images pour créer des contenus sexuels est-elle devenue plus facile ?
La sortie d'outils d'intelligence artificielle open source a rendu le processus de manipulation d'images pour créer des contenus sexuels plus facile que jamais. Les résultats sont souvent indiscernables des photographies réelles.
Quelles préoccupations le directeur du FBI a-t-il exprimées concernant l'intelligence artificielle du gouvernement chinois ?
Le directeur du FBI, Christopher Wray, s'est dit 'profondément préoccupé' par le programme d'intelligence artificielle du gouvernement chinois, soulignant que les ambitions de la Chine en matière d'IA étaient basées sur des accumulations massives de propriété intellectuelle volées.
Quels risques la Chine pourrait-elle poser avec les progrès de l'intelligence artificielle ?
Sans contrôle, la Chine pourrait utiliser les progrès de l'intelligence artificielle pour poursuivre ses opérations de piratage, de vol de propriété intellectuelle et de répression des dissidents chez elle et à l'étranger.