Le PDG de Microsoft, Satya Nadella, a déclaré que l'entreprise devait « agir rapidement » pour faire face aux fausses images sexuelles non consensuelles de Taylor Swift créées par l'intelligence artificielle.
Nadella a fait référence à ces fausses images (appelées deepfakes, qui sont des images ou des vidéos modifiées avec l'IA pour les rendre réelles) de Swift publiées sur X (anciennement Twitter) , qui jusqu'à récemment avaient atteint plus de 27 millions de vues.
Le compte qui les partageait a été fermé après que de nombreux abonnés de Swift l'ont signalé.
"Oui, nous devons agir rapidement", a déclaré Nadella à NBC News, interrogée sur les fausses images de Swift. « Nous gagnons tous lorsque Internet est un endroit sûr. Personne ne veut donc d’un espace en ligne dangereux, ni pour ceux qui créent du contenu, ni pour ceux qui le consomment. Il est donc de notre responsabilité d’agir immédiatement dans cette situation. »
X n'a pas commenté les images modifiées par l'IA et le représentant du chanteur a choisi de ne pas commenter le sujet.
Microsoft a réalisé des investissements importants dans la technologie de l'intelligence artificielle, notamment une contribution majeure à OpenAI, l'une des principales sociétés d'IA qui a développé ChatGPT.
En outre, ils ont intégré des outils d'IA, tels que Copilot, un assistant basé sur l'IA, dans leurs produits, par exemple le moteur de recherche Internet Bing.
" Je reviens à ce que je pense être notre responsabilité, à savoir toutes les barrières que nous devons ériger autour de la technologie afin de produire un contenu plus sûr ", a déclaré Nadella. "Et il y a beaucoup à faire et beaucoup à faire là-bas."
"Mais c'est une question sociale globale, vous savez, je dirai la convergence sur certaines normes", a-t-il poursuivi. « Surtout lorsque vous disposez de plates-formes juridiques, d’application de la loi et technologiques qui peuvent s’unir, je pense que nous pouvons gouverner bien plus que ce que nous nous accordons. »
404 Media a révélé que les fausses images Swift devenues populaires sur
Nadella n'a pas commenté spécifiquement le rapport, mais Microsoft a indiqué qu'il enquêtait sur les rapports et prendrait toutes les mesures nécessaires pour répondre à la situation .
" Notre code de conduite interdit l'utilisation de nos outils pour la création de contenu intime pour adultes ou non consensuel , et toute tentative répétée de produire du contenu allant à l'encontre de nos politiques peut entraîner une perte d'accès au service", a déclaré Microsoft. sa déclaration.
"Nous avons de grandes équipes qui travaillent au développement de garde-corps et d'autres systèmes de sécurité conformément à nos principes d'IA responsable, y compris le filtrage de contenu, la surveillance opérationnelle et la détection des abus pour atténuer les utilisations abusives du système et contribuer à créer un environnement plus sûr pour les utilisateurs", ont-ils ajouté.
Microsoft a ensuite proposé une réponse mise à jour, déclarant : « Nous prenons ces rapports extrêmement au sérieux et nous nous engageons à offrir une expérience sûre à tous. Après avoir étudié ces rapports, nous n'avons pas pu générer les images explicites mentionnées.
« Nos filtres pour les contenus inappropriés étaient actifs et nous n'avons trouvé aucune preuve qu'ils aient été contournés . » Par mesure de précaution, nous avons mis en œuvre des améliorations de nos systèmes de filtrage de texte et pris des mesures pour empêcher toute utilisation abusive de nos services », ont-ils déclaré.
Les deepfakes non consensuels de Swift
Ces créations numériques, modifiées à des fins malveillantes, représentent explicitement l'artiste populaire avec certains éléments qui font allusion à l'équipe professionnelle de football américain Kansas City Chief , en raison des récentes visites qu'elle a effectuées dans son stade pour assister à ses matchs sportifs. Travis Kelce.