La génération d'images avec intelligence artificielle présente actuellement un haut niveau de réalisme qui a généré de la confusion chez certaines personnes. Des photos telles que celles du pape François portant un manteau Balenciaga ou la prétendue arrestation de l'ancien président américain Donald Trump , qui ont été réalisées à l'aide de la technologie de Midjourney, semblent si réalistes qu'elles auraient pu être prises pour de vrai à première vue.
Parce que l'utilisation de cette technologie peut provoquer des vagues massives de désinformation, comme l'indique Sam Altman, PDG d'OpenAI, la société qui a créé ChatGPT , les réseaux sociaux tels qu'Instagram ont généré des ressources qui permettront aux gens d'identifier quand ils consultent du contenu qui a été créé par l'intelligence artificielle .
Selon le réseau social, "si des vérificateurs de faits tiers détectent de fausses informations, un contenu altéré ou un contenu sans contexte sur Instagram, nous le rendons plus difficile à trouver".
Parmi les méthodes utilisées, il y a la réduction de l'efficacité des hashtags, ainsi que l'empêchement de leur apparition dans la section Explorer et histoires .
De plus, un système d'étiquetage a été développé dans lequel les cas de fausses informations peuvent être identifiés et ce sont les utilisateurs qui décident de s'exposer ou non à ce type de contenu, en plus de le partager dans d'autres sections d' Instagram .
Les messages qui contiennent cette fonctionnalité peuvent voir un filtre de flou sur l'image avec le message "Photo modifiée. Des vérificateurs de faits indépendants ont déjà examiné la même photo modifiée dans un autre article .
Si le contenu avec l'étiquette d'avertissement est partagé, l'étiquette d'avertissement apparaîtra sur les plates-formes où il est partagé. Le texte comportera également un lien direct vers la notation du vérificateur de l'information qui l'a délivré. Par exemple, la photographie de Donald Trump en cours d'arrestation était étiquetée " Photo ou vidéo modifiée".
Cette note sera affichée dans une fenêtre contextuelle indiquant le nom de l'organisation de vérification des faits et fournissant des informations supplémentaires sous forme de texte, telles que "la photo ou l'image a été modifiée d'une manière qui pourrait induire les gens en erreur, mais ce n'est pas parce qu'elle a été montrée hors contexte".
Des liens seront inclus qui redirigent les utilisateurs vers des articles provenant d'autres sources fiables qui démystifient les affirmations de Verified Post.
Qu'en est-il des comptes qui partagent des informations erronées ?
Selon Instagram, il est possible qu'une personne partage une publication contenant des données favorisant la désinformation. Cependant, si ce comportement devient récurrent, il peut entraîner des sanctions pour les utilisateurs, qui seront utilisées progressivement pour limiter l'impact des images partagées.
Par exemple, si ce type de contenu est partagé, les mentions ou balises de ces comptes par d'autres utilisateurs peuvent être désactivées. De même, chaque personne qui essaie de suivre ce profil verra un avertissement de contenu indiquant que le compte a précédemment partagé de fausses informations.
Limiter la visibilité des publications de ces comptes est également un moyen pour le système Instagram d'empêcher la désinformation de se propager à davantage de personnes. En dernier recours, une désactivation de compte peut être exécutée suite à la diffusion récurrente de fausses informations.
Dans ce type de situation, les utilisateurs sont dénoncés pour non-respect des Standards Communautaires et même lorsqu'il est possible de recourir à d'autres instances pour empêcher la suppression du compte, le comportement récurrent sera pris en compte pour prendre une décision dans ce égard. Cela inclut non seulement les images générées par l'intelligence artificielle , mais également tous les messages signalés par d'autres utilisateurs comme contenant des informations erronées.