"Nous éloignons de manière proactive les utilisateurs de nos systèmes lorsqu'ils posent des questions sur des sujets où les hallucinations seraient inacceptables, comme les requêtes liées aux élections", a écrit vendredi la société dans un article sur son blog officiel. « Hallucination » est la manière de désigner les fausses informations générées par l'IA .
La société a déclaré que, comme son chatbot ne peut pas fournir d'informations en temps réel sur des élections spécifiques, elle commencera dans les semaines à venir à inciter les utilisateurs à consulter le site d'informations électorales TurboVote lorsqu'on leur posera des questions sur le vote.
Anthropic se prépare aux problèmes électoraux depuis juillet 2023, indique la publication, et teste ses systèmes pour voir comment ils répondent aux invites qui violent ses politiques, telles que l'usurpation d'identité d'un candidat ou la suppression d'électeurs.
La société a également déclaré que l’IA serait probablement utilisée lors des élections de manière imprévue. "Nous nous attendons à ce que 2024 voit des utilisations surprenantes des systèmes d'IA – des utilisations qui n'étaient pas anticipées par leurs propres développeurs", a écrit la société dans son message.
Antrophic cherche à créer des technologies d'IA sûres et qui alignent leurs opérations et décisions sur les valeurs et les besoins humains, minimisant ainsi les risques éthiques et pratiques associés aux systèmes avancés.
Les dangers de l’IA lors des élections
L’utilisation de l’intelligence artificielle dans les processus électoraux comporte des risques importants. La désinformation en fait partie, avec la création et la diffusion de fausses nouvelles ou deepfakes pour influencer l’opinion publique. La confidentialité et l’utilisation abusive des données personnelles sont également des sujets de préoccupation, car les campagnes peuvent analyser des données sans le consentement clair des individus pour envoyer des messages politiques personnalisés.
Les robots des réseaux sociaux peuvent automatiser la propagande et manipuler le débat public, tandis que la sécurité des systèmes de vote électronique est essentielle pour éviter toute altération des résultats. Le manque de réglementation et de transparence dans l’application de l’IA dans la sphère politique menace de saper la confiance dans la démocratie. Il est essentiel d’établir des réglementations pour l’utilisation éthique de l’IA et de protéger l’intégrité des processus électoraux.