Une nouvelle plateforme numérique permet à quiconque de découvrir comment l'intelligence artificielle et les grandes entreprises technologiques collectent des données personnelles pour alimenter des réseaux de surveillance.
L'organisation jeunesse Gen Z For Change a présenté « Eyes on AI », un outil en ligne qui examine l'exposition individuelle à la surveillance de masse facilitée par la technologie.
Comment fonctionne Eyes on AI
L'outil « Eyes on AI » répond à l'utilisation croissante des systèmes de intelligence artificielle pour analyser les routines, préférences et comportements personnels. La plateforme propose un questionnaire interactif qui ne demande pas d'informations privées, mais révèle comment de simples détails, comme les applications utilisées, le mode de paiement ou l'exposition au spam, peuvent suffire à profiler n'importe quel utilisateur.
Cheyenne Hunt, directrice exécutive de Gen Z For Change, a expliqué à Mashable que la campagne vise à alerter particulièrement les jeunes sur l'ampleur de la surveillance numérique. Hunt a affirmé que l'administration politique actuelle a augmenté le niveau de surveillance sur les groupes d'activistes et les organisations jeunesse.
Surveillance légale et risques pour la vie privée
L'organisation avertit que la surveillance sans ordonnance judiciaire est complètement légale et que l'intelligence artificielle l'intensifie. L'outil démontre que toute personne, pas seulement les activistes ou les journalistes, peut être l'objet de surveillance. « Eyes on AI » utilise des informations de bases de données de surveillance, comme celles de Surveillance Watch, de la Electronic Frontier Foundation et des ressources sur les technologies utilisées pour surveiller les travailleurs.
Dominique Demetz, directrice créative et programmeuse du projet, a indiqué que l'expérience utilisateur vise à susciter une inquiétude sur le niveau d'exposition personnel. Le système peut identifier des risques sur la base de modèles d'utilisation sans demander de données identifiables, et ne conserve pas d'informations sur les utilisateurs : tout le traitement se fait localement.
Rapport personnalisé et recommandations
À la fin du parcours, la plateforme propose un rapport téléchargeable qui inclut des recommandations pour réduire l'exposition à la surveillance, des ressources en ligne et un glossaire sur les principaux acteurs impliqués, des agences gouvernementales comme ICE aux entreprises technologiques. L'utilisateur peut savoir s'il court des risques spécifiques liés à des technologies telles que des lecteurs automatiques de plaques d'immatriculation ou des systèmes de prédiction policière.
Bien que « Eyes on AI » se présente avec une approche interactive similaire aux mèmes ou aux tests viraux, la campagne souligne la gravité du problème avec des phrases telles que « Votre avenir est à vendre ». Hana Memon, stratège numérique et créatrice de l'outil, a expliqué que l'objectif est de rendre visible comment des domaines comme la mobilité, la santé, la religion ou le travail font partie d'un réseau de surveillance élargi.
Activisme numérique et pression pour de nouvelles réglementations
Depuis sa fondation en 2020, Gen Z For Change a utilisé des stratégies technologiques pour des campagnes politiques et sociales. Le groupe avait déjà développé des ressources pour faire pression sur les hôtels contre l'hébergement d'agents d'immigration, ainsi que des plateformes de soutien pour des causes liées à la Palestine, à l'immigration et aux droits reproductifs.
Avec « Eyes on AI », l'organisation prévoit une large mobilisation qui inclura des projections, des affiches et des actions dans des villes des États-Unis.
La campagne vise à promouvoir une réglementation fédérale sur la vie privée numérique, car actuellement le pays ne dispose pas d'une loi globale en la matière. L'équipe derrière l'outil applique ses propres recommandations, utilisant des plateformes chiffrées et supprimant les informations personnelles des intermédiaires de données.
L'organisation soutient que le développement d'outils technologiques est une manière d'équilibrer le pouvoir face à l'avancement de la surveillance numérique.