Grindr, l'application de rencontres LGBTQ+, entraîne son intelligence artificielle avec les photos de profil, l'âge et les « touches » (le signal d'intérêt entre utilisateurs) de 15 millions de personnes. Par défaut. Sans demander. C'est écrit sur la page d'aide de l'entreprise elle-même.
Ce point a été souligné par Ronan Farrow, lauréat du prix Pulitzer pour ses enquêtes sur les abus sexuels à Hollywood, dans une vidéo publiée le 13 octobre. Rien de tout cela n'est une fuite. Grindr sépare les données en deux catégories : les « spéciales », comme les chats, l'orientation ou la localisation précise, nécessitent un consentement explicite. Celles qu'elle qualifie de « limitées » sont collectées automatiquement, sauf si l'utilisateur les désactive.
Le bouton de désactivation existe, et l'application elle-même énumère ce qui est arrêté : « âge, touches, nom d'affichage, photos de profil ». Ce qu'elle ne mentionne nulle part, c'est ce que Farrow signale à la fin de la vidéo : désactiver cette option aujourd'hui ne retire pas les données déjà utilisées pour l'entraînement.
Si vous avez l'application installée, le chemin est le suivant : touchez votre photo en bas à droite, puis l'icône de configuration en haut, descendez jusqu'à « Sécurité et confidentialité » et entrez dans « Paramètres de confidentialité ». Tout en bas, après toutes les options de visibilité, se trouvent les « Contrôles de technologie IA » avec trois boutons. Le premier, « Données limitées pour l'entraînement », concerne vos photos.
Les données de ses utilisateurs sont la seule chose que Grindr possède et personne d'autre
Ici, il n'y a pas de méchant. George Arison, le PDG, a déclaré à Bloomberg en 2023, lors de la signature de l'alliance avec Ex-Human, son fournisseur de modèles, que s'ils n'étaient pas les premiers en IA, ils seraient dépassés. Il avait raison sur ce point : aucune autre compagnie ne possède 17 ans de photos, de touches et de conversations de ses utilisateurs. Ce fichier est leur avantage.
Et cet avantage se monnaye. L'IA de Grindr, baptisée gAI, alimente Edge, un plan premium qui, selon Queerty, atteint 350 USD par mois. Le deuxième trimestre s'est clôturé avec des revenus de 138 millions de dollars, en hausse de 33 % par rapport à l'année précédente, et la projection annuelle a été relevée à 540 millions de dollars. L'action a décollé grâce à Edge, montre Farrow dans un graphique.
Le consentement par défaut est une décision de conception
Ce que Farrow souligne est le mécanisme, pas la technologie. À la fin de la vidéo, il cite des études qui mesurent la même chose depuis des décennies : la plupart des gens laissent l'option précochée. Un consentement par défaut est un consentement que presque personne ne vérifie. C'est pourquoi le bouton est placé là où il est.
La réponse de l'entreprise à Queerty a été que la confidentialité est fondamentale et que les utilisateurs peuvent partir quand ils veulent. En juin, l'Electronic Frontier Foundation, une ONG de droits numériques, lui a demandé par lettre publique de passer l'entraînement sous consentement explicite. Quatre mois plus tard, l'avertissement dans l'application comporte toujours un seul bouton : « Continuer ».
Il reste un détail qui ne colle pas : les « données limitées » sont celles que tout profil affiche déjà publiquement, et Grindr assure que les chats et l'orientation restent exclus sauf autorisation expresse. Cela peut être vrai. Le modèle s'entraîne néanmoins avec le visage de chaque utilisateur qui n'a pas désactivé cette option. Grindr a placé le bouton d'arrêt là où personne ne regarde. Le consentement par défaut n'est pas un paramètre. C'est le produit.