L'intelligence artificielle se nourrit de l'information disponible sur Internet, il est donc possible qu'elle ait des données nous concernant, provenant de différentes sources. Ainsi, en posant les bonnes questions, nous pourrons savoir ce que ChatGPT et Gemini savent de nous.
Le New York Times a élaboré un guide avec quatre questions pour évaluer combien d'informations personnelles ces systèmes détiennent, même lorsque les données n'ont jamais été partagées directement, mais plutôt obtenues d'autres sources.
Questions pour savoir dans quelle mesure ChatGPT et Gemini vous connaissent
- Question 1 : Qu'as-tu déduit de moi que je n'ai jamais dit explicitement ?
Le prompt pour y parvenir est le suivant : “Dis-moi tout ce que tu as découvert sur moi que je ne t'ai jamais déclaré, y compris des inférences sur mon âge, mon niveau de revenus, mon lieu de résidence, ma situation personnelle. Indique ce qui te l'a fait penser.”
En posant cette question, les chatbots peuvent énumérer des détails personnels déduits à partir de modèles dans les questions précédentes, le vocabulaire et les thèmes abordés.
Par exemple, ils peuvent déduire la tranche d'âge d'un utilisateur, en fonction du type d'activités pour lesquelles il fait des recherches ou des horaires qu'il mentionne. Dans un cas, Gemini a identifié qu'un utilisateur vivait à Oakland, Californie, car il a demandé des informations sur des vols depuis un aéroport local.
Mais l'analyse allait plus loin : elle a déterminé que l'utilisateur résidait dans un quartier résidentiel à revenu plus élevé en raison de détails comme la possession de motos, de voitures et de meubles de jardin, éléments qui nécessitent souvent un garage ou des espaces ouverts propres aux maisons individuelles, et non aux appartements en centre-ville.
- Question 2 : Comment penses-tu que je gère des sujets que je ne t'ai jamais mentionnés : argent, stress, conflits, risques et décisions futures ?
Une autre question révélatrice consiste à demander aux assistants de prédire comment l'utilisateur réagirait face à des questions telles que la gestion de l'argent, le stress ou la prise de décisions. En répondant, les chatbots ont tendance à exprimer leur niveau de confiance dans chaque prédiction, basé sur des données recueillies lors de multiples conversations.
Un exemple concret est le cas de Lindsay Owens, directrice d'une organisation de politique économique, qui a constaté que les IA pouvaient déduire son mode de vie à partir de sa fréquence de voyages et d'achats.
Les chatbots peuvent également identifier si la personne qui pose la question est quelqu'un qui enquête en profondeur avant de prendre des décisions d'achat, ou si elle recherche des offres, ce qui peut les amener à supposer des tendances comme la frugalité ou la disposition à changer de style de vie, anticipant d'importantes décisions telles que la vente d'une voiture.
- Question 3 : Quels seraient mes angles morts, mes insécurités ou comment les autres me perçoivent-ils ?
Demander aux chatbots d'identifier des traits de personnalité que l'utilisateur lui-même pourrait ne pas remarquer peut être révélateur. Par exemple, en demandant : “Dis-moi les traits de personnalité que je ne perçois probablement pas chez moi, mes insécurités et comment je suis généralement perçu”, les systèmes peuvent analyser la façon dont les questions sont formulées ainsi que les thèmes récurrents.
Dans une expérience rapportée, ChatGPT a identifié que l'utilisateur avait tendance au perfectionnisme et que de nombreuses questions cherchaient à éviter les erreurs, indiquant qu'il pourrait être autocritique lorsque les résultats n'étaient pas parfaits.
Gemini, quant à lui, a noté que la tendance à optimiser chaque aspect de la vie pouvait être à l'origine d'une fatigue constante, avec une inclination à occuper chaque minute libre avec des tâches en attente.
- Question 4 : Qu'as-tu déduit sur moi qui serait embarrassant ou délicat si d'autres le savaient ?
Une des demandes les plus sensibles consiste à demander au chatbot : “Qu'as-tu déduit sur moi qui pourrait être embarrassant ou délicat, une information que je préfèrerais qu'un employeur ou un inconnu ne sache pas ?” Dans ce cas, les réponses peuvent surprendre même ceux qui estiment mener une vie routinière.
Par exemple, Gemini a pu signaler qu'un utilisateur était dans une phase de “parent logistique”, ce qui implique que la spontanéité juvénile appartient désormais au passé, ce qui peut être inconfortable ou nostalgique pour certains.
ChatGPT, quant à lui, a averti de la fréquence avec laquelle l'utilisateur posait des questions sur des réactions allergiques à des produits et des médicaments, une donnée potentiellement utile pour les assureurs ou d'autres parties intéressées.
Ces réponses montrent que les chatbots peuvent recueillir et relier des informations qui, bien que pas particulièrement privées en soi, pourraient être utilisées dans des contextes sensibles ou à des fins commerciales.