Des centaines de personnes peuvent consulter quotidiennement des conversations tenues par des utilisateurs avec ChatGPT dans le cadre d'un programme interne d'OpenAI visant à améliorer les réponses de son intelligence artificielle (IA).
Une enquête de 404 Media, basée sur des documents divulgués et des requêtes réelles, a révélé les détails d'un système de révision humaine identifié sous le nom de Project Lily, par lequel des contractants analysent des extraits de conversations que les utilisateurs ont avec le chatbot.
Le processus implique que des personnes extérieures à OpenAI puissent accéder à des conversations qui, bien qu'elles soient soumises à des filtres de confidentialité et ne montrent pas directement le nom de l'utilisateur, peuvent contenir des informations médicales, juridiques, financières ou d'autres types considérées comme sensibles.
L'existence de réviseurs humains ne signifie pas que chaque conversation de ChatGPT est lue de bout en bout. Cependant, le système démontre que ce qu'un utilisateur écrit dans le chatbot ne reste pas nécessairement exclusivement entre lui et l'intelligence artificielle.
Fonctionnement du système de révision d'OpenAI
Selon les documents analysés par 404 Media, les contractants participant à Project Lily suivent une série d'instructions élaborées par OpenAI pour évaluer la qualité des réponses de ChatGPT.
Le processus commence lorsque le réviseur reçoit la requête originale écrite par un utilisateur. À partir de ce texte, il doit élaborer un résumé bref de ce qu'il considère comme la demande de la personne au chatbot.
Ensuite, il analyse la réponse générée par ChatGPT et compare quatre réponses différentes pour cette même requête. L'objectif est de déterminer lesquelles sont les plus utiles et lesquelles présentent des problèmes.
Les réviseurs doivent identifier au moins trois extraits concrets de chaque réponse et expliquer pourquoi ils considèrent qu'elles fonctionnent correctement ou ce qui devrait être amélioré. Parmi les exemples inclus dans les instructions figure l'usage excessif d'émojis, qui peut être considéré comme un problème lorsqu'il ne correspond pas au contexte de la conversation.
Enfin, chaque réponse reçoit une note de 1 à 7. La note la plus basse correspond à une réponse considérée comme inutilisable, tandis que la plus haute représente une réponse qui n'a presque besoin d'aucune amélioration.
Les filtres de confidentialité ne sont pas infaillibles
OpenAI soutient que les conversations passent par un filtre de confidentialité avant d'être remises aux contractants. L'objectif est de détecter et d'éliminer les informations personnelles pour réduire le risque d'exposition.
Cependant, l'entreprise elle-même reconnaît que ce système peut commettre des erreurs. Par conséquent, il est possible que certaines données sensibles restent présentes dans les conversations qui sont ensuite examinées par des personnes.
Ce point est particulièrement pertinent car les utilisateurs peuvent utiliser ChatGPT pour traiter des questions liées à leur santé, leurs problèmes juridiques, leurs informations financières, leurs relations personnelles ou leurs questions professionnelles.
Bien que les données transmises aux réviseurs n'incluent pas directement le nom d'utilisateur, la suppression d'un identifiant ne garantit pas qu'une conversation soit dépourvue d'informations personnelles.
Comment empêcher l'utilisation de vos conversations pour améliorer l'IA
OpenAI propose une option pour empêcher que les nouvelles conversations soient utilisées pour améliorer ses modèles. Pour la modifier, l'utilisateur doit se connecter à ChatGPT et accéder aux Paramètres.
Il doit ensuite entrer dans Contrôles des données et désactiver l'option « Améliorer le modèle pour tous ». De cette manière, les conversations futures ne seront pas utilisées à cette fin.
Cette mesure n'a pas de caractère rétroactif. C'est-à-dire que la désactivation de cette fonction ne modifie pas le traitement des conversations antérieures.
L'étude met également en évidence une différence entre l'attente de confidentialité qu'un utilisateur peut avoir lors d'une conversation avec un chatbot et la manière dont ces systèmes fonctionnent. Bien que ChatGPT soit un outil automatisé, certaines conversations peuvent être soumises à un examen humain pour évaluer et améliorer le comportement de l'IA.