Après l'émergence du modèle d'intelligence artificielle ChatGPT , de nombreux utilisateurs ont également cru à tort que ce système conversationnel remplaçait les recherches Web traditionnelles.
Rappelons que ce chatbot peut répondre à des questions sur un large éventail de sujets et fournir des informations et des explications. Produisez également des textes cohérents et bien structurés pour des rapports, des essais, des lettres, des courriels, entre autres.
Cependant, il présente des différences notables avec un moteur de recherche qui explore les pages Web indexées liées à la demande d'un utilisateur et est constamment mis à jour en fonction du nouveau contenu sur le réseau pour renvoyer des résultats classés en fonction de leur pertinence.
En fait, dans le cas de ChatGPT, cela ne fonctionne pas comme ça car il n'a pas la capacité de consulter Internet en temps réel et les informations qu'il génère sont basées sur les données avec lesquelles il a été formé jusqu'à ce moment-là, qui pour le moment, ils incluent du contenu jusqu'en 2022 .
Même le chatbot lui-même répond lorsqu'on lui pose des questions sur quelque chose d'actualité, mais il n'a pas accès aux dernières nouvelles et ne peut pas non plus fournir d'informations sur l'actualité, comme le ferait un moteur de recherche.
En particulier, le modèle gratuit GPT-3.5 d' OpenAI , accessible via le site OpenAI , met en avant cette limitation lorsqu'on l'interroge sur des événements récents, comme la sortie de The Legend of Zelda : Tears of the Kingdom ou les gagnants d'événements sportifs tels que le Super Bowl ou la Coupe du Monde Féminine de la FIFA .
Les réponses ne sont pas toujours fiables
Malgré la commodité et la nouveauté que présentent les nouveaux modèles d'IA générative, il est important de garder à l'esprit qu'ils sont formés avec des informations provenant d'Internet , qui ne sont pas toujours vérifiées ou fiables.
Le principe « garbage in, garbage out » met en évidence le problème de la source de données, car si le modèle d'IA est entraîné avec des erreurs, celles-ci influenceront ses jugements et ses résultats.
En fait, malgré les capacités linguistiques avancées de modèles tels que GPT-3.5 et GPT-4 , il existe des incidents où des échecs dans la vérification des faits ont été démontrés, connus sous le nom d'hallucinations .
De plus, le niveau de spécificité de la saisie utilisateur (Prompt) joue également un rôle crucial dans l'exactitude des réponses d'un chatbot.
Des invites peu claires ou brèves peuvent conduire à des réponses inexactes. Cela suggère donc que pour une meilleure expérience, l'utilisateur doit aborder ces systèmes de manière éclairée et détaillée afin de maximiser leur potentiel et de minimiser le risque d'erreurs.
L’accès à des informations vérifiables est crucial à l’ère numérique
Les chatbots comme ChatGPT évitent de citer leurs sources au profit d’une expérience conversationnelle, ce qui peut s’avérer problématique lorsque la véracité de l’information est vitale, comme dans le domaine de la santé et des consultations spécialisées.
Et bien qu’elle ait simplifié la recherche d’informations, l’ absence de références pose un défi pour la confirmation des données.
Par exemple, lorsqu'on lui a demandé quel était le plus grand oiseau du monde, il a donné une réponse correcte, mais n'a pas fourni de sources ni de détails cruciaux pour la vérification.
Le danger de s'appuyer sur des données non vérifiées est devenu évident lors d'un incident sur Reddit impliquant des conseils de santé basés sur de fausses informations, soulignant la nécessité de maintenir un certain niveau de critique et de rechercher des sources fiables pour les questions importantes.
Bing AI , pour sa part, tente d'étayer ses affirmations avec des liens vers des sources en ligne et une base de données plus à jour fournie par GPT-4 .
Tandis que ChatGPT Plus , la version par abonnement de ChatGPT, offre également la possibilité de citer des sources grâce à sa connexion Internet en direct.
Cependant, il est essentiel d’examiner les sources citées, même en utilisant ces outils plus avancés, pour éviter de prendre des décisions basées sur des informations erronées, en particulier dans des domaines critiques tels que la santé, l’éducation et des orientations de vie significatives.