La montée en puissance de ChatGPT a suscité à la fois de l'étonnement pour ses capacités impressionnantes et un débat en raison de ses limites inhérentes. Il est nécessaire d'analyser ces restrictions et d'introduire le fonctionnement des « plugins », un outil qui ajoute des fonctionnalités à ChatGPT, lui permettant de pallier certaines de ses lacunes.
ChatGPT est une implémentation chatbot des grands modèles de langage de la série Generative Pretrained Transformer (GPT). Sa méthodologie consiste à former un réseau de neurones utilisant d'énormes quantités de texte afin de prédire le prochain «token» -groupes de caractères pouvant représenter des mots, des suffixes, des préfixes, etc.- dans une séquence. De plus, une technique connue sous le nom d'apprentissage par renforcement avec rétroaction humaine (RLHF) est utilisée pour affiner le comportement du modèle, sur la base d'échantillons de dialogues évalués par des humains.
Pour générer du texte, ChatGPT prend les informations que nous saisissons et calcule la probabilité que chaque jeton soit le suivant dans la séquence et en sélectionne un, en fonction de cette distribution de probabilité. Il ne choisit pas toujours le plus probable, ce qui apporte une certaine variabilité dans les réponses générées et nous permet d'obtenir des différences même lorsque nous répétons la même question.
Malgré sa portée et ses capacités impressionnantes, ChatGPT a des limites notables . Vous pouvez « halluciner », créer des informations qui semblent plausibles, mais qui sont fictives. En effet, il n'a pas de « compréhension » du monde, mais génère simplement des réponses basées sur des modèles dans les données sur lesquelles il a été formé, sans vérifier l'exactitude ou avoir une source de vérité. De plus, ses connaissances sont basées sur des données d'entraînement, il lui manque donc des mises à jour après septembre 2021. Il peut aussi faire des erreurs de logique et de calcul, malgré son étonnant pouvoir de raisonnement émergent. Ces limitations peuvent entraîner des problèmes importants et il est essentiel que les utilisateurs en soient conscients lorsqu'ils interagissent avec ChatGPT.
Les plugins apparaissent dans ce scénario comme des outils utiles , car ils fournissent au modèle un accès à des informations mises à jour, des calculs et des services tiers, surmontant leurs limitations inhérentes. Actuellement, ils sont déjà disponibles en tant que fonctionnalité expérimentale pour les utilisateurs Plus.
Par exemple, un plug-in de plateforme de voyage permet à ChatGPT d'interroger des informations en temps réel sur les vols, les hôtels et les options de location de voitures. Cela résout le problème que les réponses peuvent être plausibles, mais incorrectes ou obsolètes. En outre, FiscalNote (un fournisseur mondial de technologies d'information politique et commerciale) habilite ChatGPT en fournissant un accès à des données en temps réel liées à des informations juridiques, politiques et réglementaires, garantissant la véracité des informations dans ces domaines.
De son côté, le plugin Wolfram (moteur de recherche de réponses) se démarque par sa capacité à résoudre les problèmes de calculs erronés et de fausses données. Par exemple, si vous êtes interrogé sur la distance entre la Terre et la Lune, le chat peut répondre avec des données approximatives, ainsi que faire des erreurs dans le calcul de la réponse. Le plugin du moteur de recherche vous permet de comprendre la question et de calculer une réponse précise.
Cela est possible car, contrairement à ChatGPT, Wolfram n'est pas un modèle d'apprentissage automatique, mais un puissant moteur de calcul où chaque terme a une représentation symbolique dans une base de données extrêmement précise. Ante la misma pregunta, este plugin sabrá que la distancia entre dos cuerpos varÃa en cada momento, utilizará la ecuación de los movimientos de los cuerpos celestes, la posición de la Tierra y la Luna en el momento de la consulta, y finalmente calcularà la distance. Leurs réponses sont déterministes et non aléatoires .
Même si les plugins améliorent les capacités de ChatGPT, nous ne sommes pas encore face à une IA complètement fiable. L'utilisation responsable et consciente de ces technologies est fondamentale, reconnaissant les limites du modèle.
Continuer à lire: