ChatGPT a été au centre de l'attention au début de l'année, mais l'une des fonctionnalités qui a dérangé les utilisateurs est de voir comment le contenu généré par cette intelligence artificielle (IA) peut être offensant dans certains cas et d' OpenAI ils ont donné des détails sur la façon dont Ils résoudront cette situation.
À travers son blog officiel, la société a révélé qu'elle développait une version améliorée pour l'IA, dans le but de pouvoir la "personnaliser".
C'est le résultat de certains résultats qui ont été partagés par les utilisateurs, qui "les considèrent politiquement biaisés, offensants ou répréhensibles".
Chat GPT personnalisé
Cette intelligence artificielle fonctionne de la manière suivante : elle dispose d'une série de réseaux de neurones dans lesquels une pré-formation est d'abord effectuée grâce à un grand ensemble de données, puis elle passe à une phase dans laquelle le modèle est peaufiné avec une série de relecteurs de réponses, qui les ajustent selon certaines directives.
Ce point final est celui que l'entreprise souhaite améliorer. D' OpenAI, ils reconnaissent que le processus est imparfait et assurent que "nous fournirons des instructions plus claires aux examinateurs sur les éventuels problèmes et défis liés aux préjugés, ainsi que sur les chiffres et les questions controversés".
Ils mentionnent également qu'ils feront des efforts pour renforcer les biais démographiques et appliquer des améliorations basées sur des techniques telles que l'IA constitutionnelle , dans lesquelles le travail des personnes se concentre uniquement sur la définition des règles d'apprentissage.
«Nos directives sont explicites selon lesquelles les examinateurs ne doivent favoriser aucun groupe politique. Les biais qui peuvent cependant découler du processus décrit ci-dessus sont des erreurs, pas des caractéristiques », a rapporté l'organisation.
De manière générale, l'entreprise travaillera sur trois piliers pour résoudre le problème des contenus pouvant être offensants ou à fort biais idéologique :
- Améliorer le comportement par défaut : l'objectif est d'éliminer les biais et aussi les cas où le système "invente des choses", car cela impacte l'attitude de l'utilisateur.
- Personnalisation : ChatGPT permettra aux utilisateurs d'ajuster leur comportement, permettant de générer des réponses avec lesquelles ils ne seraient pas d'accord. Bien que des limites soient fixées de la même manière, le défi qu'ils envisagent dans l'entreprise est de trouver l'équilibre entre ces barrières pour éviter les "utilisations malveillantes" de la technologie.
- Participation populaire : ils veulent que les gens aient le pouvoir « d'influencer les règles du système » et d'inclure « autant de perspectives que possible », qui seront pertinentes dans les domaines éducatif, social, politique et autres.
Tout cet apprentissage sera en développement, la société a donc annoncé qu'elle donnerait plus de détails dans "les prochains mois" et ils espèrent continuer à compter sur le suivi des utilisateurs pour corriger davantage d'erreurs.
Microsoft va intégrer ChatGPT dans les iPhones
Après que Microsoft a annoncé l'incorporation de l'intelligence artificielle de ChatGPT au système de son moteur de recherche, Bing, la société technologique a commencé à développer de nouvelles façons d'accéder à cette plate-forme via des appareils supplémentaires puisqu'elle n'est actuellement disponible que de manière limitée via sa version Web . ou dans l'application Edge .
L'une des premières façons dont Microsoft envisage d'entrer sur le marché des applications mobiles avec ce navigateur consiste à créer une plate-forme Bing native spécifiquement pour les appareils exécutant le système d'exploitation iOS.
Bien que l'expansion de la portée du système renouvelé du moteur de recherche Bi n g commencerait avec une plate-forme de bureau et plus tard sur des appareils comme l' iPhone , cela ne signifie pas que les utilisateurs d'appareils Android n'en bénéficieront pas. Il est probable que le développement d'une application native qui intègre ces capacités aux téléphones portables avec ce système d'exploitation arrivera bientôt sur le marché .
Selon le PDG de Microsoft , Satya Nadella, l' intelligence artificielle intégrée au service Bing permettra aux gens d'effectuer les recherches qu'ils souhaitent depuis leur navigateur ou une application spéciale pour les appareils mobiles. Cette fonctionnalité donnerait à l'utilisateur l'impression que son processus de navigation était guidé par un "copilote".