L’intelligence artificielle est apparue comme une avancée qui pourrait signifier le changement le plus perturbateur qu’ait connu l’humanité, même après l’arrivée d’Internet. Cependant, tout comme elle peut apporter d’énormes bénéfices, sans l’adoption généralisée de pratiques responsables, elle est également susceptible de causer de graves dommages.
OpenAI, la société à l'origine du très populaire ChatGPT, semble être consciente du besoin croissant de commencer à éduquer sur l'IA et espère en fait gagner la confiance des parents et des décideurs politiques en s'associant avec des organisations œuvrant pour minimiser les méfaits de la technologie. chez les enfants, les préadolescents et les adolescents.
L'entreprise dirigée par Sam Altman a conclu une alliance stratégique avec Common Sense Media , dans le but de promouvoir l'utilisation sûre du l'intelligence artificielle chez les jeunes.
Rappelons que la préoccupation principale de l’organisation à but non lucratif réside dans la nécessité de développer et d’utiliser l’IA de manière responsable, éthique et inclusive dès sa conception.
En fait, il reconnaît que l'excellence technique ne suffit pas et souligne que ces modèles doivent être considérés dans une perspective socio-technique , ce qui implique une interdépendance entre la technologie, les êtres humains et les processus créés par ces derniers.
Alors que les évaluations de produits AI de Common Sense agissent comme des étiquettes nutritionnelles, fournissant des informations détaillées sur les opportunités, les considérations et les limites de chaque produit.
En quoi consiste l’alliance ?
Annoncée lors d'un événement à San Francisco, aux États-Unis, cette collaboration vise à intégrer des outils pédagogiques conçus pour garantir une interaction responsable avec des technologies telles que ChatGPT.
Sam Altman, PDG d'OpenAI, et Jim Steyer, PDG de Common Sense Media , ont souligné l'importance de cette initiative pour le bien-être général des mineurs .
Le partenariat entre les deux entités se concentrera sur le développement de lignes directrices et de ressources pédagogiques qui facilitent la compréhension de l'IA par les enfants, les parents et les éducateurs.
Selon une étude d'Impact Research, alors que 58 % des étudiants entre 12 et 18 ans ont utilisé ChatGPT , seuls 30 % des parents d'enfants d'âge scolaire ont eu une expérience avec cet outil.
Pour sa part, Common Sense Media travaillera à la création d'un système de notation et d'évaluation spécialement conçu pour l'IA, en se concentrant sur des éléments tels que la promotion de l'apprentissage et du respect des droits de l'homme.
L’IA dans le cadre d’un projet éducatif
OpenAI et Common Sense visent à explorer comment personnaliser les grands modèles de langage (LLM) pour des applications éducatives, permettant aux adolescents d'accéder à des informations pertinentes dans des domaines tels que la science et la biologie.
De même, ils s’engagent à travailler ensemble pour sélectionner des applications de chatbot, appelées GPT « familiales » au sein du GPT Store, adaptées à une utilisation par les jeunes car elles maintiennent les normes et valeurs promues par l’organisation.
Altman envisage un avenir où l'IA personnalisée est accessible à tous , soulignant la mission de son entreprise d'offrir gratuitement des outils utiles.
"L'IA offre des avantages incroyables aux familles et aux adolescents, et notre partenariat avec Common Sense renforcera encore notre travail en matière de sécurité, garantissant que les familles et les adolescents peuvent utiliser nos outils en toute confiance", a déclaré le dirigeant.
Bien qu'elle reconnaisse les risques des images générées par l'IA, elle fait confiance à la capacité des utilisateurs à discerner leur véracité . Il a souligné les efforts d'OpenAI pour surveiller et répondre à l'utilisation abusive de l'IA.
Pendant ce temps, Craig Newmark Philanthropies, qui a contribué à hauteur de 3 millions de dollars pour soutenir cette initiative , a exprimé ses inquiétudes quant à l'utilisation de l'IA par des acteurs malveillants et à ses effets potentiels sur les troubles sociaux et la désinformation.