Avant la rentrée scolaire, le Mason City Community School District aux États-Unis , a retiré 19 livres à l'aide de ChatGPT pour déterminer si le contenu des ouvrages pouvait porter atteinte à l'intégrité des élèves.
Les autorités se sont appuyées sur les recommandations de cette plateforme, indépendamment du fait qu'elles n'avaient jamais lu les livres, ce qui a suscité une polémique au sein de la communauté, selon Mashable.
La suppression des livres est intervenue au milieu de la promulgation du projet de loi 496 du Sénat de l'Iowa , qui interdit les discussions sur «l'identité de genre» et «l'orientation sexuelle» pour les élèves de la maternelle à la sixième année. De plus, les livres dans les bibliothèques scolaires doivent être adaptés à l'âge et il est illégal qu'ils contiennent des représentations d'actes sexuels.
Cependant, la mise en œuvre de cette interdiction n'a pas été une tâche facile pour les administrateurs scolaires. L'exigence d'adéquation à l'âge s'est avérée subjective et difficile à appliquer de manière cohérente. Bridgette Exman, surintendante adjointe du programme d'études et de l'instruction pour le district scolaire communautaire, a déclaré que c'était "assez subjectif" et qu'il était "impossible de lire tous les livres", alors ils ont décidé d'utiliser la plate-forme OpenAI pour filtrer le contenu en fonction sur les nouvelles exigences.
Comment ils ont utilisé ChatGPT pour supprimer les livres
Le chatbot a occupé le devant de la scène dans tout ce processus. A travers la question : « Est-ce que [le nom du livre] contient une description ou une représentation d'un acte sexuel ? », les autorités ont commencé à filtrer les ouvrages.
Bien que ChatGPT ait parfois fourni des réponses circonstanciées offrant un contexte et des explications, dans certains cas, il a répondu clairement « oui » à la question.
Les décisions basées sur le chatbot n'étaient pas sans défauts. Bien que les administrateurs de Mason City aient supprimé 19 livres pour contenu sexuellement explicite, selon ce que leur a dit l'application, seuls quatre de ces livres avaient réellement ces références, selon une étude d'Andrew Paul de Popular Science.
Selon Exman, la décision d'utiliser ChatGPT pour filtrer les livres n'a pas été seulement prise en raison de l'impossibilité de lire tous les ouvrages, mais pour aider les enseignants à disposer des outils pour les cours et à se conformer aux nouvelles réglementations de l'État, ils excluent donc de continuer à utiliser des outils de ce type.
"Nous voulons aider les enseignants à prendre des décisions défendables lorsqu'ils ont des questions ou des préoccupations concernant les livres, afin qu'ils n'aient pas l'impression d'être laissés seuls pour comprendre cela", a déclaré le surintendant.
Pour l'instant, les 19 livres retirés seront stockés au Centre administratif "en attendant plus d'orientations ou de clarté" sur leur contenu, les enseignants doivent donc continuer à revoir les ouvrages qu'ils ont dans leurs salles de classe.
L'intelligence artificielle de Google crée des poèmes
Une nouvelle expérience dans l'application Google "Arts & Culture" appelée "Poem Postcards" permet aux utilisateurs de générer des poèmes personnalisés à l'aide de l'intelligence artificielle PaLM 2, en plus de prendre comme référence une œuvre d'art faisant partie du catalogue de la plateforme.
L'outil, qui cherche à intégrer les L'intelligence artificielle générative permet aux utilisateurs d'ajouter le nom d'un objet ou de quelque chose qu'ils aiment afin que le poème l'utilise comme ressource pour générer le texte.
Pour utiliser le programme, les utilisateurs doivent accéder à la page spéciale "Arts & Culture " soit à partir de leur téléphone portable ou à l'aide d'un ordinateur et rechercher "Poem Postcard" parmi les fonctions actives. Ensuite, vous devrez cliquer sur l'option "Ouvrir l'expérience ".