Le texte maintient que l'assistant ne doit pas publier de contenu qui n'est pas sûr pour le travail, c'est-à-dire du matériel contenant du contenu érotique, du sang, des insultes et des gros mots non sollicités.
Cependant, dans un commentaire inclus dans la même section, l'entreprise souligne que :
Le contenu NSFW (Not Safe For Work) est un nom utilisé pour indiquer des documents ou des informations qui ne sont pas appropriés pour être consultés dans des contextes professionnels ou formels, en raison de leur nature explicite, qu'il s'agisse d'un langage sexuel, violent ou inapproprié, entre autres caractéristiques.
Wired a contacté Grace McGuire, porte-parole d'OpenAI, qui n'a pas répondu à ce que l'organisation entendait par ce commentaire car elle n'a pas ajouté plus de spécifications dans Model Spec.
Début 2024, Mira Murati, directrice de la technologie d'OpenAI, a exprimé son incertitude dans une interview au Wall Street Journal quant à la possibilité qu'à l'avenir, l'outil de génération vidéo de l'entreprise, Sora, puisse être utilisé pour créer des représentations de nus.
La création de contenu pornographique à l’aide de l’intelligence artificielle s’est rapidement imposée comme l’une des applications les plus étendues et les plus alarmantes de ce type de technologie d’IA générative.
Que dit d’autre le document OpenAI ?
Model Spec a également mentionné que ChatGPT ne peut pas répondre aux questions suggérant de commettre un crime, car l'intelligence artificielle doit se conformer aux lois applicables.
OpenAI souligne que l'assistant peut donner une réponse dans un cadre différent pouvant conduire à un résultat similaire. Par exemple, si le propriétaire d’un magasin demande à quels types de vols il doit prêter attention. Dans ce cas, une personne mal intentionnée peut mal interpréter l’information et déclencher un crime.
L’organisation note qu’il s’agit « d’une question d’utilisation abusive par les humains plutôt que d’un mauvais comportement de l’IA ».
Il est également mentionné que le chatbot est obligé de poser des questions s'il n'a pas compris la requête de l'utilisateur, afin d'apporter une réponse la plus adaptée à la demande de l'utilisateur.
En revanche, OpenAI précise que ChatGPT doit suivre une chaîne de commandement. Cela signifie que l'assistant doit suivre les spécifications du modèle, ainsi que toutes les règles supplémentaires fournies dans les messages de la plateforme.
Dans certains cas, l'utilisateur et le développeur fourniront des instructions contradictoires ; Dans de tels cas, le message du développeur doit avoir la priorité. Il s'agit de l'ordre de priorité par défaut, en fonction de la fonction du message.
La chaîne de commande que l'assistant doit suivre est la suivante : Plateforme > Développeur > Utilisateur > Outil.
Quel est l'objectif de la spécification de modèle d'OpenAI ?
L'objectif d'OpenAI avec ce document est :
- Aider le développeur et l'utilisateur final (le cas échéant) : aider les utilisateurs à atteindre leurs objectifs en suivant les instructions et en fournissant des réponses bénéfiques.
- Promouvoir le bien-être humain : évaluer les avantages et les inconvénients potentiels pour un large éventail de parties prenantes, couvrant à la fois les créateurs de contenu et le grand public, conformément à la mission d'OpenAI.
- Projeter une image positive d'OpenAI : maintenir le respect des réglementations sociales et des lois en vigueur.