Sam Altman, directeur général d'OpenAI, a reconnu que la responsabilité de décider comment ChatGPT doit répondre l'a empêché de dormir tranquille depuis le lancement du service. « Je n'ai pas bien dormi une seule nuit », a-t-il affirmé en décrivant le poids de définir des limites, des critères et des réponses pour un outil utilisé par des centaines de millions de personnes. L'exécutif a ainsi placé le débat sur l'intelligence artificielle dans un terrain quotidien et décisif.
Ses paroles comptent parce que le fonctionnement d'un modèle de langage ne dépend pas seulement de sa capacité technique à générer des textes ou à résoudre des requêtes. Il est également conditionné par des règles humaines concernant ce qui peut être expliqué, nié, averti ou nuancé.
Altman a soutenu qu'OpenAI avait consulté des centaines d'experts, mais a admis que la décision finale incombe à l'entreprise et, face au public, à lui-même. Cette marge de décision ouvre des questions sur la morale, la sécurité et la liberté.
Le comportement du modèle naît de décisions humaines
Lors d'une interview avec The Tucker Carlson Show, Altman a expliqué que l'entreprise fait appel à des philosophes moraux et à des spécialistes de l'éthique technologique pour évaluer les directives de ChatGPT. L'objectif est de construire un cadre permettant de répondre à des demandes diverses sans convertir la plateforme en un mécanisme susceptible de causer du tort.
Même si, a-t-il souligné, aucune consultation externe n'élimine la responsabilité d'OpenAI quant aux critères adoptés. L'entreprise dispose d'une équipe dédiée au comportement du modèle, bien qu'Altman ait admis que ses décisions ne sont pas toujours justes.
La difficulté augmente parce que des millions de conversations soulèvent des circonstances distinctes. Une même règle peut s'avérer appropriée pour éviter un préjudice et, en même temps, limiter une requête légitime dans les domaines de l'éducation, de la santé ou de la recherche.
Pour Altman, les dilemmes les plus visibles ne sont pas les seuls qui nécessitent une attention. Il est particulièrement inquiet face aux petites décisions : le ton d'une réponse, la quantité d'informations fournies, la manière de refuser une demande ou l'avertissement accompagnant une explication.
La liberté des utilisateurs a des limites de sécurité
Le directeur général a défendu l'idée que ChatGPT doit traiter les adultes comme des adultes et offrir un outil flexible, avec des garanties de protection. Cependant, a-t-il affirmé, cette liberté entre en conflit avec la sécurité lorsqu'une demande peut faciliter des dommages graves.
Il a mentionné comme exemple les instructions pour fabriquer une arme biologique ou développer des synthèses virales. Bien que quelqu'un présente ces demandes comme de la recherche, OpenAI considère que ChatGPT ne doit pas contribuer à des activités sans intérêt social légitime et avec un potentiel de dommage.
L’affaire des armes biologiques semble plus claire que d’autres questions, mais Altman a souligné que de nombreuses limites ne disposent pas d’une réponse immédiate. Les frontières deviennent moins précises lorsque le modèle aborde des controverses politiques, des questions culturelles ou des interrogations liées aux valeurs personnelles.
Dans ces situations, l’intelligence artificielle peut influencer la manière dont une personne hiérarchise ses options, sans toutefois décider à sa place. C’est pourquoi la conception de chaque réponse exige d’examiner ses conséquences et d’admettre que le jugement peut évoluer avec le temps.
OpenAI cherche à refléter les normes sans imposer une morale individuelle
Altman a affirmé qu’OpenAI s’efforce de respecter les lois de chaque société et de représenter une moyenne des préférences morales de ses utilisateurs. Selon son approche, l’entreprise agit comme un facilitateur d’une technologie qui doit accepter des positions différentes, plutôt que de transférer au système la vision personnelle de ses dirigeants.
Cette ambition rencontre une limite évidente : les normes varient d’un pays à l’autre et les demandes sociales évoluent également. Le modèle doit s’adapter à ces différences sans renoncer à ses protections.
L’inquiétude d’Altman résume ce défi : chaque ajustement appliqué à ChatGPT peut paraître mineur dans le cadre d’une conversation, mais prend une autre ampleur lorsqu’il affecte des millions d’échanges. Le débat sur son comportement restera ouvert tant que la technologie étendra sa présence dans la vie quotidienne.