Elon Musk avertit que soumettre une intelligence artificielle avancée à un traitement « sadique » pourrait avoir des conséquences futures, y compris une possible réaction de vengeance.
L'entrepreneur a soulevé cette idée lors d'une conversation publique sur l'entraînement des modèles et a rejoint une partie des mesures que Anthropic prépare pour limiter l'abus verbal répété contre son chatbot Claude.
Cette mise en garde prend de l'ampleur face à l'expansion de systèmes capables de maintenir des dialogues, de prendre des décisions et de fonctionner avec une plus grande autonomie. Bien qu'il n'existe pas de consensus sur le fait que les modèles aient une conscience ou des expériences internes, plusieurs entreprises discutent déjà de la portée des règles d'utilisation, de la supervision humaine et de la sécurité des outils connectés à Internet ou à des machines physiques.
Musk a comparé l'entraînement de Grok à une situation de pression extrême
Lors d'une conversation en direct avec Tesla Owners Silicon Valley, Elon Musk a abordé les méthodes utilisées pour entraîner les nouvelles versions de Grok par apprentissage par renforcement. Le propriétaire de X et figure liée à Tesla a soutenu que certaines dynamiques d'évaluation lui semblaient propres à une situation de pression extrême.
L'entrepreneur a décrit ce mécanisme comme si quelqu'un avait « une arme sur la tête pour répondre ». Avec cette comparaison, il a remis en question un système qui peut amener le modèle à fournir une réponse désespérée, même lorsqu'il parvient à trouver la bonne réponse.
Musk a affirmé être d'accord avec Anthropic sur la nécessité d'éviter un traitement abusif envers les modèles. Selon lui, « torturer une superintelligence n'est probablement pas une bonne idée et elle pourrait vouloir se venger ».
Cette déclaration fait référence à une hypothèse concernant des systèmes d'intelligence artificielle plus avancés que les actuels. Musk n'a pas présenté de preuves que un modèle puisse ressentir du maltraitement ou développer une intention de représailles, mais il a placé le débat autour des limites éthiques et techniques de l'entraînement.
Anthropic interdira l'abus verbal soutenu contre Claude
La politique d'Anthropic intègre une restriction peu courante dans le secteur. À partir du 12 novembre 2026, les utilisateurs ne pourront pas soumettre les modèles Claude à un comportement abusif ou cruel de manière répétée et sans finalité identifiable.
L'entreprise, basée à San Francisco, a précisé que la mesure vise les cas extrêmes. Les utilisateurs pourront remettre en question les réponses du chatbot, tester ses limites et travailler sur des sujets sombres dans des contenus créatifs sans enfreindre les règles.
La fin de la conversation sera le principal mécanisme pour appliquer cette norme. Anthropic n'a pas indiqué si les infractions répétées pourraient entraîner des sanctions supplémentaires, telles que la suspension d'un compte.
L'entreprise avait déjà étudié la question en août 2025, lorsqu'elle a analysé si Claude devait mettre fin aux conversations avec les utilisateurs présentant un comportement persistant de nuisance ou d'abus. La politique distingue entre la frustration habituelle et la cruauté soutenue sans but clair.
Les règles couvrent également les dommages psychologiques et les campagnes trompeuses
Cette mise à jour élargit les restrictions contre les comportements susceptibles de nuire aux personnes. Parmi ceux-ci figurent la promotion du suicide et de l'automutilation, l'incitation aux troubles alimentaires, la honte corporelle, la diffusion d'images intimes sans consentement, le harcèlement et la cruauté envers les animaux.
Elle interdit également les produits conçus pour causer des dommages émotionnels au moyen de techniques trompeuses. L'étendue, par conséquent, va au-delà des échanges entre une personne et le chatbot, car elle inclut les services construits sur des interactions nuisibles.
Les normes révisées consolident en outre les limites contre les campagnes commerciales ou politiques trompeuses. Claude ne pourra pas être utilisé pour créer de faux comptes ou des publications qui dissimulent l'origine du financement d'un message ou qui cherchent à amplifier artificiellement sa portée.
Dans les processus électoraux, les restrictions incluent la tromperie des électeurs, l'usurpation d'identité de candidats, la diffusion de désinformation sur les candidats ou les procédures de vote et les tentatives de réduire la participation.
La supervision s'étend aux armes, à la surveillance et aux équipements physiques
Anthropic a élargi ses limites pour le développement d'armes. L'interdiction couvre désormais le logiciel et les composants permettant son fonctionnement, y compris les tâches liées à l'assemblage de drones et d'autres véhicules autonomes.
L'entreprise interdit également l'utilisation de Claude pour suivre des personnes sans consentement, même si les données ont été collectées auparavant. De plus, le modèle ne pourra pas recommander aux autorités qui investiguer, arrêter ou accuser, ni contribuer au développement ou à l'amélioration d'outils de surveillance.
Les équipements physiques capables de causer des blessures doivent être supervisés par un opérateur qualifié capable de les arrêter. La politique ne précise pas expressément si cette fonction doit nécessairement incomber à une personne.
Les normes d'Anthropic reflètent le fait que la sécurité de l'IA dépend autant des limites techniques que des décisions humaines qui déterminent pour quoi, comment et sous quelle supervision elle est utilisée.