OpenAI a mis à jour ses politiques d’utilisation afin d’interdire explicitement l’utilisation de ses modèles ChatGPT et des réponses qu’ils génèrent pour entraîner des systèmes d’intelligence artificielle concurrents de ses propres produits. Cette mesure entre en vigueur le 20 novembre 2026.
Le texte détaille les comportements interdits : la création de données d’entraînement, de tâches d’entraînement ou d’environnements d’apprentissage par renforcement à partir des modèles d’OpenAI, ainsi que la fourniture d’étiquettes, de scores, de classements ou de corrections destinés à entraîner un modèle alternatif. Il interdit également la sélection ou le filtrage de ces données dans le même but.
L’entreprise a inclus en outre une interdiction directe contre l’extraction de ce qu’elle appelle le « raisonnement protégé » : le registre interne par lequel un modèle résout une tâche étape par étape, qui n’est pas affiché dans la réponse finale. Selon la politique, accéder à ce contenu par ingénierie inverse ou en contournant les protections du système est interdit.
Les restrictions s’appliquent à la personne qui réalise l’opération directement, à celle qui la confie à un tiers et à celle qui agit au nom d’un autre, même si elle n’entraîne pas elle-même le modèle résultant. L’ancienne version des politiques reste en vigueur jusqu’à l’entrée en vigueur du changement le mois prochain.
Nouvelles exigences pour les services d’accès aux modèles
La mise à jour ajoute une autre exigence : les services permettant à des tiers d’accéder directement aux modèles, tels que les routeurs de modèles ou les passerelles d’IA, devront demander une autorisation préalable à l’entreprise. Cette exigence ne s’applique pas aux applications qui intègrent simplement un modèle pour offrir une fonction propre.
Le document précise également les protections pour les mineurs, fixe des exigences plus strictes pour les usages à haut risque et intègre des principes de sécurité nationale, avec des exigences d’approbation préalable pour les usages liés à la sécurité nationale et aux forces de sécurité.
La campagne d’extraction de juillet qui a accéléré le changement
Le durcissement des règles intervient après que l’entreprise a révélé, le 30 septembre, avoir identifié et démantelé une « campagne coordonnée » d’extraction de raisonnement protégé. Selon le communiqué, l’objectif était de reproduire ce contenu caché pour l’utiliser comme matière première pour l’entraînement d’un autre modèle, une pratique qu’elle a décrite comme une distillation adversariale.
D’après ce communiqué, l’activité a commencé le 1er juillet avec un faible volume et a augmenté les 24 et 25 juillet, lorsque 16 000 requêtes présentant un schéma d’extraction ont été enregistrées depuis plus de 4 000 comptes. Une enquête ultérieure a détecté un groupe lié de plus de 15 000 utilisateurs, dont l’activité a été entièrement neutralisée le 28 juillet.
Les opérateurs n’ont pas violé le chiffrement de l’entreprise ni accédé aux bases de données ou aux conversations stockées d’autres utilisateurs, selon le communiqué. En revanche, ils ont manipulé les interactions avec le modèle afin que le raisonnement protégé apparaisse de manière visible pour celui qui effectuait la requête, y compris en copiant un raisonnement chiffré d’une conversation et en demandant au modèle de le déchiffrer dans une autre.
En réponse, l’entreprise a déclaré avoir suspendu ou restreint des comptes, renforcé les contrôles d’inscription, fermé une voie permettant de reproduire le raisonnement chiffré d’un autre utilisateur et élargi la surveillance des réseaux liés. Elle a également partagé ses constats avec d’autres développeurs via le Frontier Model Forum, une alliance d’entreprises d’IA, ainsi qu’avec les canaux gouvernementaux.
Le précédent avec les rivaux chinois
La dispute concernant la distillation de ses modèles n’est pas nouvelle pour OpenAI. En janvier 2025, l’entreprise avait publiquement accusé des concurrents, dont des chinois, d’essayer de « distiller » de manière constante les modèles des principales sociétés américaines d’intelligence artificielle, selon la chaîne BBC.
Ces accusations ont émergé après l’irruption de DeepSeek, une application chinoise qui a reproduit les performances de ChatGPT avec un coût de développement bien inférieur, ce qui a conduit Microsoft à enquêter sur l’éventuelle utilisation non autorisée de ses propres données, selon l’agence Bloomberg.
À l’époque, David Sacks, le fonctionnaire désigné par la Maison Blanche pour les affaires d’intelligence artificielle et de cryptomonnaies, a déclaré lors d’une interview télévisée : « Il existe des preuves substantielles que ce que DeepSeek a fait, c’est distiller le savoir » de ces modèles, et a anticipé que les entreprises leaders du secteur prendraient des mesures pour freiner cette pratique.
Les nouvelles politiques d’utilisation entrent en vigueur le 20 novembre 2026 et resteront accompagnées, selon l’entreprise, de contrôles techniques supplémentaires, d’une couverture accrue des classificateurs de détection et d’un échange plus approfondi d’informations sur les menaces avec l’industrie et les gouvernements.