Les avancées de l'intelligence artificielle ont entraîné de nouveaux risques en matière de sécurité numérique, en particulier pour ceux qui gèrent des informations sensibles. L'une des mesures les plus récentes dans ce domaine est le mode restreint de ChatGPT, une fonction qui désactive la connexion Internet de l'outil afin de protéger les données privées des utilisateurs contre des tentatives d'exfiltration via des injections de prompts.
Cette caractéristique, conçue principalement pour des environnements professionnels et éducatifs, priorise la sécurité dans des situations à haut risque, bien qu'elle implique une réduction notable des fonctionnalités habituelles de la plateforme.
Qu'est-ce que le mode restreint de ChatGPT et comment protège-t-il vos données
Le mode restreint constitue une configuration avancée et optionnelle qui limite de manière significative les outils et capacités de ChatGPT. Son principal objectif est de protéger les informations confidentielles des organisations et des utilisateurs confrontés à des menaces élevées d'attaques d'exfiltration de données, spécifiquement ceux qui utilisent des techniques d'injection de prompts pour compromettre le système.
Selon OpenAI, ce mode repose sur une approche déterministe, ce qui signifie qu'il empêche de manière prévisible et contrôlée la sortie de données vers l'extérieur, bloquant les canaux qui pourraient être exploités par des acteurs malveillants.
La protection que fournit le mode restreint se base sur l'isolement de fonctions critiques et sur la restriction de toute interaction avec le réseau externe. Selon OpenAI, bien que la recherche sur les injections de prompts continue d'évoluer, l'entreprise a renforcé ses défenses à différents niveaux : du modèle et du produit à l'infrastructure.
Parmi les mesures mises en œuvre figurent l'isolement dans des environnements sécurisés (sandbox), des barrières contre l'exfiltration de données via des URLs, des contrôles d'entreprise avancés et une supervision constante permettant de détecter et d'agir face à toute tentative de vulnérabilité.
Le mode restreint désactive l'accès à la web en temps réel, permettant uniquement la consultation de contenu en cache. Cela limite la possibilité pour l'outil de transmettre des données via le réseau, bien que cela puisse également affecter la mise à jour et la disponibilité de certains résultats de recherche.
D'autres caractéristiques, comme la génération et la visualisation d'images, la recherche avancée et le mode agent, sont également désactivées lorsque cette fonction est activée.
Fonctionnalités limitées et portée du mode restreint
Lorsque le mode restreint est activé, plusieurs capacités clés de ChatGPT ne sont plus disponibles. Parmi les changements les plus notables se trouve l'impossibilité de naviguer sur le web en direct ; les recherches se limitent au matériel stocké précédemment, ce qui peut se traduire par des informations moins à jour.
Il n'est pas non plus possible pour ChatGPT d'inclure des images dans les réponses, bien que les utilisateurs puissent toujours télécharger leurs propres fichiers graphiques ou accéder à la génération d'images depuis la plateforme.
Les fonctions de recherche avancée et le mode agent sont suspendus, tout comme la possibilité pour le code généré dans le canvas d'accéder au réseau. Un autre point important est que le système ne permet pas le téléchargement de fichiers pour analyse, mais conserve la capacité de travailler avec des documents que les utilisateurs téléchargent manuellement.
Il est important de noter que le mode restreint n'affecte pas l'utilisation de la mémoire, le téléchargement de fichiers ni l'option de partager des conversations. Ces fonctions restent intactes, sauf si les administrateurs décident de modifier leur configuration individuellement. De plus, la restriction d'accès au réseau ne s'étend pas à la plateforme Codex, qui maintient son fonctionnement habituel.
Applications, risques et recommandations pour les administrateurs
L'utilisation d'applications, y compris les MCP et les connecteurs, introduit un risque supplémentaire, car elles peuvent interagir avec Internet et être utilisées par des attaquants pour exfiltrer des données via des techniques sophistiquées d'injection de prompts.
Pour cette raison, OpenAI suggère que les administrateurs limitent strictement quelles applications et actions sont autorisées pour les utilisateurs sous le mode restreint, recommandant d'activer uniquement le strict nécessaire pour le travail.
Les recommandations de l'entreprise classent les risques à différents niveaux. Les connecteurs de synchronisation et les actions de lecture au sein d'applications de confiance représentent un risque moyen, car ils ne génèrent pas de requêtes de réseau externes, mais peuvent être des sources de données sensibles.
Les actions d'écriture, même dans des applications de confiance, sont plus délicates en raison des effets secondaires qu'elles engendrent, il est donc conseillé de les restreindre à ceux ayant une confiance totale dans l'environnement. Les actions dans des applications non fiables, tant en lecture qu'en écriture, sont considérées comme à haut risque et sont formellement déconseillées aux utilisateurs opérant avec le mode restreint activé.
Disponibilité du mode restreint et gestion administrative
Actuellement, le mode restreint est disponible pour les versions ChatGPT Enterprise, Edu, ChatGPT for Healthcare et ChatGPT for Teachers. OpenAI a annoncé qu'elle prévoit d'étendre cette fonctionnalité aux plans de consommation et aux équipes de ChatGPT dans les mois à venir, élargissant ainsi l'accès à un plus grand nombre d'utilisateurs.
Pour activer cette protection, les administrateurs peuvent créer un rôle personnalisé appelé « Mode restreint » et assigner les utilisateurs qu'ils jugent appropriés. Cette dynamique permet aux organisations de gérer le degré d'exposition de leurs données et d'adapter les mesures de sécurité en fonction des besoins de chaque groupe de travail.
Au-delà du mode restreint, la plateforme de journaux de l'API de conformité offre aux administrateurs une vue détaillée de l'utilisation des applications, des données partagées et des sources connectées. Cet outil est essentiel pour superviser la sécurité dans des environnements où l'intelligence artificielle étend ses capacités et son champ d'action.