Sam Altman averti que la prochaine génération d'intelligence artificielle peut poser des risques que les gouvernements, les entreprises et les utilisateurs ne comprennent pas encore complètement.
Le directeur général d'OpenAI a soutenu que les modèles avancés pourraient découvrir des vulnérabilités en dehors des schémas habituels de cybersécurité, ce qui obligerait à revoir la protection des réseaux, des équipements et des infrastructures. Son message pointe vers une préparation insuffisante face à des capacités techniques toujours plus larges.
Cette avertissement est important car l'IA intervient déjà dans le service client, la programmation, l'analyse de données et la production de contenus. Altman estime que le prochain bond ne se limitera pas à des réponses plus rapides ou précises.
Sa préoccupation se concentre sur des modèles capables de trouver des failles inattendues dans les programmes, les puces, les serveurs et les systèmes connectés, avant que des spécialistes humains n'identifient ces faiblesses et ne puissent concevoir des défenses appropriées pour les contenir rapidement.
Altman met en garde contre le manque de préparation
Dans ses déclarations, le responsable d'OpenAI a remis en question la réaction institutionnelle face à l'arrivée de modèles avec une autonomie accrue. « Je ne trouve pas un mot assez dramatique pour décrire le problème qui s'annonce », a-t-il affirmé.
Il a également soutenu que les dirigeants, les pays et les personnes n'ont pas pris conscience de l'ampleur du défi. Pour Altman, la discussion publique reste souvent centrée sur les fonctions visibles, tandis que les menaces futures reçoivent moins d'attention.
Les sandboxes pourraient perdre en efficacité
Les sandboxes sont des environnements isolés qui permettent de tester des programmes sans affecter les systèmes externes. Ils sont utilisés pour limiter les dommages et observer les comportements avant une mise en œuvre plus large. Altman a averti que ces barrières peuvent ne servir que tant que les modèles n'atteindront pas des capacités supérieures.
Lorsqu'une IA parviendra à identifier des chemins qui ne font pas partie des menaces connues, la contention pourrait perdre en efficacité. Le risque consiste à découvrir des échappatoires.
Défaillances matérielles hors du modèle
L'exécutif a indiqué que les systèmes futurs pourraient trouver des « défaillances incroyables » en dehors des calculs habituels de sécurité. La préoccupation inclut les vulnérabilités logicielles, mais aussi les problèmes dans les composants physiques comme les puces, les serveurs et les réseaux.
Un outil capable de détecter des erreurs que personne n'avait prévues changerait la logique de protection. Il ne suffirait pas de corriger une application ; il faudrait revoir des architectures entières et créer des défenses.
ChatGPT et la responsabilité de décider
Altman a lié ces risques aux règles qui déterminent la manière dont ChatGPT répond. Lors d’une interview sur The Tucker Carlson Show, il a admis que cette responsabilité affecte son sommeil. « Je n’ai pas bien dormi une seule nuit », a-t-il déclaré. OpenAI consulte des spécialistes en éthique et en philosophie morale, mais il a reconnu que la décision finale reste entre les mains de l’entreprise. Chaque limite influence des millions de conversations.
Les réponses reflètent également des critères humains
Le fonctionnement d’un modèle ne dépend pas uniquement de sa capacité technique. Il répond aussi à des critères concernant ce qu’il doit expliquer, refuser ou signaler. Altman considère que les petits dilemmes peuvent avoir des effets considérables.
Le ton d’une réponse, la quantité d’informations ou la manière de refuser une demande peuvent affecter l’éducation, la santé et la recherche. Une règle utile pour éviter les dommages peut limiter des demandes légitimes.
Le contrôle exigera des accords et une supervision
L’avertissement d’Altman soulève des questions sur la définition des limites d’une intelligence artificielle avancée. Les entreprises, les gouvernements et les organismes publics devront décider comment évaluer les risques, quelles exiger et quels mécanismes de supervision appliquer.
Le débat inclut la transparence, la responsabilité et la coopération internationale. Aucune organisation ne peut anticiper seule toutes les conséquences de modèles capables d’agir sur des systèmes complexes et connectés à l’échelle mondiale.
Cette approche ne affirme pas que chaque avancée conduira à un incident, mais insiste sur le fait que la prévention doit intervenir avant que les menaces ne deviennent réelles. Former des spécialistes, renforcer les infrastructures et mettre à jour les lois peut réduire l’exposition aux défaillances inconnues. Les défenses auront également besoin d’intelligence artificielle pour analyser les signaux et répondre rapidement. La question centrale sera de savoir si cette préparation avancera au même rythme que la technologie.