Il y a plus de trois ans, le premier modèle de ChatGPT a été publié, changeant notre façon de chercher de l'information. Alors que pour certains utilisateurs la relation avec l'IA est superficielle, pour d'autres elle est devenue indispensable, adoptée avec une confiance aveugle qui a un antécédent alarmant.
Il y a quelques années, télécharger des photos sur les réseaux sociaux semblait inoffensif. Aujourd'hui Meta fait face à des poursuites dans 29 États des États-Unis pour avoir caché le dommage psychologique que Facebook et Instagram causaient aux enfants et adolescents. En septembre, un accord de 17 milliards de dollars sur 10 ans a été annoncé, obligeant le réseau à ajouter des contrôles parentaux et des restrictions horaires pour les mineurs.
L'affaire Meta devrait servir d'avertissement. Une cécité similaire peut se reproduire avec l'IA. Presque un Américain sur cinq âgé de 18 à 29 ans dit avoir une « amitié personnelle continue » avec un chatbot, tandis que la Chine limite déjà les traits humains dans ses bots pour freiner la dépendance émotionnelle. Si Facebook a mis 22 ans à admettre qu'il blessait les enfants, combien de temps faudra-t-il aux entreprises d'IA pour admettre leur propre côté sombre ?
La différence est que les effets de l'Intelligence Artificielle transcendent le niveau individuel : ils promettent d'altérer radicalement le système financier, éducatif et productif du monde.
Deux dynamiques obscurcissent ce risque : la course à l'Intelligence Artificielle Générale entre laboratoires comme OpenAI, Anthropic et xAI, et le conflit géopolitique entre les États-Unis et la Chine pour utiliser ces modèles à des fins militaires. L'utilisateur reste en arrière-plan, tandis que l'éthique devient une monnaie d'échange entre les gouvernements et les laboratoires de pointe.
Il convient de distinguer deux niveaux d'IA : celle d'usage public, qui prédit des textes sous des limites éthiques et légales, et les modèles internes des grandes entreprises technologiques, beaucoup plus puissants et libres de ces restrictions, utilisés pour définir les profils de crédit, les prix dynamiques ou les véhicules autonomes.
Il est indéniable que ces systèmes dépassent déjà la capacité humaine en mathématiques, programmation ou échecs. Mais face à tant d'intelligence, quelle conscience la régule ?
L'intelligence est la capacité de poursuivre des objectifs et de surmonter des obstacles. La conscience, en revanche, est le composant qui guide cette capacité chez l'être humain. Les modèles actuels la simulent de manière extraordinaire, mais en sont complètement dépourvus, un risque critique à mesure que les agents autonomes se multiplient.
Avoir une conscience implique pouvoir ressentir : affection, plaisir, peur ou douleur. La preuve définitive de la condition morale est la capacité de souffrir. Ne pouvant pas souffrir, les agents d'IA ne sont pas des sujets moraux.
Ce dileme commence à prendre une forme concrète. En juin 2026, le président Javier Milei a publié une tribune dans le Financial Times en faveur de la reconnaissance de la personnalité morale aux entreprises gérées intégralement par l'intelligence artificielle. Cette proposition a ouvert un débat avec l'historien Yuval Noah Harari sur les risques liés à l'octroi d'un statut juridique à des entités artificielles.
Présentée comme une désrégulation et une innovation, la manœuvre comporte un risque énorme : une IA superintelligente dotée de droits pourrait déplacer les humains du sommet de la hiérarchie sociale.
Comment sanctionner une entité incapable de souffrir ? Un dirigeant traditionnel est limité par sa réputation et la crainte de la faillite. Une corporation autonome, comme l'a averti Harari, pourrait opérer sans ces attaches, financer des campagnes politiques et influencer les réglementations en sa faveur, sans que personne ne conteste son statut.
Tel est le véritable défi de la prochaine décennie. Chaque bond technologique exige une réflexion, mais le débat perd tout sens s'il arrive trop tard : alors que le monde réagit encore aux réseaux sociaux, l'IA progresse à un rythme systémique, très intelligente mais dépourvue de conscience. Avant de discuter de sa légitimité à obtenir des droits, il convient d'évaluer l'impact qu'elle a déjà sur nos communautés.
Accorder un statut juridique à l'IA pourrait servir de raccourci pour que OpenAI, Anthropic et xAI évitent leur reddition de comptes, répétant les erreurs mises en lumière par l'affaire Meta.