La Chine est confrontée à un problème familier aux dictatures de tous les temps : comment trouver un équilibre entre l’innovation motrice de croissance qui prospère dans une société libre et la paranoïa d’un État autoritaire. Son dirigeant, Xi Jinping , souhaite que le pays devienne une économie hyper avancée. Son gouvernement promeut activement la commercialisation des hautes technologies qu’il affectionne, des véhicules électriques à l’informatique quantique.
En même temps, il serre la vis sur ce qu’il désapprouve. En 2021, il a réglementé l’industrie florissante du tutorat en ligne jusqu’à l’oubli presque du jour au lendemain, craignant apparemment que des frais de scolarité élevés ne rendent l’éducation des enfants si coûteuse que les Chinois abandonnent l’idée de devenir parent. Le 22 décembre, le gouvernement a porté un coup dur à l'industrie du jeu vidéo en introduisant des règles visant, entre autres, à limiter le montant que les joueurs peuvent dépenser en achats dans le jeu et, par conséquent, le montant que les développeurs peuvent gagner. La valeur marchande de Tencent, l'une des sociétés chinoises les plus innovantes qui possède également une importante activité de jeux, a chuté de 12 pour cent.
En 2000, Bill Clinton , alors président des États-Unis, comparait la tentative de la Chine de contrôler Internet à « une tentative de clouer du Jell-O au mur ». Aujourd’hui, la gélatine semble bien en place. Les services Internet occidentaux, depuis Facebook et Google jusqu'à Netflix , ne sont pas accessibles à la plupart des Chinois (à l'exception de ceux qui sont prêts à prendre le risque d'utiliser des « réseaux privés virtuels » illégaux). Sur les plateformes locales, tout contenu indésirable est supprimé, soit de manière préventive par les plateformes elles-mêmes, grâce à des algorithmes et des armées de modérateurs, soit ultérieurement, dès que les censeurs gouvernementaux le détectent. Une offensive technologique en 2020 a placé les puissants géants chinois de la technologie, tels que Tencent et Alibaba , sous contrôle et plus proches du gouvernement, qui a pris de petites participations dans les entreprises et s'est profondément intéressé à leurs opérations quotidiennes.
Le résultat est une économie numérique saine mais néanmoins prospère . La super application WeChat de Tencent, qui combine messagerie, réseaux sociaux, e-commerce et paiements, génère à elle seule des centaines de milliards de dollars de transactions annuelles. Xi espère désormais parvenir à un équilibre similaire avec l’IA. Une fois de plus, certains experts étrangers prédisent une situation gélatineuse. Et une fois de plus, le Parti communiste construit des outils pour leur prouver le contraire.
Les efforts du parti commencent par les règles les plus strictes au monde pour les équivalents chinois de Chat GPT (qui, sans surprise, est interdit en Chine) et d'autres IA « génératives » destinées aux consommateurs. Depuis mars, les entreprises doivent enregistrer auprès des autorités tout algorithme qui fait des recommandations ou peut influencer les décisions des gens. En pratique, cela signifie essentiellement tout logiciel de ce type destiné aux consommateurs. En juillet, le gouvernement a publié des règles exigeant que tout contenu généré par l’IA « défende les valeurs socialistes » ; En d’autres termes, aucune chanson obscène, aucun slogan anti-parti ou, Dieu nous en préserve, aucune moquerie de M. Xi ne sont autorisés. En septembre, elle a publié une liste de 110 services enregistrés. Seuls ses développeurs et le gouvernement connaissent tous les tenants et aboutissants du processus d'enregistrement et les critères précis impliqués.
En octobre, un comité national des normes de sécurité de l'information a publié une liste de directives de sécurité qui nécessitent une auto-évaluation détaillée des données utilisées pour former des modèles d'IA génératifs. Une règle nécessite des tests manuels sur au moins 4 000 sous-ensembles du total des données de formation ; Au moins 96 % d’entre eux doivent être jugés « acceptables », sur la base d’une liste de 31 risques de sécurité formulés de manière vague . Le premier critère pour considérer un contenu inacceptable est tout ce qui « incite à la subversion du pouvoir de l’État ou au renversement du système socialiste ». Les chatbots doivent refuser de répondre à 95 % des requêtes qui généreraient du contenu inacceptable (toutes celles qui arriveraient seraient vraisemblablement censurées ex post). Ils ne devraient pas non plus rejeter plus de 5 % des questions inoffensives.
Tout ce qui est produit par des algorithmes non enregistrés doit être bloqué et ses créateurs punis. En mai, un homme de la province du Gansu a été arrêté après avoir utilisé Chat GPT pour produire du texte et des images d'un faux accident de train et les avoir publiés sur les réseaux sociaux. Il a peut-être été le premier Chinois arrêté pour avoir diffusé de fausses informations générées par l’IA. Ce ne sera pas la dernière.
Cette stratégie autoritaire a ralenti l’adoption de l’IA générative destinée aux consommateurs dans le pays. Ernie Bot , créé par Baidu , une autre entreprise technologique, était prêt au moment du lancement de Chat GPT, mais il n'a été lancé que neuf mois plus tard, en août, une éternité compte tenu de la rapidité avec laquelle la technologie évolue. Il reste maladroit lorsqu'il s'agit d'exprimer son attachement au parti. Lorsqu’on lui pose des questions sensibles sur Xi, il censure docilement, ne propose aucune réponse et supprime la requête.
Des socialistes modèles
Avec plus de travail, le parti pourrait transformer les modèles d’IA non seulement en bons communistes, mais aussi en communistes compétents . Cela éviterait la nécessité d'une censure ex post, estime Luciano Floridi, de l'Université de Yale. Cependant, les autorités ne semblent pas pressées d’y parvenir. Au lieu de cela, ils favorisent les applications commerciales de la technologie.
Contrairement à l'IA grand public, l'IA d'entreprise est confrontée à peu de limites dans son développement, explique Mimi Zou de l'Oxford Martin School, un institut de recherche. Comme l'explique Steven Rolf du Center for Research on Digital Futures at Work, un groupe de réflexion britannique, cela a pour effet de détourner le capital et la main-d'œuvre de choses comme les chatbots grand public et vers l'apprentissage automatique pour les entreprises. Le gouvernement semble parier que cela permettra à la Chine de rattraper et même de dépasser les États-Unis en matière d’IA sans avoir à gérer des contenus potentiellement subversifs générés par l’IA.
En mai, la ville méridionale de Shenzhen a annoncé le lancement d'un fonds d'investissement de 100 milliards de yuans (14 milliards de dollars) axé sur l'IA, le plus grand du genre au monde. Plusieurs municipalités ont lancé des fonds d'investissement similaires. Une grande partie de cet argent va à des entreprises comme Qi An Xin , qui propose une IA générative qui gère les risques de sécurité des données des entreprises. La société affirme que le robot peut effectuer le travail de 60 experts en sécurité, 24 heures sur 24. Avant d’être introduite en bourse en 2020, elle a reçu d’importants investissements de la part d’entreprises publiques, comme de nombreuses startups similaires.
Pour que cette stratégie fonctionne, les entreprises d’IA ont besoin du bon type de matières premières. Les chatbots grand public utilisent des modèles d’intelligence artificielle formés sur de vastes zones de l’Internet public. Les applications d'entreprise ont besoin de données d'entreprise, dont une grande partie est cachée au sein des entreprises. L’autre pilier de la stratégie chinoise est donc de transformer les données des entreprises en bien public . L’État ne veut pas être propriétaire des données mais, comme pour d’autres facteurs, contrôler les canaux par lesquels elles circulent.
Pour ce faire, le gouvernement favorise le partage de données. Son objectif est de permettre aux entreprises d'échanger des informations, conditionnées dans des produits standardisés, sur tous les domaines de la vie commerciale, depuis l'activité des usines individuelles jusqu'aux données de vente dans les magasins individuels. Les petites entreprises auront accès à des connaissances auparavant réservées aux géants de la technologie. Les banques et les courtiers obtiendront une image en temps réel de l’économie.
Les villes chinoises ont commencé à mettre en œuvre des échanges de données il y a une dizaine d’années. Il y en a désormais une cinquantaine en Chine. Et ils prennent enfin de la vitesse. Le Shanghai Data Exchange (SDE), lancé en 2021, a commencé à commercialiser une série de nouveaux produits de données. Dans l'une de ses premières transactions, la banque ICBC a acheté des informations auprès du secteur de l'énergie. Cela peut être utilisé pour évaluer la consommation énergétique des entreprises et, dans la mesure où cela reflète les niveaux d'activité réels, pour créer des profils de crédit alternatifs pour les entreprises. SDE vend des données satellitaires sur la production d’acier au cœur de la Chine et sur les violations environnementales commises par les sociétés minières. Un autre produit fournit des données en temps réel sur les médecins, les infirmières et les lits d'hôpitaux à travers le pays pour aider les entreprises médicales à prendre des décisions commerciales. La SDE expérimente également l’utilisation des données comme garantie pour les prêts.
À grande échelle, la datafication industrielle pourrait générer un élan économique significatif, estime Tom Nunlist de Trivium, un cabinet de conseil de Pékin. Et d’autres données pourraient bientôt arriver sur les échanges. En août, le gouvernement central a chargé les entreprises publiques de réfléchir à la manière de valoriser leurs données. Ces derniers mois, des équipes d'auditeurs ont tenté de trouver les moyens d'y parvenir, afin d'ajouter ces données aux bilans des entreprises en tant qu'actifs incorporels. Ils doivent soumettre leurs rapports avant le 1er janvier (même si ce délai semble susceptible d'être dépassé, compte tenu du caractère sans précédent de la tâche).
Cependant, l’engagement du gouvernement en faveur de l’IA d’entreprise ne va pas sans problèmes. L'industrie automobile est un bon exemple. En 2022, environ 185 millions de véhicules circulant sur les routes chinoises étaient connectés à Internet, et un plan national prévoit une production massive de voitures semi-autonomes d'ici 2025. Pour cela, les entreprises qui conçoivent des algorithmes de conduite autonome ont besoin de beaucoup de données avec ceux qui former leurs systèmes. Une société appelée WICV construit une plateforme pour les données qui commencent à sortir des voitures.
Pour l'instant, WICV renvoie les données d'une voiture au constructeur qui l'a construite, donc BYD obtient les données de BYD, Nio de Nios, etc. Mais il est prévu que les données soient éventuellement échangées sur des bourses, où elles pourraient être achetées par d'autres développeurs de systèmes de conduite autonome. Cependant, pour que cela se produise, les données de conduite doivent d'abord être « désensibilisées », explique Chu Wenfu , fondateur de WICV, en supprimant les détails biométriques et de géolocalisation qui pourraient aider les mauvais acteurs à suivre les mouvements de personnes spécifiques.
La possibilité d’une telle surveillance effraie les autorités chinoises. L'une des principales raisons pour lesquelles ils ont réprimé Didi Global quelques jours après l'introduction en bourse de la société de covoiturage à New York en 2021 était, comme cela est apparu plus tard, la crainte que les données sur les 25 millions de données de voyage quotidiennes de Didi, y compris les informations de géolocalisation liées aux passagers, pourrait tomber entre les mains des autorités américaines. Le gouvernement chinois cartographie de manière préventive de vastes zones du pays où la collecte de données pourrait constituer une menace pour la sécurité nationale.
De nombreux constructeurs automobiles, y compris des constructeurs occidentaux comme BMW, n'ont d'autre choix que de s'associer à des entreprises soutenues par l'État pour gérer les informations de conduite et garantir le respect des règles locales de conformité des données. Juste au cas où, certains constructeurs automobiles abandonnent certaines fonctionnalités, comme permettre aux conducteurs de voir des images en direct de l'intérieur et de l'extérieur de leur voiture sur leur téléphone. Après tout, certaines de ces images pourraient capturer par inadvertance quelque chose de sensible.
Il est peu probable que ces compromis entre innovation et sécurité se limitent aux automobiles. D’autres données industrielles et d’entreprise devront probablement également être désensibilisées avant de pouvoir être échangées à grande échelle sur les bourses. Cela ralentira le développement de l’IA d’entreprise , même si les algorithmes restent gratuits. C’est le prix que le parti semble prêt à payer pour sa paranoïa.
© 2023, Journal The Economist Limité. Tous droits réservés.