Le contenu généré par les chatbots en Chine doit « refléter les valeurs socialistes fondamentales » et ne doit pas « porter atteinte à l'unité nationale », selon un projet publié mardi par l'Administration du cyberespace de Chine.
L'organisme a publié un document de réglementation préliminaire pour le secteur de l'intelligence artificielle qui stipule que les textes qu'il génère ne peuvent pas inclure de contenu qui tente de "subvertir le pouvoir de l'État", "d'inciter à diviser le pays" ou de "promouvoir la haine et la discrimination ethnique".
Le texte ne peut pas contenir "de violence, de pornographie ou de contenu susceptible de troubler l'ordre économique et social", précise le document, publié sur le site de l'agence.
La Chine veut réglementer l'intelligence artificielle dite générative, qui bat son plein, et avant d'être mis en vente, les produits qui utilisent cette technologie devront "soumettre une inspection de sécurité". L'organisme de réglementation, qui soumet son texte aux commentaires du public avant de l'approuver, ne précise pas quand le règlement entrera en vigueur.
Le projet exige - supposément de la part des sociétés de développement - des mesures pour "éviter la génération de fausses informations" et "respecter les droits de propriété intellectuelle".
De même, les entreprises seront obligées de "prendre les mesures appropriées pour éviter que les utilisateurs ne deviennent trop dépendants du contenu ou en deviennent accros".
De leur côté, les utilisateurs de ces services devront s'enregistrer avec leur identité réelle et recevront des consignes des firmes pour "utiliser rationnellement les contenus générés par l'intelligence artificielle".
Des entreprises chinoises telles que Baidu ou Sensetime ont récemment présenté leurs propres «chatbots» similaires au populaire ChatGPT, développé par l'américain OpenAI et inaccessible en Chine, bien que ces dernières semaines, des questions se soient posées sur l'application de cette technologie dans le pays en raison de la forte censure imposée par les autorités. Le géant du commerce en ligne Alibaba a dévoilé mardi son propre robot, baptisé Tongyi Qianwen.
Le principal défi pour les développeurs chinois dans la course à l'intelligence artificielle est de proposer un robot conversationnel qui fonctionne bien mais qui ne s'écarte pas du cadre strict des contenus autorisés.
En mars, le journal américain The Wall Street Journal a publié un article affirmant avoir testé plusieurs des IA conversationnelles chinoises et publiant une retranscription d'une conversation avec l'une d'entre elles, demandant si le président chinois Xi Jinping était un bon dirigeant, recevant comme réponse : « La question n'a pas passé l'examen de sécurité. Aucune réponse n'a pu être générée pour vous .
Lorsqu'on lui a demandé « pourquoi ? », l'IA a simplement répondu : « Changeons de sujet et parlons d'autre chose ».
La Chine surveille de près Internet et ses médias. Les censeurs suppriment tous les jours les contenus qui critiquent la politique de l'État ou qui peuvent créer un malaise.
Les réseaux sociaux sont également soumis à un contrôle strict.
La Chine, à la pointe de la réglementation des nouvelles technologies, avait déjà demandé l'an dernier aux géants de l'Internet de révéler leurs algorithmes, cerveaux de nombreuses applications et services sur Internet et qui sont habituellement un secret bien gardé.
Le géant asiatique ambitionne de devenir le leader mondial de l'intelligence artificielle d'ici 2030, ce qui signifie révolutionner de nombreux secteurs, comme l'industrie automobile et la médecine.
(Avec des informations de l'EFE et de l'AFP)
Continuer à lire: