L' Union européenne est parvenue à un accord provisoire pour la création de la première loi sur l'intelligence artificielle (loi sur l'IA) , qui vise à créer un précédent pour réglementer cette technologie au niveau international.
Le nouveau cadre juridique établira des obligations pour les systèmes d'IA à fort impact et définira des sanctions pouvant atteindre 35 millions d'euros.
Au sein de la réglementation, se distinguent les exigences de transparence dans les systèmes d'IA, notamment la nécessité de présenter des documents techniques et des résumés détaillés sur les données utilisées dans la formation desdits systèmes.
À ce jour, des entreprises comme OpenAI , créateur du populaire modèle d'IA générative, ChatGPT , n'ont pas réussi à répondre à ces demandes.
En outre, le droit aux plaintes et aux explications des citoyens concernant les décisions prises par les systèmes d'intelligence artificielle à haut risque sera garanti.
Et même si un accord final devrait être trouvé avant la fin de l'année, il est prévu que la loi n'entrera en vigueur qu'au moins avant 2025 .
Le premier projet de loi européenne sur l'IA a été présenté en 2021 et a depuis subi d'importantes révisions à la lumière des progrès rapides de technologies telles que Bard et Stable Diffusion .
Et après deux ans de discussions, ce sont là les points les plus importants de l'accord provisoire conclu par le bloc communautaire.
Séparer par « risques »
L’une des clés de la nouvelle législation est qu’elle classe l’IA en fonction du risque qu’elle représente. La Commission européenne parle même de quatre niveaux , allant du plus bas au plus inabordable.
La majorité des modèles actuels relèveront du premier, celui du « risque minimal » , un package qui inclut par exemple des systèmes de recommandation. Dans ces cas-là, ils « bénéficieront d’un laissez-passer gratuit et de l’absence d’obligations ».
Lorsque l’intelligence artificielle est considérée comme « à haut risque », comme celles liées aux infrastructures critiques, comme les installations d’eau, de gaz et d’électricité ou les dispositifs médicaux, la technologie doit répondre à des « exigences strictes ».
Cela comprend des systèmes d'atténuation des risques, un registre d'activités, une supervision et la fourniture d'informations claires, entre autres mesures.
Il y aurait deux niveaux supplémentaires : celui de la « transparence spécifique » , qui établit que dans le cas des chatbots, les utilisateurs doivent être conscients qu'ils interagissent avec une machine ; et « risque inacceptable », une catégorie qui inclurait les IA qui « manipulent le comportement humain pour contourner le libre arbitre des utilisateurs ». Pour ces deux cas, la Commission parle d'interdiction.
Applications interdites
Certaines applications technologiques ont été identifiées et interdites parce qu'elles étaient considérées comme une menace potentielle pour les droits individuels et la sécurité démocratique .
Les restrictions se concentrent principalement sur les systèmes qui utilisent une catégorisation biométrique basée sur des caractéristiques sensibles , telles que la race, l'orientation sexuelle ou les croyances religieuses.
La constitution de bases de données de visages à partir d’images obtenues sur Internet ou par des caméras de vidéosurveillance sans finalité précise sera également interdite, tout comme la création de systèmes de notation sociale .
Ces interdictions sont encadrées dans une réglementation plus vaste qui vise également à promouvoir l’innovation technologique et établit des exigences particulières pour les systèmes d’intelligence artificielle (IA) à haut risque .
Et pour garantir un respect correct, des sanctions importantes seront imposées aux entreprises qui ne respectent pas la réglementation, notamment des amendes allant de 7,5 millions d'euros à 1,5 % de leur chiffre d'affaires annuel .
Par ailleurs, celles-ci pourraient monter jusqu'à 35 millions d'euros ou 7% du volume d'affaires , selon la gravité du manquement et la taille de l'entité sanctionnée.
Limites des activités de surveillance
Après d'intenses négociations, un consensus a été atteint pour limiter l'utilisation de systèmes d'identification biométrique dans les espaces publics par les autorités policières.
Des garanties spécifiques et une autorisation judiciaire ont été établies pour l'utilisation de technologies telles que la reconnaissance faciale , autorisant leur utilisation uniquement dans des conditions définies et pour des délits graves.
Tandis que l'application de ces systèmes « en temps réel » sera également contrôlée, limitée temporellement et géographiquement, et orientée exclusivement vers l'identification des victimes, la prévention des menaces terroristes , traite des êtres humains, homicides ou agressions sexuelles.
Cet accord est présenté comme une solution intermédiaire aux préoccupations concernant l'utilisation potentielle excessive de ces outils de surveillance, qui ont généré un débat sur les droits des citoyens et la vie privée.
IA à usage général
Le Parlement européen mettra en œuvre des réglementations plus strictes pour réglementer les modèles d’IA à usage général (GPAI), tels que les modèles génératifs de type ChatGPT .
Ces nouvelles règles , visant à accroître la transparence et la sécurité de son utilisation, comprendront l'exécution d'évaluations rigoureuses et le suivi des incidents pouvant survenir.
Plus précisément, les modèles GPAI qui ont un « impact élevé » et répondent à certains critères devront être soumis à une série de tests de résistance et d'évaluations des risques , notamment des rapports d'événements critiques, une cybersécurité renforcée et une transparence sur l' efficacité énergétique desdits systèmes.
Droit d'auteur
La réglementation autour des droits d'auteur liés à l'intelligence artificielle (IA) a également été renforcée, exigeant la transparence dans les systèmes d'IA avec la génération prédictive avancée d'informations (GPAI).
Parmi les détails requis par la nouvelle réglementation figurent la création d' une documentation technique détaillée, le respect de la législation européenne en vigueur sur le droit d'auteur et la publication de résumés explicatifs du contenu utilisé pour entraîner l'IA.
Par ailleurs, ces dispositions visent à permettre aux créateurs et ayants droit de suivre l'usage qui est fait de leurs œuvres et ainsi garantir le respect de leurs droits dans des environnements numériques de plus en plus dépendants de l'automatisation et de l'IA .
La documentation technique doit inclure des informations détaillées sur les matériaux utilisés pour la formation des algorithmes, ainsi que sur les méthodologies appliquées.
Quelle est la prochaine étape pour l'approbation finale de la loi
Les réglementations doivent encore être confirmées par les 27 États membres de l’UE et le Parlement européen et devraient entrer en vigueur en 2025, même si certaines sections s’appliqueront plus tôt.
Alors que le président du La Commission, Ursula von der Leyen , a qualifié la mesure de législation pionnière et le commissaire au marché intérieur, Thierry Breton , a assuré qu'il s'agissait d'un tremplin pour l'innovation européenne en matière d'IA.