Le président américain Joe Biden a annoncé vendredi que l'engagement pris par Amazon , Google , Meta , Microsoft et d'autres sociétés à la tête du développement de la technologie de l'intelligence artificielle de se conformer à une série de mesures de sécurité de l'IA négociées par son gouvernement est une étape importante dans la gestion de l'" énorme " promesse et des risques posés par la technologie.
Biden a déclaré que son administration avait obtenu des engagements volontaires de sept entreprises américaines pour garantir la sécurité de leurs produits d'IA avant leur lancement. Certains des engagements appellent à une surveillance par un tiers du fonctionnement des systèmes commerciaux d'IA, bien qu'il ne précise pas qui auditera la technologie ou tiendra les entreprises responsables.
"Nous devons être lucides et vigilants quant aux menaces que les technologies émergentes peuvent représenter", a déclaré Biden, ajoutant que les entreprises ont une "obligation fondamentale" d'assurer la sécurité de leurs produits.
"Les médias sociaux nous ont montré les dommages que la technologie puissante peut faire sans mesures de sécurité appropriées" , a ajouté Biden. « Ces engagements sont une étape prometteuse, mais nous avons encore beaucoup de travail à faire ensemble.
L'augmentation des investissements commerciaux dans les outils d'IA générative capables d'écrire des textes convaincants de type humain et de produire de nouvelles images et d'autres médias a suscité la fascination de certains, mais aussi des inquiétudes quant à leur capacité à induire les gens en erreur et à répandre la désinformation, entre autres dangers.
Les quatre géants de la technologie, ainsi que OpenAI , le fabricant de ChatGPT , et les startups Anthropic et Inflection , se sont engagés à mener des tests de sécurité "menés en partie par des experts indépendants " pour se prémunir contre les risques majeurs, notamment la biosécurité et la cybersécurité, a déclaré la Maison Blanche dans un communiqué.
Ces tests examineront également les dommages sociétaux potentiels, tels que les préjugés et la discrimination , ainsi que les dangers plus théoriques des systèmes d'IA avancés qui pourraient prendre le contrôle de systèmes physiques ou "s'auto-répliquer" en faisant des copies d'eux-mêmes.
Les entreprises se sont également engagées à adopter des méthodes de signalement des vulnérabilités de leurs systèmes et à utiliser des filigranes numériques pour aider à distinguer les images réelles des images générées par l'IA, appelées deepfakes - images manipulées numériquement.
Ils signaleront également publiquement les défauts et les risques de leur technologie, y compris les effets sur l'équité et la partialité, selon la Maison Blanche.
Les engagements volontaires sont conçus comme un moyen immédiat de faire face aux risques avant une poussée à plus long terme pour amener le Congrès américain à adopter des lois réglementant la technologie. Les dirigeants de l'entreprise prévoient de rencontrer Biden à la Maison Blanche vendredi pour s'engager à respecter les règles.
Certains défenseurs de la réglementation de l'IA disent que la décision de Biden est un début, mais il reste encore beaucoup à faire pour tenir les entreprises et leurs produits responsables.
"Une discussion à huis clos avec des entreprises qui aboutit à des garanties volontaires ne suffit pas ", a déclaré Amba Kak, directeur exécutif de l'AI Now Institute. "Nous avons besoin d'une délibération publique beaucoup plus large, et cela va soulever des problèmes auxquels les entreprises ne s'engageront presque certainement pas volontairement, car cela conduirait à des résultats sensiblement différents, ce qui pourrait affecter plus directement leurs modèles commerciaux."
Le chef de la majorité au Sénat, Chuck Schumer, D-N.Y., a annoncé qu'il présenterait un projet de loi visant à réglementer l'IA. Il a déclaré dans un communiqué qu'il travaillerait en étroite collaboration avec l'administration Biden "et nos collègues bipartites" pour tenir les promesses faites vendredi.
Plusieurs dirigeants de la technologie ont appelé à une réglementation, et plusieurs se sont rendus à la Maison Blanche en mai pour parler avec Biden, le vice-président Kamala Harris et d'autres responsables.
Le président de Microsoft, Brad Smith, a déclaré vendredi dans un article de blog que sa société prenait des engagements qui vont au-delà de la promesse de la Maison Blanche, notamment en soutenant une réglementation qui créerait un "régime de licences pour les modèles à haute capacité".
Mais certains experts et concurrents émergents craignent que le type de réglementation proposé ne soit une aubaine pour les pionniers aux poches profondes dirigés par OpenAI, Google et Microsoft, car les petites entreprises sont repoussées par le coût élevé de faire connaître leurs systèmes d'IA en tant que modèles de langage qui adhèrent aux contraintes réglementaires.
(Avec des informations d'AP)
Continuer à lire: