OpenAI devrait fournir des documents prouvant qu'elle ne fait pas taire les employés qui souhaitent partager des préoccupations avec les régulateurs fédéraux sur la manière dont la société de l'intelligence artificielle développe ses outils, a exigé un haut républicain du Sénat dans une lettre jeudi, montrant la pression bipartite croissante contre OpenAI pour qu'elle détaille les mesures qu'elle prend pour s'assurer que son IA se développe de manière sécurisée.
La lettre, obtenue en exclusivité par The Washington Post, a été écrite par le sénateur Chuck Grassley (républicain de l'Iowa) et demande au directeur général d'OpenAI, Sam Altman, de décrire les changements apportés à ses accords avec les employés pour garantir que ceux qui souhaitent exprimer des préoccupations concernant OpenAI aux régulateurs fédéraux puissent le faire sans subir de sanctions. La lettre intervient après les avertissements d'employés selon lesquels OpenAI s'est précipitée pour effectuer des tests de sécurité de son dernier modèle d'IA, comme cela a été détaillé dans The Post le mois dernier.
La lettre de Grassley arrive quelques jours seulement après que cinq sénateurs (quatre démocrates et un indépendant) ont envoyé une lettre à Altman exigeant des informations sur la manière dont l'entreprise honorerait ses « engagements publics » pour garantir que sa technologie d'intelligence artificielle ne cause pas de dommages, comme enseigner aux utilisateurs à construire des armes biologiques ou aider les pirates informatiques à développer de nouveaux types de cyberattaques.
Elle intervient également au milieu des préoccupations des employés selon lesquelles OpenAI privilégie les profits avant la sécurité lors de la création de sa technologie. La lettre de Grassley cite le rapport de juillet de The Post qui détaille comment OpenAI s'est précipitée pour lancer son dernier modèle d'IA, GPT-4 Omni, afin de respecter une date de lancement en mai. Les dirigeants de l'entreprise ont poursuivi le lancement malgré les préoccupations des employés concernant le calendrier, et ont accéléré les tests de sécurité complets, sapant une promesse de sécurité faite à la Maison Blanche en juillet 2023. « Nous ne lésinons pas sur notre processus de sécurité, même si nous reconnaissons que le lancement a été stressant pour nos équipes », a déclaré la porte-parole d'OpenAI, Liz Bourgeois, dans une déclaration antérieure à The Post.
La lettre de Grassley s'ajoute également à la controverse à laquelle OpenAI est confrontée concernant la question de savoir si elle fait taire ses employés pour qu'ils ne partagent pas leurs préoccupations avec les autorités fédérales. Dans une lettre de juillet adressée à la Commission des valeurs mobilières, des dénonciateurs d'OpenAI ont déclaré qu'ils avaient déposé une plainte auprès de l'agence, alléguant que l'entreprise avait émis illégalement des accords restrictifs d'indemnisation pour licenciement, de confidentialité et d'emploi, ce qui pourrait pénaliser les travailleurs souhaitant exprimer des préoccupations aux régulateurs fédéraux. Hannah Wong, porte-parole d'OpenAI, a déclaré dans une déclaration en juillet que l'entreprise a « apporté d'importants changements à notre processus de sortie pour supprimer les clauses de non-dénigrement ».
« La politique de dénonciation d’irrégularités d’OpenAI protège les droits des employés à signaler des problèmes, même à toute agence gouvernementale nationale, fédérale, étatique ou locale », a déclaré Bourgeois en réponse à la lettre de Grassley. « Nous avons annulé les clauses de non-dénigrement pour tous les employés actuels et anciens en mai et depuis, nous avons mis à jour nos documents en conséquence ».
Les avancées rapides de l'intelligence artificielle ont aiguisé les préoccupations des responsables politiques concernant le pouvoir de l'industrie technologique, entraînant une avalanche d'appels à la réglementation. Aux États-Unis, les entreprises d'IA opèrent en grande partie dans un vide juridique, et les responsables politiques affirment qu'ils ne peuvent pas créer efficacement de nouvelles politiques d'IA sans l'aide de dénonciateurs, qui peuvent aider à expliquer les menaces potentielles posées par cette technologie en rapide évolution.
Grassley a déclaré qu'« il est crucial qu'OpenAI garantisse que ses employés puissent fournir des divulgations protégées sans restrictions illégales », ajoutant que son personnel avait parlé avec les employés d'OpenAI à deux reprises en juillet pour demander des renseignements sur leurs accords avec les employés. Clare Slattery, porte-parole de Grassley, a déclaré que le personnel du sénateur avait demandé plusieurs documents concernant les accords de travail passés et présents de l'entreprise, mais qu'OpenAI ne les avait pas encore fournis.
Grassley a également cité le rapport de The Post de juillet, où un représentant d'OpenAI a déclaré avoir « réduit » ses tests de sécurité de GPT-4 Omni à une semaine, comme preuve de pourquoi les employés doivent pouvoir exprimer librement leurs préoccupations aux régulateurs fédéraux. « Selon l'article, cet incident a poussé plusieurs employés actuels et anciens d'OpenAI à se manifester », a déclaré Grassley, ajoutant que « cela a mis en évidence les dommages causés par les accords de confidentialité restrictifs dans le secteur de l'IA, spécifiquement chez OpenAI ».
Dans une déclaration publiée sur X jeudi, Altman a déclaré que « nous voulons que les employés actuels et anciens puissent exprimer leurs préoccupations et se sentent à l'aise de le faire ». Il a déclaré qu'en mai, l'entreprise a « annulé les clauses de non-dénigrement pour les employés actuels et anciens et les dispositions qui donnaient à OpenAI le droit (bien que jamais utilisé) d'annuler le capital acquis » pour les anciens employés exprimant des préoccupations sur l'entreprise ou parlant de leur expérience.
Le mercredi 31 juillet, OpenAI a également répondu aux cinq sénateurs, dirigés par le sénateur Brian Schatz (démocrate de Hawaï), qui ont demandé des détails sur les efforts de l'entreprise pour protéger sa technologie. Dans sa lettre de réponse, l'entreprise a déclaré qu'elle avait consulté plus de 100 experts externes pour évaluer les risques de GPT-4 Omni.
OpenAI doit détailler combien de fois les employés lui ont demandé de soumettre leurs préoccupations aux autorités fédérales, selon la lettre de Grassley, et identifier si l'entreprise fait l'objet d'une enquête de la part de la Commission des valeurs mobilières. L'entreprise a jusqu'au 15 août pour répondre.