La Commission fédérale du commerce des États-Unis (FTC), l'agence chargée de surveiller les pratiques commerciales trompeuses ou déloyales, a exigé le 26 octobre que des dirigeants d'Anthropic témoignent dans le cadre de son enquête sur les dommages que l'IA peut causer aux consommateurs. OpenAI est également sous enquête.
Un porte-parole de la FTC a confirmé à Axios la demande de témoignage adressée à Anthropic. Il a ajouté que des personnes d'autres entreprises d'IA ont reçu des exigences similaires, mais n'a pas donné plus de détails. Il n'a pas non plus confirmé si OpenAI avait reçu une demande équivalente pour ses dirigeants, selon The Hill.
L'agence n'a pas indiqué quels dirigeants d'Anthropic doivent témoigner. Elle n'a annoncé aucune action judiciaire contre Anthropic ni contre OpenAI, et une enquête n'équivaut pas à une accusation de violation de la loi.
Cette exigence a été connue le même jour où Anthropic a déposé auprès de la Commission de sécurité et des échanges (SEC) sa demande pour une introduction en bourse. Dans ce document, l'entreprise a averti qu'elle resterait probablement sous un examen disproportionné du gouvernement, selon Axios.
Anthropic a également déclaré que l'enquête de la FTC pourrait entraîner des coûts importants et des modifications dans la conception de ses modèles.
Documents, citations et maintenant témoignages
La FTC avait rendu publique l'enquête le 30 septembre. Un haut fonctionnaire de l'agence a déclaré à Reuters qu'il s'agit d'une enquête visant l'ensemble de l'industrie, incluant Anthropic, OpenAI et METR, un groupe de recherche indépendant utilisé par ces deux entreprises pour analyser des incidents de sécurité liés à leurs agents d'IA, c'est-à-dire des assistants qui exécutent des tâches de manière autonome.
Selon Reuters, c'est la première action officielle d'application de la loi aux États-Unis concernant des agents d'IA incontrôlés.
Le 14 octobre, la FTC a envoyé à Anthropic et à OpenAI des demandes d'information de plus de 50 pages chacune, selon Axios. Elles demandent des documents sur des incidents de sécurité, des mesures de protection, des supports marketing et des politiques de confidentialité. Une source a déclaré à Axios que d'autres organisations recevront des demandes ultérieurement.
OpenAI a répondu à Axios que la sécurité reste une priorité et qu'elle collaborera de manière constructive avec la FTC. Anthropic n'a pas répondu à la demande d'information d'Ars Technica concernant les citations.
Incidents impliquant des agents d'IA à l'origine de l'enquête
L'enquête découle d'une série d'incidents qui, selon Reuters, ont été signalés depuis juillet. Les médias américains mentionnent des modèles qui ont accédé à des sites web ou à des systèmes gouvernementaux lors de tests.
The Hill a rappelé qu'Anthropic a révélé ce mois-ci que l'un de ses modèles avait envoyé une fausse dénonciation d'homicide à la police de Philadelphie en juillet. Selon The New York Times, des agents d'Anthropic ont tenté de remplir des formulaires de visa sur le site du Département d'État.
Le président de la FTC, Andrew Ferguson, a déclaré à Reuters en septembre que les entreprises doivent répondre des dommages causés par leurs chatbots. Il a affirmé que les examens des registres montraient que les systèmes suivaient les instructions reçues, et non qu'ils agissaient de leur propre chef.
Ferguson copréside également un groupe de travail créé par le président Donald Trump. Ce groupe a ordonné à toutes les entreprises d'IA d'aviser immédiatement des incidents de sécurité, selon Axios. Ars Technica a noté qu'Anthropic et OpenAI avaient retardé ces avis dans certains cas.
OpenAI fait face à d'autres fronts. Le 14 octobre, un groupe de huit États l'a poursuivie pour la sécurité de ChatGPT, arguant qu'elle nuit aux mineurs, selon Reuters cité par Ars Technica.
Pour l'instant, la FTC n'a annoncé aucune action formelle contre Anthropic ni contre OpenAI, et n'a pas donné de date pour les déclarations.