Jacob Coxon, ancien chercheur chez OpenAI et Anthropic, a affirmé qu'il y aurait déjà des espions chinois au sein de ces deux entreprises lors d'une interview dans le podcast PBD, animé par Patrick Bet-David.
Le 8 septembre, Coxon a démissionné d'Anthropic et a publié une série de tweets sur X accusant l'entreprise et OpenAI de pousser vers une superintelligence capable de s'améliorer elle-même sans agir avec responsabilité.
Lors de cette interview récente, l'ex-employé a encadré ses avertissements sur l'espionnage dans le contexte de la compétition technologique entre les États-Unis et la Chine. À son avis, la rapidité d'avancement du pays asiatique s'explique par le fait qu'il "copie et vole aux États-Unis".
Coxon a déclaré être "presque sûr" de l'existence d'infiltrés et a estimé son niveau de certitude à "90%". Selon lui, le sujet est discuté en interne, parfois sur un ton humoristique, bien qu'il ait insisté sur le fait qu'il s'agit d'une "question sérieuse".
Cependant, il a évité de citer des employés spécifiques et refusé de stigmatiser les personnes par leur nationalité chinoise. Lorsque Bet-David a mentionné Mark Chen, dirigeant d'OpenAI d'origine sino-américaine, Coxon a précisé qu'il ne le considère pas comme un espion. Il a également soutenu qu'il ne cherche pas à promouvoir une "chasse aux sorcières".
La solution de Coxon : davantage de contrôles du personnel
L'ancien membre d'OpenAI et Anthropic a manifesté que les développeurs de modèles avancés devraient renforcer la vérification du personnel, car les entreprises ne réalisent pas de vérifications des antécédents pour leurs employés concernant "une technologie qui pourrait être une superarme".
En référence, il a évoqué les restrictions réglementaires affectant les compagnies liées à des technologies sensibles, comme SpaceX, tout en reconnaissant ne pas être un spécialiste des procédures de sécurité et sans détailler quels mécanismes concrets devraient être appliqués.
Néanmoins, il a affirmé qu'une éventuelle interdiction pour les citoyens chinois "est un peu triste, car ce sont mes amis, mais je crois que cela va arriver. Je pense que c'est probablement le cas".
L'ex-chercheur a affirmé que freiner la course à l'IA aux États-Unis ralentirait également la Chine
L'ancien employé des deux laboratoires a argumenté qu'un fossé technologique entre les États-Unis et la Chine ne garantirait pas un avantage durable. "La Chine a la capacité de pirater à tout moment", a-t-il exprimé en expliquant pourquoi, selon lui, une avancée américaine pourrait être copiée.
À cet égard, il a fait référence à la "distillation", une technique par laquelle un système apprend à imiter les réponses d'un autre à partir de grands volumes de requêtes et de résultats. Coxon a assuré qu'une part significative des progrès chinois provient de cette méthode et de l'extraction de données depuis des modèles américains.
Pour Coxon, un ralentissement des laboratoires américains réduirait également, du moins en partie, le rythme du développement chinois. En conséquence, il a proposé de promouvoir un accord international « sur le pourcentage de ressources consacré à nous rendre plus intelligents par rapport à celui dédié à la recherche en sécurité ».
Coxon a alerté sur la concentration du pouvoir de l'intelligence artificielle
Dans cet échange, Coxon a remis en question la capacité des entreprises privées de prendre des décisions concernant des questions telles que le taux de chômage ou les affaires géopolitiques. Dans ce contexte, il a exprimé sa surprise face au fait que le président Donald Trump laisse « les clés » de cette technologie entre les mains de Dario Amodei, directeur général d'Anthropic, et de Sam Altman, directeur général d'OpenAI.
Il a par ailleurs précisé qu'il ne réclame pas nécessairement la nationalisation des compagnies. Cependant, il a soutenu que la question est si grave qu'il lui surprend que le gouvernement américain ne les nationalise pas.
L'interlocuteur a attribué ce risque aux incitations du libre marché : « Si nous laissons le libre marché décider dans les années à venir, nous courrons vers un précipice car chacun veille à son propre argent, à son propre pouvoir ».
À ce sujet, il a mis en garde contre le fait que cette dynamique peut privilégier l'avancement des capacités des modèles par rapport à la recherche en sécurité.
Finalement, Coxon a insisté sur le fait que le public « devrait garder les yeux ouverts et exiger de la transparence », car il est complètement absurde que tout ce pouvoir se concentre entre les mains de quelques entreprises de San Francisco ».