Cet épisode n'est pas sans rappeler le bref blocage par Twitter d'un article du New York Post sur l'ordinateur portable de Hunter Biden en 2020, une décision qui a été rapidement capitalisée par des personnalités comme Ted Cruz , soulignant l'erreur comme un signe de parti pris sur les grandes plateformes. technologique.
Les commentaires ont été rapides, des observateurs du monde de la culture Internet tels que Max Read offrant des évaluations pointues sur la question. La question centrale semble se déplacer de « comment ou pourquoi cela s’est-il produit ? » à « qu'attendons-nous vraiment de nos chatbots ? » .
Pour Read, l'idée de s'appuyer sur une IA pour générer des comparaisons morales entre des personnages historiques est étrangère et peu pratique, soulignant la situation inhabituelle dans laquelle Gemini a refusé de positionner Adolf Hitler comme étant pire qu'Elon Musk .
Le cas Gemini est apparu comme un grand défi pour Google , considérant les attentes élevées placées sur cette technologie comme un pari sur l'avenir. Même si la plupart des personnes extérieures à l'écosystème de l'entreprise ne sont peut-être pas conscientes de ces revers, en interne, cela est perçu comme un revers considérable.
Même si nous nous habituons à l’idée que les chatbots ne peuvent pas être fiables à 100 % parce qu’ils « paniquent », il est différent de craindre qu’ils puissent se tromper intentionnellement en raison de la façon dont ils ont été conçus.
La discussion s’étend au-delà de la controverse et aborde des questions sur l’objectif réel et les applications futures de l’IA . S'ils sont excellents pour résumer des textes, ce qui représente un bouleversement économique important, d'autres applications imaginées, comme l'idée des chatbots devenant des « alliés » à vie qui comprennent profondément les utilisateurs, prédit l'investisseur et promoteur de l'IA Marc Andreessen , semblent encore loin. loin.
Face à ce scénario, il est peut-être temps de reprendre son souffle et de réévaluer ce que cette technologie peut et ne peut pas faire réellement. La situation des Gémeaux remet non seulement en question l’efficacité des algorithmes pour éviter les préjugés, mais invite également à une réflexion plus large sur le rôle et les attentes placées sur l’intelligence artificielle dans notre société.