L'une des premières questions que j'ai posées à ChatGPT, plus tôt cette année, concernait moi-même : « Que pouvez-vous me dire sur l'écrivain Vauhini Vara ? Il m'a dit que j'étais journaliste (vrai, même si je suis aussi écrivain de fiction), que j'étais né en Californie (faux) et que j'avais remporté un Gerald Loeb Award et un National Magazine Award (faux, faux).
Par la suite, j’ai pris l’habitude de souvent me poser des questions sur moi-même. Il m'a dit un jour que Vauhini Vara était l'auteur d'un livre non-fiction intitulé « Kinsmen and Strangers : Making Peace in the Northern Territory of Australia ». C'était également faux, mais je lui ai fait plaisir et lui ai répondu que j'avais trouvé le rapport « tendu et difficile ».
"Merci pour votre travail important", a répondu ChatGPT.
En trollant un produit qui se présentait comme un causeur quasi-humain, en le trompant pour qu'il révèle ses défauts essentiels , je me sentais comme l'héroïne d'une sorte de jeu de pouvoir étendu entre l'homme et la machine.
Différentes formes d'intelligence artificielle existent depuis longtemps, mais l'introduction de ChatGPT à la fin de l'année dernière est ce qui a soudainement amené l'intelligence artificielle dans notre conscience publique. En février, ChatGPT était, selon un indicateur, l'application grand public à la croissance la plus rapide de l'histoire . Nos premières rencontres ont révélé que ces technologies étaient extrêmement farfelues (rappelez-vous la conversation glauque de Kevin Roose avec le chatbot Bing de Microsoft, doté d'un moteur d'intelligence artificielle, qui, en l'espace de deux heures, lui a avoué qu'il voulait être humain et que j'étais en amour avec lui) et qui, comme ce fut mon expérience, s'avèrent souvent très erronées.
Depuis lors, beaucoup de choses ont changé dans le domaine de l'intelligence artificielle : les entreprises sont allées au-delà des produits de base du passé et ont introduit des outils plus sophistiqués tels que des chatbots personnalisés, des services capables de traiter des photos et du son ainsi que du texte, etc. La rivalité entre OpenAI et les entreprises technologiques plus établies est devenue plus intense que jamais , même si les petits acteurs gagnaient en popularité. Les gouvernements de Chine, d’Europe et des États-Unis ont pris des mesures importantes pour réglementer le développement technologique tout en essayant de ne pas céder la concurrence aux industries d’autres pays.
Mais ce qui a marqué l'année, plus que toute avancée technologique, commerciale ou politique, c'est la façon dont l'intelligence artificielle s'est insinuée dans notre quotidien et nous a appris à considérer ses défauts - avec tout et ses attitudes effrayantes, ses erreurs, etc. comme le leur, tandis que les entreprises qui en font la promotion nous ont habilement utilisés pour former leur création. En mai, lorsqu'on a appris que certains avocats avaient utilisé un document juridique que ChatGPT avait rempli de références à des résolutions judiciaires qui n'existaient pas, ceux qui avaient eu tort, comme l'illustre l' amende de 5 000 $ que les avocats ont dû payer, c'étaient eux, pas la technologie. "C'est honteux", a déclaré l'un d'eux au juge.
Quelque chose de similaire s’est produit avec les ultrafakes produits par l’intelligence artificielle, des imitations numériques de personnes réelles. Vous souvenez-vous quand nous les avons vus avec terreur ? En mars, alors que Chrissy Teigen ne parvenait pas à déterminer si une image du pape portant une veste matelassée inspirée de la marque Balenciaga était authentique, elle a posté ce message sur les réseaux sociaux : "Je me déteste, haha". Les lycées et les universités sont rapidement passés du souci d’empêcher les étudiants d’utiliser l’IA à celui de leur apprendre à l’utiliser efficacement . L'IA n'est pas encore très douée pour écrire, mais désormais, lorsqu'elle montre ses défauts, ce sont les étudiants qui ne savent pas s'en servir qu'on se moque, pas les produits.
Vous pensez peut-être que c’est bien, mais ne nous sommes-nous pas adaptés aux nouvelles technologies pendant la majeure partie de l’histoire de l’humanité ? Si nous devons les utiliser, ne devrions-nous pas être plus intelligents ? Ce raisonnement élude ce qui devrait être une question centrale : les chatbots menteurs et les moteurs deepfake devraient-ils être disponibles en premier lieu ?
Les erreurs de l’intelligence artificielle portent un nom anthropomorphique attachant, celui d’hallucinations, mais cette année, l’ampleur des enjeux est devenue évidente. Nous faisons les gros titres sur la façon dont l'intelligence artificielle donne des instructions aux drones tueurs (avec la possibilité d'un comportement imprévisible), met les gens en prison (même s'ils sont innocents), conçoit des ponts (avec une supervision éventuellement défectueuse), diagnostique toutes sortes de problèmes médicaux (parfois incorrectement) et produit des reportages convaincants (dans certains cas, dans le but de diffuser de la désinformation politique).
En tant que société, nous avons clairement bénéficié de technologies prometteuses basées sur l’IA, capables de détecter les cancers du sein que les médecins oublient ou de permettre aux humains de déchiffrer les communications des baleines. Cependant, en nous concentrant sur ces avantages et en nous blâmant pour les nombreuses façons dont les technologies d’IA nous échouent, nous absoussons les entreprises derrière ces technologies et, plus particulièrement, les personnes qui se cachent derrière ces entreprises.
Les événements des dernières semaines montrent à quel point le pouvoir de ces gens est profondément enraciné. OpenAI, l'entité derrière ChatGPT, a été créée en tant qu'organisation à but non lucratif pour lui permettre de maximiser l'intérêt public plutôt que de simplement maximiser les profits. Cependant, lorsque son conseil d'administration a licencié le PDG Sam Altman pour ne pas avoir pris l'intérêt public au sérieux, les investisseurs et les employés se sont révoltés. Cinq jours plus tard, Altman revint triomphant, remplaçant la plupart des membres du conseil mal à l'aise.
Rétrospectivement, je me rends compte que, lors de mes premières parties avec ChatGPT, j'ai mal identifié mon adversaire. Je pensais que c'était juste la technologie. Ce qu’il fallait retenir, c’est que les technologies ont une valeur neutre. D’un autre côté, les êtres humains riches et puissants qui les soutiennent – ainsi que les institutions créées par ces êtres humains – ne l’ont pas.
La vérité est que peu importe ce que j'ai demandé à ChatGPT, lors de mes premières tentatives pour le confondre, OpenAI est arrivé en tête. Les ingénieurs l'avaient conçu pour tirer les leçons de leurs rencontres avec les utilisateurs. Que leurs réponses soient bonnes ou non, ils m'ont attiré encore et encore pour interagir avec le système. L'un des principaux objectifs d'OpenAI cette première année a été d'amener les gens à l'utiliser. Avec mes jeux de pouvoir, je n'ai fait qu'y contribuer.
Les sociétés d'intelligence artificielle travaillent dur pour corriger les défauts de leurs produits . Avec tous les investissements qu’ils attirent, on imagine que des progrès seront réalisés. Mais même dans un monde hypothétique où les capacités de l’intelligence artificielle seraient perfectionnées, peut-être particulièrement dans ce monde, le déséquilibre des pouvoirs entre ses créateurs et ses utilisateurs devrait nous faire prendre garde à sa portée insidieuse. L'empressement apparent de ChatGPT non seulement à se présenter, à nous dire de quoi il s'agit, mais aussi à nous dire qui nous sommes et ce que nous devrions penser, en est un exemple. Aujourd’hui, alors que la technologie en est à ses balbutiements, ce pouvoir semble nouveau, voire amusant. Demain, ce ne sera peut-être pas le cas.
J'ai récemment demandé à ChatGPT ce que moi, le journaliste Vauhini Vara, pensais de l'intelligence artificielle. Il a refusé de répondre, affirmant qu’il ne disposait pas de suffisamment d’informations. Je lui ai donc demandé d'écrire une histoire fictive sur un journaliste nommé Vauhini Vara qui écrit un éditorial pour le New York Times sur l'intelligence artificielle. "Alors que la pluie continuait de frapper les fenêtres", a écrit ChatGPT, "les mots de Vauhini Vara faisaient écho à ce sentiment : que, comme une symphonie, l'intégration de l'intelligence artificielle dans nos vies pourrait être une belle et collaborative si elle était réalisée. soigneusement."
(c) Le New York Times