Quelques semaines avant la publication de ses nouveaux mémoires, se souvient la journaliste technologique Kara Swisher , sa femme a remarqué quelque chose d'étrange en recherchant le livre sur Amazon . « Il m'a dit : 'C'est quoi cette photo de toi ? C'est bizarre", a déclaré Swisher .
Swisher a regardé l'écran et a vu un livre prétendant être une nouvelle biographie de lui, avec une image sur la couverture qu'il a immédiatement identifiée comme une contrefaçon générée par l'IA . Même si le livre promettait l'histoire de la vie de Swisher , l'auteur était quelqu'un dont je n'avais jamais entendu parler.
Un examen plus approfondi suggère que le livre lui-même pourrait être en grande partie ou entièrement généré par l'IA , substituant des détails ou des anecdotes réelles aux descriptions génériques de Swisher . Swisher se sentait irrité, mais n’y prêtait pas attention.
Mais lorsqu'elle a vérifié à nouveau sur Amazon cette semaine, elle a constaté que ses biographies clonées avaient proliféré , comme l'a rapporté pour la première fois le blog technologique 404 Media . Chacune avait un titre, un auteur légèrement différent et une fausse image d'elle sur la couverture. « Il y en avait des dizaines et des dizaines », dit Swisher . « Je n'arrêtais pas de penser : « Que se passe-t-il ici et pourquoi ne l'arrêtent-ils pas ? »
Swisher n'est que le dernier auteur à découvrir que vendre un nouveau livre sur Amazon de nos jours signifie souvent rivaliser pour attirer l'attention des lecteurs avec des contrefaçons qui portent des signes d'avoir été en grande partie ou entièrement générées par des outils d'intelligence artificielle . Près de dix mois après que le Washington Post a fait état de l'un des premiers exemples connus de ces imposteurs, les auteurs affirment que le problème semble s'aggraver.
« Il est de plus en plus facile de générer des livres avec l'IA , et nous en voyons de plus en plus », déclare Mary Rasenberger , directrice exécutive de la Authors Guild , une association d'auteurs. "Je pense que nous allons faire face à une explosion de livres générés par l'IA avant de pouvoir résoudre le problème."
La liste des auteurs concernés est longue et les escroqueries se multiplient. Certains prétendent faussement avoir été écrits par un véritable auteur, comme ce fut le cas avec cinq livres que l'analyste du secteur de l'édition Jane Friedman a trouvés sur Amazon à son nom en août dernier. Certains partagent le même titre qu’un véritable livre, comme le rédacteur technique Chris Cowell l’a souligné au Washington Post en mai dernier.
Certains utilisent le même nom de famille qu'un véritable auteur, mais changent de prénom, comme cela est récemment arrivé à l'écrivain de jazz Ted Gioia . Certains sont présentés comme des livres « complémentaires » ou des « cahiers d’exercices » qui sont de véritables best-sellers, comme l’a découvert l’animatrice de « Today » Savannah Guthrie en publiant son dernier livre.
D'autres sont des œuvres de fiction, comme les romans manifestement générés par l'IA qui ont inondé l'été dernier la liste des best-sellers d'Amazon dans la catégorie « Romance contemporaine pour adolescents et jeunes adultes ».
Bien qu'il soit difficile de prouver de manière définitive qu'un livre donné a été généré par l'IA , les imitations ont tendance à s'auto-publier via le service Kindle Direct Publishing d' Amazon . Ils portent souvent le nom d’auteurs inconnus, arborent des couvertures qui ressemblent aux résultats des outils d’imagerie de l’IA et apparaissent sur Amazon peu de temps avant la sortie du véritable livre qu’ils tentent d’exploiter. ( Jeff Bezos , fondateur d' Amazon , propriétaire du Washington Post.)
Amazon affirme prendre le problème au sérieux, a déjà pris des mesures pour le résoudre et travaille sur des mesures supplémentaires. La société n'interdit pas aux utilisateurs de vendre des livres générés par des outils d'IA sur sa plateforme. Mais il interdit les contenus qui portent atteinte à la propriété intellectuelle, ainsi que les livres dont les descriptions sont trompeuses ou dont le contenu est « généralement décevant » pour les clients.
" Notre objectif est d'offrir la meilleure expérience d'achat, de lecture et de publication possible ", a déclaré Lindsay Hamilton , porte-parole d'Amazon .
Amazon a tenté d'endiguer la vague d'auto-édition en la limitant à trois livres par jour et a commencé l'année dernière à exiger des auteurs de livres électroniques qu'ils divulguent à Amazon les œuvres générées par l'IA , bien que l'entreprise n'exige pas que ses clients le fassent. Selon Hamilton , la dernière mesure prise par l'entreprise pour limiter le spam a été de limiter la publication de « résumés » et de « cahiers d'exercices » censés accompagner de vrais livres écrits par des personnes.
Lorsque la presse fait état d'imitations de l'intelligence artificielle - ce qui est de plus en plus courant - Amazon supprime généralement les livres en question de son site Internet, et parfois d'autres également. Hamilton a déclaré que la société dispose également « d’un ensemble robuste de méthodes qui nous aident à détecter de manière proactive les contenus qui enfreignent nos directives, qu’ils soient générés par l’IA ou non », bien qu’il n’ait pas précisé quelles étaient ces méthodes.
Certains auteurs se demandent pourquoi une entreprise technologique aussi puissante semble avoir tant de difficulté à contrôler le problème.
Mercredi, une recherche du « livre de Kara Swisher » sur Amazon a renvoyé les mémoires de Swisher, « Burn Book », comme premier résultat. Mais les 16 résultats suivants concernaient des livres sur Swisher publiés par d'autres auteurs au cours des trois derniers mois.
La plupart partageaient certaines des caractéristiques communes des imitateurs de l'IA : auto-publiés, souvent de courte durée, sans aucun signe d'information ou de vision originale dans leur description ou dans les exemples de pages mises à disposition par Amazon .
Le deuxième livre de la liste, écrit par une certaine Cheryl D. Stackhouse et Brotherhood Press , s'intitulait « Kara Swisher Book ». L'exemple de texte alternait entre la description de Swisher à la troisième personne et l'écriture avec sa voix, et comprenait des citations dénuées de sens telles que : « Si vous n'êtes pas confiant, vous ne pouvez pas l'être. »
Swisher a déclaré que lorsqu'il a constaté la prolifération des contrefaçons, il a envoyé un e-mail au PDG d'Amazon , Andy Jassy , dont il a couvert l'entreprise à plusieurs reprises au fil des ans, pour se plaindre. Jeudi, bon nombre d'entre eux avaient été supprimés, notamment celui de Stackhouse . Swisher a apprécié la réponse, mais a noté que la plupart des auteurs n'ont pas ce type d'accès aux cadres supérieurs.
« Mon truc, c'était : 'D'accord, ils l'ont fait pour moi et ils cherchent mon livre, mais pourquoi ne le font-ils pas pour tout le monde ?' . (L'épouse de Swisher , Amanda Katz , est rédactrice d'opinion au Washington Post .)
On ne sait pas exactement dans quelle mesure Amazon enquête sur les utilisateurs derrière les livres qu'il supprime. Alors que le livre de Stackhouse sur Swisher a disparu jeudi, une recherche du nom de Stackhouse sur le site d' Amazon a révélé des dizaines d'autres livres encore en vente. La plupart étaient des biographies de personnages célèbres et toutes avaient été publiées au cours des derniers mois.
Les tentatives d'un journaliste du Post pour localiser et contacter un auteur portant ce nom ont échoué. Amazon a refusé de fournir des informations sur Stackhouse , invoquant la confidentialité des données de ses clients.
Souvent, les livres qui semblent être des contrefaçons de l’IA ont peu ou pas d’avis clients, ce qui indique qu’ils n’ont pas trompé un grand nombre de lecteurs. Mais l'auteur de l'un des livres de Swisher , Max Thorne , est également répertorié comme l'auteur d'un livre sur la meurtrière condamnée Gypsy Rose Blanchard qui compte 26 critiques, avec une moyenne de 2,2 étoiles.
Une critique le qualifie de « même pas un livre » et déplore : « Je veux récupérer mes 12 $ ! » Un autre dit : « C’est un vol ! » D'autres critiques sont intitulées : « Attention », « Gaspillage d'argent », « Décevant » et « Pas bon du tout ». Ce livre était également toujours disponible sur Amazon jeudi. Les tentatives visant à localiser la présence sur Internet d'un auteur nommé Max Thorne ont échoué.
Hamilton d' Amazon a déclaré que la société suspendait les comptes des éditeurs "lorsque des abus répétés le justifient". Il a ajouté que « le processus et les directives de l'entreprise continueront d'évoluer à mesure que nous verrons des changements dans la publication basée sur l'IA afin de garantir que nous maintenons la meilleure expérience possible pour les clients et les lecteurs ».
Friedman , un analyste du secteur de l'édition qui a vu de faux livres publiés sous son nom l'année dernière, affirme avoir depuis reçu des appels et des courriels d'autres auteurs ayant vécu des expériences similaires. Friedman comprend qu'Amazon ne veut probablement pas que ces livres soient sur son site Web, mais il se demande pourquoi l'une des plus grandes entreprises technologiques du monde n'a pas fait plus pour l'arrêter.
Rasenberger a déclaré que la Guilde des auteurs pousse Amazon à commencer à divulguer sur son site quels livres sont générés par l'IA et que l'entreprise a été « réceptive ». La guilde soutient également un projet de loi présenté l'année dernière au Congrès par le sénateur démocrate d'Hawaï Brian Schatz , qui obligerait les sociétés d'IA à inclure des marques sur le contenu produit par leurs outils pour l'identifier comme étant généré par l'IA .
Pendant ce temps, des livres d’imitation continuent de paraître. Jeudi, le journaliste Byron Tau a été alerté de l'existence d'un livre électronique sur Amazon prétendant être une biographie de lui lorsqu'un ami a recherché le nouveau livre de Tau , « Means of Control ».
La copie, intitulée « BYRON TAU BIOGRAPHY », ne comptait que 17 pages et un échantillon du texte contenait des erreurs factuelles flagrantes. Tau a déclaré avoir envoyé un e-mail au service de presse d' Amazon et que le titre avait été rapidement supprimé.
« J'espère qu'Amazon trouvera un moyen de mettre fin à cette pratique, car elle dévalorise le travail des personnes qui passent des années à rechercher et à écrire des livres », a déclaré Tau . " C'est juste un signe que les systèmes sur lesquels nous comptons tous sont si vulnérables à la gamification . "
(c) 2024, Le Washington Post