La montée soudaine de ChatGPT a clairement montré que, bien qu'il s'agisse d'un outil très utile, il est toujours en cours de développement et, par conséquent, son contenu et ses réponses doivent être pris en compte.
Ce n'était pas le cas des avocats Steven Schwartz et de son associé Peter LoDuca, qui ont utilisé ce chatbot pour rédiger un document juridique mais ne se sont pas rendus compte que le texte contenait de fausses informations.
Les avocats ont demandé à l'application OpenAI de préparer un document de dix pages à présenter pour la défense de leur client, qui poursuit la compagnie aérienne Avianca après s'être blessé suite à un choc avec un chariot de service lors d'un vol en 2019.
Cependant, ce n'était qu'une question de temps jusqu'à ce que l'on découvre que le chatbot était à l'origine de ce texte et que les six précédents juridiques qui étaient évoqués à l'appui de ses arguments étaient inexistants .
Le juge Kevin Castel a infligé une amende de 5 000 USD aux avocats parce qu'ils ont "sciemment ignoré" les signes qu'ils traitaient de fausses affaires et ont même fait des déclarations "trompeuses" à la Cour , pour lesquelles il a estimé qu'ils avaient agi de mauvaise foi.
« La Cour fait face à une situation sans précédent. Un dépôt soumis par l'avocat du demandeur en opposition à une requête en rejet (de l'affaire) regorge de citations de cas inexistants », a-t-il déclaré.
De même, la phrase publiée ce vendredi indique que les deux professionnels "ont renoncé à leurs responsabilités lorsqu'ils ont présenté les avis juridiques inexistants accompagnés de fausses citations créées par l'outil artificiel ChatGPT et ont continué à entretenir ces faux avis après que des ordonnances judiciaires aient mis en doute son existenceâ € .
Le magistrat a toutefois souligné que "les avancées technologiques sont courantes et qu'il n'y a rien d'inapproprié en soi à utiliser un outil d'intelligence artificielle fiable pour fournir un soutien" mais, même ainsi, il est de la responsabilité des avocats d'exercer "la fonction de contrôle". garantir l'exactitude de leurs déclarations ».
Après avoir pris connaissance de la décision de la Cour, Schwartz a présenté un affidavit dans lequel il reconnaissait avoir utilisé le chatbot pour préparer le mémoire et reconnaissait, à son tour, que la seule vérification qu'il effectuait consistait à lui demander, à la fin de sa réponse, si tous les cas qu'il a cités sont réels.
Il a ensuite tenté de justifier son erreur en expliquant que c'était la première fois qu'il utilisait un outil d'intelligence artificielle de ce type et donc "qu'il n'était pas conscient de la possibilité que son contenu puisse être faux".
C'est pourquoi, bien que le cabinet ait assuré qu'il respecterait la décision, il a mentionné que « nous sommes respectueusement en désaccord avec la conclusion selon laquelle quelqu'un dans notre cabinet a agi de mauvaise foi. Nous avons déjà présenté nos excuses à la Cour et à notre client.
"Nous continuons de croire que, face à ce que même la Cour a reconnu comme une situation sans précédent, nous avons commis une erreur de bonne foi en ne croyant pas qu'une unité technologique puisse fabriquer des cas sans se fonder sur des faits ou la réalité", a-t-il ajouté. la défense continue. .
Finalement, Schwartz a acquitté son collègue LoDuca de ces actes mais le juge Castel n'a pas exclu sa culpabilité dans l'affaire, raison pour laquelle il pourrait également faire face à des sanctions.
(Avec les informations de l'EFE)
Continuer à lire: