Car oui ChatGPT a des hallucinations. Qui peuvent servir de vecteurs pour des cyberattaques, ou dans le cas présent peuvent amener la société créatrice OpenAI devant les tribunaux.

A lire sur Gizmodo. Mark Walters, un animateur radio américain, a porté plainte contre OpenAI car ChatGPT a fourni à un journaliste, qui avait demandé un résumé de l'affaire The Second Amendment Foundation contre Robert Ferguson, une réponse déclarant que Walters détournait des fonds de The Second Amendment Foundation (SAF), une association de défense du port d’armes.

ChatGPT a identifié Walters comme le trésorier et directeur financier de SAF. Walters, selon ChatGPT, "a détourné des fonds pour des dépenses personnelles sans autorisation ni remboursement, a manipulé des dossiers financiers et des relevés bancaires pour dissimuler ses activités et n'a pas fourni de rapports financiers précis et opportuns".

Mais Walters prétend qu'il n'aurait pas pu détourner ces fonds parce qu'il n'est pas et n'a jamais été le trésorier ou le directeur financier de SAF. En fait, il ne travaille pas du tout pour la fondation. Une lecture attentive de la plainte SAF contre Ferguson ne montre aucun signe du nom de Walters dans ses 30 pages. Cette plainte n'a rien à voir avec les revendications comptables financières du tout. ChatGPT a halluciné le nom de Walters dans son récit d'un véritable document juridique, rapporte Gizmodo.

L'avocat de Walters a déposé une plainte en diffamation devant la Cour supérieure du comté de Gwinnett. la plainte dit en substance : "Chaque déclaration de fait dans le résumé concernant Walters est fausse".

Gizmodo s'est entretenu avec un expert juridique au sujet de cette plainte en diffamation contre OpenAI. Selon cet expert, la plainte de Walters représente probablement la première de ce qui pourrait être une litanie de poursuites judiciaires visant à poursuivre les sociétés d'intelligence artificielle en justice.