L'intelligence artificielle, ChatGPT en tête, fait beaucoup parler en ce moment, d'autant plus depuis que Microsoft a intégré ChatGPT à son moteur de recherche Bing. Nous vous avons déjà fait part de réponses ébouriffantes à certaines recherches et à des dérapages de ChatGPT. Voici un nouveau dérapage qui cette fois ne prête pas à rire.

C'est à lire sur le Washington Post. ChatGPT a inventé de toutes pièces un scandale de harcèlement sexuel. Dans le cadre d'une étude de recherche, un avocat de Californie a demandé au chatbot AI ChatGPT de générer une liste de juristes qui avaient harcelé sexuellement quelqu'un. Le nom de Jonathan Turley était sur la liste fournie par le Chabot.

Selon ChatGPT Turley avait fait des commentaires sexuellement suggestifs et tenté un attouchement sur un élève lors d'un voyage scolaire en Alaska. Cet élève ayant alors porté plainte pour harcèlement sexuel. Pour étayer l'information, ChatGPT a même cité un article de mars 2018 dans le Washington Post comme source d'information.

Seulement voilà... L'article dans le Washington Post n'a jamais existé. Quant à Jonathan Turley, il n'a jamais fair de voyages scolaires avec des étudiants ni n'est allé en Alaska avec un étudiant. Jonathan Turley détaille cette affaire dans un intéressant billet de blog.

 Pour le Washington Post cette exemple est un cas d'école. Notre confrère écrit : Les chatbots IA d'aujourd'hui fonctionnent en s'appuyant sur de vastes pools de contenu en ligne, souvent extraits de sources telles que Wikipedia et Reddit, pour assembler des réponses plausibles à presque toutes les questions. Ils sont formés pour identifier des modèles de mots et d'idées pour rester sur le sujet car ils génèrent des phrases, des paragraphes et même des essais entiers qui peuvent ressembler à du matériel publié en ligne. Ces robots peuvent éblouir lorsqu'ils produisent un sonnet d'actualité, expliquent un concept de physique avancé ou génèrent un plan de cours attrayant pour enseigner l'astronomie aux élèves de cinquième année. Mais ce n'est pas parce qu'ils sont bons pour prédire quels mots sont susceptibles d'apparaître ensemble que les phrases résultantes sont toujours vraies