L'intelligence artificielle, et notamment ChatGPT qui fait le buzz du moment, inquiète (entre autres) les enseignants. En effet, nombre d'élèves commencent à rendre des devoirs générés par l'IA en les faisant passer pour leur propre travail.

ChatGPT a été développé par OpenAI. Et voilà que cette même société OpenAI vient de publier un classificateur, c'est-à-dire un outil d'intelligence artificielle, pour faire la distinction entre le texte écrit par un humain et le texte écrit par des IA de divers fournisseurs.

Voilà qui rappelle Coluche, quand il disait 'jusqu'où s'arrêteront-ils ?...' Bref voilà donc un outil pour ne pas se faire berner par l'IA. OpenAI précise que de bons classificateurs peuvent éclairer les atténuations des fausses allégations selon lesquelles le texte généré par l'IA a été écrit par un humain : par exemple, lancer des campagnes de désinformation automatisées, utiliser des outils d'IA pour la malhonnêteté académique, et positionner un chatbot IA comme un humain.

Seulement voilà, toujours selon OpenAI, le classificateur proposé n'est pas un bon classificateur... Notre classificateur n'est pas entièrement fiable [...] Notre classificateur identifie correctement 26 % du texte écrit par l'IA (vrais positifs) comme « probablement écrit par l'IA », tout en étiquetant incorrectement le texte écrit par l'homme comme écrit par l'IA indique OpenAI. L'IA serait-elle en plus mégalo en se croyant intelligente comme les humains ? :-) Il est encore précisé que le classificateur est très peu fiable sur les textes courts, d'une longueur inférieure à 1000 caractères. Ce classificateur ne doit pas être utilisé comme un outil de prise de décision principal, mais plutôt comme un complément à d'autres méthodes de détermination de la source d'un morceau de texte, indique encore OpenAI.