La guerre des IA s’intensifie. Fin 2022, ChatGPT d’OpenAI a fait la Une de l’actualité pour nous avoir montré à quoi pourrait ressembler un nouveau moteur de recherche. ChatGPT (acronyme de « Generative Pre-trained Transformer ») est un chatbot capable de traiter des requêtes et de retourner des informations pertinentes pour répondre à des questions sur des faits historiques, des recettes, les dimensions d’une voiture et bien plus encore. En prime, ChatGPT vous permet de formuler les questions en langage naturel, vous n’avez ainsi pas à écrire de requêtes telles que « comment empêcher un chien de faire ses besoins partout reddit ». Les résultats sont renvoyés dans un champ de recherche avec lequel vous pouvez échanger des messages. Cela rend presque les recherches Google un peu primitives. Microsoft, l’éditeur de Bing et le principal investisseur d’OpenAI, n’y voit pas d’inconvénient.

ChatGPT, et la dernière version GPT-4, fournit des réponses approfondies — il peut même écrire votre code, écrire votre lettre de motivation et passer votre examen de droit. Il fournit aussi parfois des réponses totalement fausses. Il est inquiétant de voir à quel point ChatGPT présente des informations inexactes. Cela n’a pas empêché les rédactions de revoir le nombre de rédacteurs qu’elles embauchent ni les professeurs de se prononcer contre le chatbot. (Mais pas tous les professeurs. Certains acceptent le changement.)

L’excitation autour de l’intelligence artificielle est tout sauf artificielle. Du moins pour certaines personnes. Les professeurs universitaires ou les recruteurs ne sont pas très enthousiastes à l’idée de devoir faire le tri entre un language humain et celui d’un chatbot. Les experts de l’industrie ne sont guère enthousiastes à l’idée d’une éventuelle vague de désinformation. Ils ont signé une lettre ouverte qui met en garde contre le potentiel de l’IA à « inonder nos canaux d’information de propagande et de mensonge ». Les signataires estiment que de telles décisions ne doivent pas être déléguées à des leaders technologiques non élus. « Des questions comme celles-ci sont exactement ce que Mozilla cherche à résoudre avec l’initiative Responsible Computing Challenge, en veillant à ce que les programmes d’enseignement supérieur mettent l’accent sur l’impact politique et sociétal de la technologie. Mais aussi via Mozilla.ai, une startup dont la mission est de faciliter la création d’une IA open source et éthique.

Alors que nous entrons dans ce nouveau monde où même le message Snapchat d’un ami pourrait être écrit par l’IA, vous voudrez peut-être en savoir un peu plus sur les capacités et les limites des chatbots. Pouvez-vous repérer un paragraphe écrit par l’IA ? Pouvez-vous dire si votre collègue vous répond réellement et qu’il ne s’agit pas de ChatGPT ? Savez-vous comment repérer la désinformation dans les réponses d’un chatbot, car la version de Bing qui intègre ChatGPT fait incontestablement encore des erreurs, parfois ? Il n’est pas toujours possible de savoir si une IA a écrit un texte, mais vous pouvez parfois détecter le texte écrit par ChatGPT et d’autres bots en utilisant un outil de détection et en repérant des tournures bizarres. Lisez la suite pour savoir comment faire.

Comment détecter vous-même un texte rédigé par ChatGPT ?

Vous pouvez détecter un texte écrit par ChatGPT à l’aide d’outils en ligne tels que OpenAI API Key. Cet outil est fourni par OpenAI, la société qui a créé ChatGPT. Il convient de noter que l’application n’est pas parfaite. OpenAI indique que l’outil a besoin d’au moins 1 000 mots avant de pouvoir détecter un contenu généré par l’IA, si bien qu’un message SMS généré par l’IA peut passer entre les mailles du filet. En outre, même avec les 1 000 mots dont il a besoin, il n’est pas toujours précis à 100 % pour distinguer un texte généré par l’IA d’un texte rédigé par un humain. Un texte produit par l’IA et modifié par un humain peut également duper l’outil.

(Mise à jour : depuis juillet 2023, la nouvelle mise à jour de ChatGPT ne propose plus d’utiliser le classificateur d’IA qu’Open AI utilisait pour détecter le texte généré par l’IA et depuis début 2024, l’entreprise a même retiré son outil d’origine. La société affirme travailler sur de nouvelles méthodes plus efficaces de détection du texte et des éléments audio et vidéo générés par l’IA.)

L’outil d’OpenAI n’est peut-être pas parfait, mais il existe d’autres solutions dans le monde de la détection de texte ChatGPT. Le blog Medium Geek Culture répertorie d’autres solutions proposées par des personnes de Princeton et de Stanford. S’il est important de savoir si un texte a été écrit par un bot ou un humain, il peut être utile de le tester sur plusieurs outils. ChatGPT évolue rapidement, les résultats peuvent donc varier.

Détection de texte ChatGPT : les mises en garde

Il est important de souligner qu’aucune méthode de détection de texte généré par IA n’est infaillible, y compris les solutions utilisant les outils disponibles à ce jour. Jesse McCrosky, un data scientist de la Fondation Mozilla, met en garde contre les limites des outils de détection de texte générés par l’IA. « Les outils de détection seront toujours imparfaits, ce qui les rend presque inutiles pour la plupart des usages », a déclaré Jesse McCrosky. « On ne peut pas accuser un étudiant d’utiliser l’IA pour rédiger son essai en se basant sur les résultats d’un outil de détection dont on sait à priori qu’il a 10 % de chances de donner un faux positif. »

Selon Jesse McCrosky, il peut être impossible d’avoir un jour un véritable détecteur d’IA, car il sera toujours possible pour un logiciel d’écrire des textes « indétectables » ou de créer des textes avec l’intention spécifique d’échapper à ce type de détecteurs. Et puis il y a le fait que les outils d’IA dont nous disposons ne cessent de s’améliorer. « Il peut y avoir une sorte de « course aux armements » entre les détecteurs de texte ChatGPT et ceux qui échappent aux détecteurs, mais il n’existera jamais de situation où l’on puisse faire confiance aux détecteurs », explique Jesse McCrosky.

Comment détecter la désinformation dans ChatGPT ?

Ce n’est un secret pour personne que ChatGPT peut diffuser (et a diffusé) de la mésinformation et de la désinformation. Microsoft a beau utiliser des outils comme ceux de NewsGuard pour limiter les réponses trompeuses de son IA, le problème reste préoccupant. L’Institut Poynter propose des conseils que nous plébiscitons pour repérer la désinformation dans ChatGPT : 1) vérifier les modèles et les incohérences, 2) rechercher des signes d’erreur humaine et vérifier le contexte. Si une réponse ChatGPT répète plusieurs fois quelque chose, contient des erreurs bizarres qu’une personne ne ferait pas ou dit quelque chose qui n’a pas de sens dans votre contexte, il se peut que vous lisiez un contenu trompeur. Vérifiez les liens sources au bas des réponses ChatGPT et assurez-vous de faire vos propres recherches en dehors de ChatGPT. Voyez-le comme un point de départ et non comme la solution.

ChatGPT est amusant, mais attention

ChatGPT offre un aperçu intéressant dans un monde rempli de réponses de chatbots, mais il agit également comme un avertissement face aux inconvénients. À grande intelligence, grande responsabilité. Alors que Bing et ChatGPT (et Sydney ?) apprennent à devenir de meilleurs chatbots, nous, en tant qu’utilisateurs, devrons continuer à utiliser les outils de détection de rédaction par ChatGPT pour vérifier que les mots que nous voyons sont d’origine humaine et que les faits que nous partageons sont bien factuels.

ChatGPT a-t-il écrit ceci ? Voici comment le savoir

Rédigé par : Xavier Harding

Relu par : Ashley Boyd, Audrey Hingle, Carys Afoko, Innocent Nwani

Analyse référencement : Aslam Shaffraz