Mauvaise nouvelle pour les tricheurs : cette société a mis au point une IA qui repère ChatGPT "avec 90% de fiabilité"

Il est ultra-rapide, polyglotte, a une excellente plume, des connaissances illimitées et travaille, gratuitement, à votre place. Rien d'étonnant, avec de telles compétences, à ce que ce programme informatique soit devenu, en quelques mois à peine, l'outil de triche par excellence des élèves un peu flemmards. 

Développé par l'entreprise californienne OpenAI, le robot conversationnel ChatGPT est devenu le cauchemar des professeurs, un grand nombre d'étudiants utilisant ce programme pour rédiger leurs devoirs non surveillés, sans fournir le moindre effort.

Mais la riposte s'organise. En France, la startup savoyarde Compilatio, spécialiste des outils anti-plagiat pour l'enseignement, planche actuellement sur un nouveau logiciel capable de détecter, de manière fiable, la signature de ChatGPT dans un devoir ou n'importe quel texte. La rédaction de TF1info a contacté le président et fondateur de Compilatio, Frédéric Agnès, pour en savoir plus. 

TF1info: ChatGTP est devenu, en quelques mois, le meilleur ami des étudiants un peu flemmards. Pourquoi est-il si difficile de distinguer si le devoir est écrit de la main d'un élève ou par une intelligence artificielle générative ?

Frédéric Agnès : Aujourd'hui, la forme de triche la plus facile et la moins coûteuse en effort, ce n'est plus d'aller copier-coller du texte sur internet. Dorénavant, il suffit de poser la question à ChatGPT. Et, sachant qu'il fait plutôt bien le travail et qu'en plus l'outil est gratuit, les étudiants s'en sont rapidement emparés. Le phénomène a rapidement pris de l'ampleur. Personne n'avait anticipé le déploiement de cette technologie, et par conséquent, les enseignants se sont retrouvés totalement démunis.

Auparavant, pour repérer d'éventuelles fraudes, les professeurs pouvaient, éventuellement, repérer des similitudes ou des différences dans le style. Mais ces outils sont devenus tellement performants que l'humain n'est plus en mesure de repérer les signaux. Actuellement, les professeurs ne peuvent s'en remettre qu'à leur connaissance du niveau des élèves. C'est la raison pour laquelle on nous a demandé de mettre au point un outil performant capable de distinguer si un texte a été écrit de la main d'un élève ou par une intelligence artificielle générative, comme ChatGPT. 

Vous travaillez en ce moment sur un outil révolutionnaire qui pourra détecter si un texte porte la signature de ChatGTP. Lui aussi utilise les technologies d’IA. Pouvez-vous en dire un peu plus sur son fonctionnement ? 

Frédéric Agnès : Nous avons développé une technologie qui utilise les technologies d'intelligence artificielle. Pour cela, on s'appuie sur une technique qui s'appelle le "deep learning" (qui se traduit en français par "apprentissage profond" ou "apprentissage par renforcement"). Pour faire simple, cela consiste à ne pas dire à la machine quelle est la réponse correcte, elle doit la trouver d’elle-même, grâce à un système de récompenses et de punitions (le scénario est similaire à l’entraînement d’un animal de cirque à qui l’on donne une friandise lorsqu’il exécute l’action désirée, ndlr). 

Concrètement, l'outil va fouiller dans le texte pour repérer les passages qui sont porteurs d'un signal, invisible à l'oeil humain, mais détectable par une machine, qui montre que le texte a été rédigée par une intelligence artificielle. Le logiciel est capable de comprendre la plupart des langues, du français à l'anglais, en passant l'allemand, l'espagnol, l'italien etc. Lors des tests, notre outil affichait un niveau de fiabilité de l'ordre de 90%, ce qui est très élevé. La difficulté avec ce type d'outil, c'est qu'on sait qu'il fonctionne, mais pas forcément comment la machine procède exactement. Néanmoins, il semble que les textes qui sont produits par ces systèmes d'IA génératives sont statistiquement prévisibles et notre système d'IA, grâce à l'entraînement qu'il a reçu, parvient à mesurer cela.

Des universités vous ont certainement déjà fait part de leur intérêt. Quand pensez-vous que votre outil de détection sera disponible ?

Frédéric Agnès : Aujourd'hui, ce que nous mettons en place avec les universités, c'est un processus où les élèves viennent déposer leurs devoirs sur les plateformes d'échanges avec leurs enseignants et l'outil analysera automatiquement chaque copie en indiquant les fraudes éventuelles au professeur. L'objectif, ce n'est pas forcément d'attraper tous les tricheurs, mais plutôt de créer un environnement hostile où les étudiants se disent : le jeu n'en vaut pas la chandelle, il vaut mieux opter pour un travail authentique. Si tout va bien, notre outil sera disponible pour la rentrée prochaine. Nous avons mis en ligne un démonstrateur sur notre site internet qui permet de comprendre l'outil fonctionnera.

Dans quels autres domaines votre technologie pourrait-elle être utilisée ?

Frédéric Agnès : Notre travaillons principalement avec l'enseignement supérieur, des écoles et des universités, dans plus de quarante pays à travers le monde. Des entreprises spécialisées dans la publication de contenus font aussi appel à nos services. On ne le sait pas forcément, mais il y a une grosse pression sur les chercheurs pour maximiser leurs publications. On les évalue sur ce critère et c'est comme ça qu'ils obtiennent des crédits. Et forcément, ça pousse au crime. Certains tentent de republier leurs travaux ou s'inspirent très largement de ceux d'un confrère. Ensuite, il y a aussi tout le secteur de l'expertise, comme les cabinets d'audit. Pour eux, c'est leur crédibilité qui est en jeu.