Depuis son lancement fin novembre, le chatbot ChatGPT impressionne par ses prouesses.Il est capable de formuler en quelques secondes des réponses détaillées sur un large éventail de sujets.Des capacités qui inquiètent les enseignants, dont certains demandent son interdiction à l'école.
Ce site a réponse à tout, peut répondre en quelques secondes et tenir une conversation avec vous gratuitement et dans presque toutes les langues. Le chatbot ChatGPT, lancé en novembre, est une petite révolution dans le milieu des nouvelles technologies. Cet outil, créé par la start-up américaine OpenAI, est une intelligence artificielle, une sorte de robot programmé et entraîné pour dialoguer de la façon la plus humaine possible.
Alors qu'il suscite la curiosité et la fascination des utilisateurs, ChatGPT inquiète dans l'Éducation nationale. Depuis sa création, il a poussé des élèves à tricher à des examens. Un lycéen, qui utilise l'outil pour faire certains devoirs à sa place, a accepté de témoigner anonymement. "La question de la dissertation était 'En quoi le héros est-il responsable de ses actes ?' Je lui ai tout demandé et j'ai eu 17. Je pense l'utiliser encore pour les devoirs qui me soûlent un peu, mais c'est vrai qu'il ne faut pas s'habituer à l'utiliser", explique-t-il dans le reportage du 20H de TF1 en tête de cet article.
Des erreurs et pas de sources
Le ministère de l'Éducation nationale dit surveiller la question de très près, d'autant que l'outil montre ses limites dès que le niveau d'exigence augmente. Un professeur de droit à l'université l'a testé sur des questions très précises. Et la sentence tombe : "Il se trompe. Je ne sais pas où il va chercher ses réponses, parce que c'est quand même une caractéristique de ce logiciel, c'est qu'il ne nous dit pas quelles sont ses sources, le capot est fermé et on ne peut pas savoir comment il travaille", s'inquiète Bruno Dondero, professeur de droit à la Sorbonne (Paris 1er).
Il faut dire que ChatGPT est un robot conversationnel qui a été "entraîné" grâce à des quantités phénoménales de données glanées sur Internet, mais qui ne "résonne" pas. Ainsi, il peut parfois produire un étonnant mélange de réponses correctes et d'erreurs factuelles ou logiques, plus ou moins difficiles à détecter. Par exemple, il lui arrive de citer le requin-baleine (un poisson) parmi les mammifères marins, de se tromper dans la taille des pays d'Amérique centrale, d'"oublier" certains événements historiques comme la bataille d'Amiens de 1870 ou d'inventer de toutes pièces des références bibliographiques.
La riposte s'organise
Face à l'utilisation croissante de ChatGPT par les collégiens, lycéens ou étudiants, certains enseignants en France se sont dits favorables à son interdiction dans le cadre scolaire. Une question qui se pose également dans de nombreux autres pays à travers le monde. En Australie, quelques semaines seulement après la mise à disposition de l'outil par OpenAI, huit universités ont annoncé modifier leurs examens et considérer que l'utilisation de l'intelligence artificielle par des étudiants s'apparentait à de la triche.
Plus récemment, face à la viralité de vidéos TikTok expliquant comment utiliser l'IA pour tricher, les écoles publiques de New York ont restreint l'accès à ChatGPT sur leurs réseaux et terminaux. L'outil "ne permet pas de développer des compétences de réflexion critique et de résolution de problèmes, qui sont essentielles à la réussite scolaire et à la réussite tout au long de la vie", tranche Jenna Lyle, la porte-parole du département éducation de la ville américaine, dans une déclaration à l'AFP.
Cet avis n'est toutefois pas partagé par l'ensemble du monde de l'enseignement. Certains voient en ChatGPT une opportunité d'intégrer une "innovation importante" dans les programmes, au même titre que "les calculatrices ou les éditeurs de texte". Antonio Casili, professeur à l'Institut Polytechnique de Paris et auteur de En attendant les robots, estime que l'IA peut même permettre d'exercer l'esprit critique des élèves. "C'est une opportunité pour nous de voir comment les étudiants réalisent des tâches qu'on leur confie, de les faire travailler sur le fact-checking, et de vérifier si les références bibliographiques générées sont correctes", analyse-t-il auprès de l'AFP.
D'autres pointent également l'effet contre-productif d'une interdiction, renforçant le désir des étudiants d'utiliser le logiciel, comme ce fut le cas avec l'apparition de Wikipédia ou des moteurs de recherches. Enfin, la riposte s'organise pour mieux détecter les textes générés par ChatGPT ou toute autre intelligence artificielle. Le service en ligne GPTZero prépare, par exemple, une offre dédiée aux professionnels de l'éducation et OpenAI travaille sur un "filigrane statistique" apposé lors de la génération de texte. Des outils qui devraient rendre plus compliqué la rédaction d'un devoir 100% intelligence artificielle.