Sur les réseaux sociaux, des images générées par des outils d'intelligence artificielle se multiplient.
Emmanuel Macron assis sur des tas de débris, Donald Trump arrêté par la police... Le réalisme est en très net progrès.
De quoi faire craindre des campagnes de désinformation massives dans un futur proche.

Depuis plusieurs mois, l'intérêt pour l'intelligence artificielle et ses applications va croissant, grâce notamment à des programmes tels que ChatGPT. Si un tel outil est capable de répondre du tac au tac à des questions plus variées les unes que les autres, et fait craindre aux enseignants des tricheries massives des élèves, l'IA peut être employée pour de multiples usages.

La génération d'images en fait partie, popularisée par des logiciels tels que Dall-E ou Midjourney. Ce dernier, qui vient de mettre à disposition des utilisateurs sa 5e version, impressionne autant qu'il inquiète. À partir d'une simple phrase, il est en effet capable de générer des images au rendu très convaincant. Lorsque celles-ci incluent des personnalités publiques telles que des chefs d'États, les risques de manipulation de l'information deviennent rapidement majeurs.

Emmanuel Macron au cœur de multiples détournements

Accessible depuis le 15 mars, la dernière version de Midjourney a convaincu de multiples internautes, qui l'ont testé pour mesurer ses progrès. Le principe reste le même : rédiger un "prompt", terme qui désigne la phrase ou le groupe de mots que l'on souhaite voir représenté en images. Il est possible de solliciter un rendu final abstrait, ou au contraire d'opter pour un aspect photoréaliste. C'est ainsi qu'un Emmanuel Macron assis sur un tas de poubelles est apparu sur les réseaux sociaux, avec une Tour Eiffel en toile de fond. Une référence explicite à la grève des éboueurs, synonymes de rues jonchées de déchets dans plusieurs arrondissements de la capitale.

Capture Twitter

Aux États-Unis, les programmes de générations d'images basés sur l'intelligence artificielle se répandent, comme en témoignent les nombreux détournements qui mettent en scène l'ex-président Donald Trump. On le voit par exemple en ce début de semaine, entouré de policiers qui sont en train de l'arrêter.

Des observateurs soulignent que le rendu n'est "pas encore parfait", mais les progrès affichés en l'espace de quelques mois ont de quoi impressionner. Une même requête, effectuée à un an d'intervalle, donne en effet un résultat sans commune mesure aujourd'hui. Lorsque l'on zoome sur les clichés générés par l'IA, on constate bien souvent que des textures trahissent le caractère artificiel de ces créations, mais le rendu devient de plus en plus crédible. Comme en témoignent les images qui suivent, montrant Angela Merkel et Barack Obama s'adonner à des activités communes sur une plage. 

Si des images montrant Emmanuel Macron sont caricaturales, le montrant entre autres grimé tel un zombie, des choix graphiques plus réalistes peuvent parfois faire douter de la véracité de la prise de vue.

Sur les réseaux sociaux, ces progrès technologiques majeurs risquent d'entraîner une multiplication des fausses images, support particulièrement efficace pour la diffusion de fake news. "L'IA photo a fait des progrès démentiels en très peu de temps, désormais le fake sera la norme sur les réseaux, doutez de ce que vous voyez par défaut, plus le choix", glisse un internaute pessimiste. Il s'agit également d'un défi pour les médias, qui vont devoir redoubler de vigilance pour éviter de se laisser induire en erreur par des images créées de toutes pièces. Cela va "devenir le cauchemar du fact-checking", prédisent déjà des observateurs. On se souvient qu'il y a quelques semaines, à la suite des séismes qui avaient touché la Turquie, l'image d'un sauveteur grec générée par l'IA avait berné des utilisateurs de Twitter peu habitués aux prouesses de ces technologies innovantes. 

Vous souhaitez nous poser des questions ou nous soumettre une information qui ne vous paraît pas fiable ? N'hésitez pas à nous écrire à l'adresse lesverificateurs@tf1.fr. Retrouvez-nous également sous Twitter :  notre équipe y est présente derrière le compte @verif_TF1LCI.


Thomas DESZPOT

Tout
TF1 Info