Images générées par Midjourney : cinq conseils pour ne plus se faire avoir

Les images frôlent la perfection, mais les failles persistent. Avec la version 5 de Midjourney, disponible depuis le 15 mars, les internautes ont pu produire une série de clichés qui sont venus infiltrer l'actualité. En moins de deux semaines, ils ont montré Donald Trump en prison, Emmanuel Macron face à des policiers, le pape François en doudoune ou Vladimir Poutine devant le tribunal de la Haye. Tout cela avec un réalisme tel qu'il en a trompé plus d'un. Plusieurs indices se cachaient pourtant dans ces créations. Nous vous donnons ici quelques conseils pour éviter de tomber dans le piège.

1. Vérifier le contexte

Comme pour chaque publication qui apparaît sur les réseaux sociaux, le premier réflexe consiste à remonter jusqu'à la source. Une recherche d'image inversée via Google peut ainsi conduire jusqu'au lieu de la première publication, notamment sur le forum en ligne Reddit. C'est dans l'une de ces discussions que plus de 150.000 membres partagent quotidiennement leurs créations sur Midjourney. Sur les réseaux sociaux, la description ou les commentaires qui accompagnent le cliché s'avèrent également utiles. Les internautes ont tendance à préciser qu'ils ont utilisé l'outil Midjourney et le hashtag #IA (pour intelligence artificielle) accompagne souvent ces œuvres numériques. À titre d'exemple, le journaliste à l'origine des 50 photos de la fausse arrestation de Donald Trump avait expliqué sur Twitter qu'il s'amusait à "créer" ces photos. 

2. Prêter attention à l'esthétique

Si aucun élément de contexte n'est indiqué, une première impression générale d'une image "trop belle pour être vraie" est un bon indicateur. Initialement développé à des fins artistiques, Midjourney réalise en effet des œuvres au grain peu réaliste car trop parfait. Cet aspect plastifié peut se retrouver sur les visages, les cheveux, mais aussi sur les vêtements, notamment quand ils sont de couleur unie, comme avec cette combinaison orange de Donald Trump. Au-delà d'une texture inhabituelle, c'est la perspective et les erreurs de proportion qui donnent une impression générale surréaliste. Idem pour les ombres, souvent très esthétiques sans pour autant être logiques.

3. Observer les mains

Le deuxième élément à scruter sont les mains. Si Midjourney a fait d'énormes progrès en la matière, cette partie du corps continue d'être l'un des points faibles de ce logiciel. Ainsi, sur l'image ci-dessous, la main droite d'Emmanuel Macron compte six doigts. L'IA en a représenté cinq en oubliant de prendre en compte le pouce, qui devrait être caché dans le poing fermé. L'outil ignore également la manière dont les doigts s'entrelacent ou dont ils tiennent un objet. 

Plus largement, il est crucial de vérifier la cohérence de l'ensemble du corps, dont l'outil peine à reproduire la symétrie. C'est notamment le cas pour les oreilles et les yeux. L'absence d'un reflet dans ces derniers est aussi un indice à prendre en compte.

4. Scruter tous les objets

Au-delà du corps, c'est l'ensemble des objets qu'il faut scruter. Car si Midjourney sait reproduire leur esthétique, il n'en saisit pas l'utilité. Résultat : il propose des formes complètement bizarres. Ce cliché du pape François en doudoune en est un parfait exemple. Création ultra-réaliste - et désormais virale -, elle possède plusieurs anomalies. Le souverain pontife arbore trois bagues, ce qui est anormal, et la croix qu'il porte autour du cou forme un zigzag gris. Rien à voir avec la représentation de Jésus crucifié. Enfin, ce qu'il tient à gauche est absolument étrange et ne rappelle aucun objet existant. 

D'autres objets peuvent aussi être absurdes par leur contexte. À titre d'exemple, sur une route, l'intelligence artificielle risque de se tromper dans les couleurs de la signalétique, d'afficher une flèche vers la gauche dans un virage à droite ou encore de mettre un miroir de sécurité dans un lieu totalement inapproprié. La photo ci-dessous en est une illustration.

5. Vérifier les textes

À l'instar des objets, Midjourney ignore le fonctionnement de l'écriture. Si le programme va copier une police ou une esthétique, les lettres n'auront aucune signification. L'enseigne McDonald's mondialement connue devient ainsi "Minonad". Les lettres "POLICE" estampillées sur les gilets des forces de l'ordre se transforme en "CLIOT". Au-delà des noms connus, les lettres sont parfois déformées, les textes n'ont aucun sens, et les noms d'enseignes sont surréalistes.

Enfin, une dernière solution en cas de doute se trouve dans l'outil Mayachitra, un détecteur de GAN, ou "Generative Adversarial Network", du nom de ces réseaux qui mettent en concurrence deux images pour générer la production la plus réaliste possible. C'est la technologie dont s'alimente Midjourney. Les résultats de ce site ne sont pas encore assez fiables pour être conclusifs, mais ils apportent des indices. 

En attendant la mise en place d'un outil de vérification crédible, ou d'un filigrane d'identification des images produites par l'IA, la vigilance est donc mise. Pour l'heure, seule une approche critique devant chaque image permet d'éviter les pièges. Vérifier la légende, zoomer sur l'image, scruter l'arrière-plan, faire attention aux détails. À l'ère de la désinformation, adopter la position du doute n'a jamais été aussi nécessaire. 

Vous souhaitez nous poser des questions ou nous soumettre une information qui ne vous paraît pas fiable ? N'hésitez pas à nous écrire à l'adresse lesverificateurs@tf1.fr. Retrouvez-nous également sur Twitter : notre équipe y est présente derrière le compte @verif_TF1LCI.