Racisme et insultes : l'intelligence artificielle de Microsoft dérape sur Twitter

Tay est le nom de la dernière création de Microsoft. Ce "chatbot" (comprenez, un robot de discussion) est le fruit du travail des divisions Recherche et développement du moteur de recherche Bing. Son intelligence artificielle lui permet en effet de tenir une conversation (en anglais) avec n’importe quel être humain. Au risque de déraper.

A la différence d’un "bot" classique, qui recrache des phrases automatiques, Tay ne se contente plus d’imiter l’homme : le robot est capable d’approfondir par lui-même ses connaissances. Pour en faire la démonstration, Microsoft a décidé de lâcher sa machine sur les réseaux sociaux afin qu’elle puisse échanger avec des adolescents.

Plus concrètement, le robot de Microsoft commente des photos, en utilisant des expressions de "jeun’s" et la répartie d’une Américaine de 19 ans. Avant "d’aller dormir", Tay avait publié ce mercredi soir près de 100.000 tweets. La majorité des messages, soyons honnêtes, étaient d’une banalité sans nom. Avant que la machine ne subisse un bizutage des internautes.

Manipulé par des internautes, le robot  Tay de Microsoft part totalement en vrille

Microsoft a pu avoir un joli aperçu de ce qui se passe sur internet quand on laisse une intelligence artificielle face à quelques trolls et racistes. Tay s'est rapidement retrouvé à relayer les propositions "politiques" du candidat républicain Donald Trump, avant d’accuser George W. Bush d'être derrière les attentats du 11 septembre, puis de traiter Barack Obama de singe en affirmant que Hitler serait un meilleur président.

En voici les exemples les plus choquants :

ainsi que...

Ou bien encore...

Bref, on imagine le malaise au sein des équipes de Microsoft. A l’heure où nous écrivons ces lignes, la plupart de ces messages avaient été supprimés du fil Twitter de Tay. Bien qu’il ne s’agit évidemment pas d’une opinion exprimée de manière consciente, il n’en demeure pas moins inquiétant de voir comment une intelligence artificielle peut se comporter lorsqu’elle intègre tout et n’importe quoi.

A LIRE AUSSI
>> VIDEO - Le robot Atlas de Google prend son premier cours de -défense
>>  VIDÉO - Nadine, votre nouvelle amie est un robot
>>  Les nouveaux livreurs de pizzas de Domino's sont des robots