ChatGPT, Midjourney : l'Union européenne veut devenir pionnière dans la régulation de l'intelligence artificielle

L'Union européenne veut devenir pionnière dans un domaine qui inquiète autant qu'il fascine. Pour ce faire, jeudi 10 mai, les eurodéputés doivent voter le futur règlement de l'Union européenne sur l'intelligence artificielle (IA), alors que le développement des applications conventionnelles comme ChatGPT ou Midjourney inquiète. Avec ce texte, l'UE veut devenir la première au monde à se doter d'un cadre juridique complet pour limiter les dérives de la technologie, tout en sécurisant l'innovation. Un défi de taille, le règlement ayant déjà été largement retardé par les controverses entourant l'IA.

Récemment, des personnalités de la tech, comme le patron de Twitter, Elon Musk, ont même réclamé un moratoire sur leur développement alors que l'IA fait craindre la diffusion de contenus dangereux, la manipulation de l'opinion par la création de fausses images avec des logiciels comme Midjourney ou encore la mise en place de systèmes de surveillance de masse.

C'est pour faire face à ces avancées technologiques qui pourraient bouleverser le rapport de l'homme à l'intelligence artificielle que l'Union européenne veut voter son projet de législation, déjà en discussion depuis deux ans. Le texte vise à imposer des contrôles reposant d'abord sur les entreprises, et prévoit peu d'interdictions. Ces dernières concerneront les applications contraires aux valeurs européennes comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine.

Les eurodéputés veulent également ajouter l'interdiction des systèmes de reconnaissance des émotions et supprimer les dérogations autorisant l'identification biométrique à distance des personnes dans les lieux publics par les forces de l'ordre. Ils entendent aussi interdire la récolte en masse de photos sur Internet pour entraîner les algorithmes sans l'accord des personnes concernées.

Le cœur du projet vise les applications jugées à "haut risque". La Commission européenne a proposé de classer comme telles celles utilisées dans des domaines sensibles comme les infrastructures critiques, l'éducation, les ressources humaines, le maintien de l'ordre ou la gestion des migrations, alors que les députés veulent restreindre cette classification aux seuls produits pouvant menacer la sécurité, la santé ou les droits fondamentaux. L'utilisation de ces applications sera notamment conditionnée à un contrôle humain sur la machine et le respect des règles sera supervisé par des autorités de surveillance désignées dans chaque pays membre.

Si elles sont votées en commissions à Strasbourg jeudi, ces mesures devront ensuite être confirmées en juin lors d'une plénière avant l'ouverture d'une négociation entre les différentes institutions avec un objectif : fixer le texte d'ici à la fin de l'année. La régulation de l'intelligence artificielle est déjà encadrée en Europe par une proposition émise par la Commission en avril 2021. Cette dernière oblige par exemple à informer l'utilisateur qu'il est en contact avec une machine et contraint les applications générant des images à préciser qu'elles ont été créées artificiellement.