Des chercheurs en IA alarment sur le projet de "robots tueurs" d’une université sud-coréenne

Ils se disent "très préoccupés". Dans une lettre ouverte diffusée mercredi, une cinquantaine de spécialistes en intelligence artificielle (IA) issus d’une trentaine de pays s’alarment d’un projet controversé de l’université sud-coréenne KAIST - l'Institut supérieur coréen des sciences et technologies - qui ambitionnerait, selon eux, de développer des armes autonomes, fréquemment qualifiées de "robots tueurs". 

"En tant que chercheurs et ingénieurs travaillant sur l'intelligence artificielle et la robotique, nous sommes très préoccupés par l'ouverture d'un 'Centre de recherche pour la convergence de la défense nationale et de l'intelligence artificielle' au KAIST en collaboration avec Hanwha Systems", écrivent les scientifiques, qui appellent au boycott de l’institution jusqu’à nouvel ordre. 

Voyant d’un mauvais œil l’association entre l’illustre faculté et le groupe Hanwha, dont la filiale pointée du doigt est l’une des productrices d’armes les plus importantes du pays (dont des armes dites à sous-munitions interdites par des traités internationaux dont la Corée du Sud ne fait pas partie), les chercheurs ajoutent : "Il a été rapporté que les objectifs de ce Centre sont de 'développer des technologies d'IA à appliquer aux armes militaires, en rejoignant la compétition mondiale pour développer des armes autonomes'." 

Selon le Guardian, les tensions seraient nées fin février après l’annonce précitée de la création du centre de recherche. Dans un communiqué d’abord supprimé mais finalement exhumé des abîmes du web par le quotidien britannique, le président du KAIST, le physicien Shin Sung-Chul, assurait que ce nouveau partenariat "constituerait une base solide pour le développement de la technologie de défense nationale". De quoi susciter l’inquiétude des experts de l’IA pour qui "il est regrettable qu'une institution prestigieuse comme le KAIST cherche à accélérer la course aux armements". 

"Je tiens à réaffirmer que le KAIST n'a aucune intention de s'engager dans le développement de systèmes d'armes létales autonomes et de robots tueurs", a déclaré Shin Sung-Chul dans un court texte publié en réaction à cette polémique naissante. "En tant qu'institution académique, nous accordons une grande importance aux droits de l'homme et aux normes éthiques."

Pas sûr que cette communication de crise ne suffise à faire cesser les craintes. "C'est une université très respectée qui s'associe avec un partenaire éthiquement très douteux qui continue de violer les normes internationales", fait valoir le professeur Toby Walsh, signataire de la lettre ouverte (également paraphée par deux scientifiques français, Malik Ghallab et Marie-Christine Rousset, au moment où la France se penche sur la question de l'IA), toujours auprès du Guardian. "Le développement d'armes autonomes aggraverait la situation sécuritaire dans la péninsule coréenne", poursuit-il. "Si ces armes sont fabriquées n'importe où, elles finiront certainement par arriver en Corée du Nord, qui n’aura aucun scrupule à les utiliser contre le Sud."