Des centaines d'experts ont signé une pétition pour réclamer un moratoire sur les IA.
Ils demandent une pause dans les recherches jusqu'à la mise en place de systèmes de sécurité.
Le co-fondateur de chatGPT, d'Apple, des experts en IA ou encore des ingénieurs sont signataires.

"Prendre le temps de ralentir." Elon Musk et des centaines d'experts mondiaux ont signé ce mercredi une pétition appelant à une pause de six mois dans la recherche sur les intelligences artificielles plus puissantes que ChatGPT 4, le modèle d'OpenAI lancé mi-mars, pour prévenir "des risques majeurs pour l'humanité".

Ils réclament dans leur pétition parue sur le site futureoflife.org un moratoire jusqu'à la mise en place de systèmes de sécurité, avec notamment des autorités réglementaires dédiées, la surveillance des systèmes d'IA, des techniques pour aider à distinguer le réel de l'artificiel et des institutions capables de gérer les "perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l'IA provoquera".

"Risquer de perdre le contrôle ?"

"Devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, nous rendre obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ?", s'interrogent-ils. Selon eux, "ces décisions ne doivent pas être déléguées à des leaders technologiques non élus".

Hormis le propriétaire de Twitter et fondateur de SpaceX et Tesla, on trouve parmi les signataires des personnalités qui ont déjà publiquement exprimé leurs craintes envers des IA incontrôlables qui surpasseraient l'être humain. Parmi elles, Yuval Noah Harari, l'auteur de Sapiens, Yoshua Bengio, pionnier canadien de l'IA. Mais aussi Sam Altman, patron d'OpenAI, concepteur de chatGPT, qui a lui-même reconnu être "un petit peu effrayé" par sa création si elle était utilisée pour de "la désinformation à grande échelle ou des cyberattaques", ou encore le cofondateur d'Apple Steve Wozniak, des membres du laboratoire d'IA de Google DeepMind, des experts en IA et universitaires américains, et des ingénieurs cadres de Microsoft.


E.R. avec AFP

Tout
TF1 Info