De brillant à malveillant ? Comment ChatGPT pourrait devenir le nouveau meilleur ami des cybercriminels

par A. LG
Publié le 28 mars 2023 à 11h53

Source : TF1 Info

Les criminels sont prêts à tirer parti de l'intelligence artificielle, avertit Europol.
Ils sont notamment susceptibles d'exploiter les capacités de ChatGPT pour commettre des fraudes.
Ce robot conversationnel est particulièrement efficace pour créer des mails de "phishing".

ChatGPT est-il en passe de devenir la nouvelle arme préférée des pirates ? C'est en tout cas la crainte de l'agence de police européenne Europol qui alerte sur la question dans un nouveau rapport paru lundi, évoquant "de sombres perspectives".

Du phishing à la désinformation en passant par les logiciels malveillants, les capacités d'évolution rapide des robots de conversation sont susceptibles d'être rapidement exploitées par des personnes mal intentionnées, a déclaré l'agence basée à La Haye (Pays-Bas), assurant que les criminels sont prêts à tirer parti de l'intelligence artificielle (IA) pour commettre des fraudes et d'autres cybercrimes.

"Idéal à des fins de propagande"

Le nouveau "laboratoire d'innovation" d'Europol a examiné l'utilisation des robots de conversation (chatbots) dans son ensemble, mais s'est concentré sur ChatGPT, car il s'agit du plus médiatisé et du plus utilisé. Créé par la startup américaine OpenAI, ChatGPT est apparu en novembre et a rapidement été pris d'assaut par des utilisateurs émerveillés par sa capacité à répondre clairement à des questions difficiles, à écrire des sonnets ou du code, et même à réussir des examens.

"L'exploitation potentielle de ces types de systèmes d'IA (intelligence artificielle) par des criminels" pourrait servir aux criminels pour "accélérer considérablement le processus de recherche" dans des domaines dont ils ne connaissent rien, comme la rédaction d'un texte pour commettre une fraude ou donner des informations sur "comment entrer par effraction dans une maison, le terrorisme, la cybercriminalité et les abus sexuels sur des enfants", a soulevé l'agence.

De fait, la capacité du chatbot à imiter les styles de discours l'a rendu particulièrement efficace pour créer des mails de "phishing" (hameçonnage), et sa capacité à produire rapidement un texte le rend "idéal à des fins de propagande et de désinformation", avertit Europol. ChatGPT peut également être utilisé pour écrire du code informatique, sans avoir les connaissances techniques. Si des garanties ont été prévues pour encadrer ChatGPT, dont la modération du contenu qui implique que le robot ne répond pas aux questions classées nuisibles ou biaisées, celles-ci pourraient être contournées, prévient Europol.

"Il est de la plus haute importance que la sensibilisation soit accrue à ce sujet, afin de garantir que toute faille potentielle soit découverte et comblée le plus rapidement possible", conclut l'agence qui souligne que l'IA n'en est encore qu'à ses débuts.


A. LG

Tout
TF1 Info