VIDÉO - "Maman, des types m'ont enlevée" : les fausses voix générées par l'IA, nouvelle arme des arnaqueurs

Lorsque son téléphone affiche un numéro inconnu, Jennifer Destefano hésite à décrocher. Mais comme sa fille Briana se trouve alors en classe de neige, elle préfère répondre à l'appel. Au téléphone, elle entend la voix de l'adolescente "qui pleurait et sanglotait", raconte cette mère de famille dans le reportage du 20H de TF1 ci-dessus. "Elle disait : 'Maman, des types m'ont enlevée, aide-moi, aide-moi !'" Puis un homme poursuit la discussion et réclame une rançon. "J'ai commencé à crier à l'aide", se souvient-elle.

En quelques minutes, elle parvient pourtant à localiser sa fille : l'adolescente se portait très bien, et n'avait pas été enlevée. Une intelligence artificielle, capable de reproduire à la perfection sa voix, avait été utilisée par des malfaiteurs pour tenter d'arnaquer sa mère. "Si ces gens sont capables de pister ma mère, ils auraient très bien pu rassembler d'autres informations et se lancer réellement sur mes traces ou celles de mes frères et sœurs. Ça m'a fait tellement peur", explique Briana.

Depuis plusieurs mois, les outils d'intelligence artificielle font largement parler, que ce soit les simulateurs de discussions écrites comme ChatGPT ou les générateurs de fausses photos. Mais il existe aussi désormais des systèmes de clonage de voix : il suffit d'obtenir un enregistrement audio de la personne que vous souhaitez imiter, une tâche loin d'être difficile de nos jours. 

"De nombreuses personnes ont une existence en ligne et ont déjà laissé une trace audio sur Internet, surtout les moins de 25 ans. Il va donc devenir très difficile à l'avenir, dans ce monde avec de tels logiciels, de vérifier les identités", s'inquiète Sinead Bovell, spécialiste des nouvelles technologies new-yorkaise. Moyennant une poignée de dollars, il est possible de télécharger en quelques minutes un logiciel, sans aucun besoin d'être un génie de l'informatique. De nombreux tutoriels pour guider les internautes sont déjà en ligne. 

Axel Monnier, le journaliste de TF1, a tenté l'expérience en téléchargeant un extrait de sa propre voix. Passée à la moulinette du logiciel, elle ressort avec un fort accent américain, un résultat donc pas très convaincant. Mais avec une personnalité anglophone en revanche, l'audio créé par l'IA est bien plus impressionnant, par exemple lorsqu'on l'invite à imiter la voix de Joe Biden. 

En quatre minutes seulement, l'outil propose un faux discours très réaliste, extrêmement proche du timbre et de l'intonation du président américain. Plus fort encore, certains logiciels parviennent même à transformer les voix en direct, en appliquant instantanément celle de la personne voulue sur des phrases que l'on prononce. 

Au-delà de possibles tentatives d'extorsion auxquelles elles ouvrent le champ, ces fraudes vocales inquiètent aussi au plus haut niveau de l'État. "En matière de sécurité nationale, vous pouvez avoir des espions, des officiers de renseignement et d'autres qui utilisent cela pour créer ce genre de deepfakes", souligne Holden Tripplett, un ancien agent du FBI et expert en cybersécurité. "Cela peut parfois paraître évident qu'il s'agit d'un faux, mais il faut du temps pour le vérifier."

Le FBI a déjà alerté les Américains sur les dangers de ces nouvelles escroqueries. Aux États-Unis, le nombre d'arnaques par appel téléphonique est en forte croissance. L'an dernier, 70 millions de personnes en ont été victimes, pour un préjudice estimé à 36 milliards d'euros.