Reconnaissance faciale : une startup vous piste sur internet pour le compte de la police américaine

Ceux qui ont déjà regardé Person of Interest ne seront pas surpris que la réalité rejoigne finalement la fiction. Dans la série américaine, John Reese et Harold Finch sont aidés d’une machine qui peut identifier n’importe quel passant et fournir des informations sur celui-ci en reconnaissant simplement son visage grâce aux multiples caméras de surveillance qui peuplent les rues de New York. Une base de données incroyable et un outil de surveillance de masse digne des plus grands fantasmes. Et si cela était tout simplement vrai ?

Le New York Times a publié ce week-end un long dossier sur une entreprise baptisée Clearview AI. Elle aurait répertorié près de trois milliards de photos de visages. Tout cela en emmagasinant, depuis 2016, des images récupérées sur internet en libre accès afin d’entraîner une intelligence artificielle à la reconnaissance faciale. Derrière ce logiciel, Hoan Ton-That, un Australien féru d’IA qui avait jusque-là à son actif une application rigolote, Trump Hair, pour ajouter la coupe de cheveux de Donald Trump sur n’importe quel visage. Il avait également lancé un site pour partager des vidéos avec tous ses contacts de messageries instantanées. Mais ce site avait dû fermer après des accusations d’escroquerie par hameçonnage (phishing). Cette fois, le jeune homme semble avoir de l’or entre les mains. 

Son idée est simple : vous téléchargez la photo d'une personne et Clearview AI vous propose alors des photos publiques de cette personne, des liens vers les pages où elles ont été publiées. L’entreprise a indiqué avoir compilé ses images sur Facebook, YouTube, les réseaux sociaux ou encore des millions de sites web d’actualités.

Epaulé par un ancien proche de Rudolph Giuliani, l’ex-maire de New York, Hoan Ton-That a attiré l’attention du milieu politique américain et s'est fait financer par des personnalités comme Peter Thiel (fondateur de Palantir et conseiller de Trump, siégeant au conseil d’administration de Facebook) ou des responsables républicains. L’ingénieur trentenaire a alors offert un mois d’essai à plus de 600 organismes, fédéraux, militaires, policiers ou privés, pour tester son service, bien plus riche en informations que les quelques 411 millions de visages qui seraient recensés dans les fichiers du FBI via les cartes d’identité, passeports et autres permis de conduire. Car, sur le site internet de Clearview AI, le but annoncé est clair : "La technologie qui aide à résoudre les crimes les plus compliqués", explique le site de la startup. Selon son inventeur, 75% des visages seraient reconnus.

Les autorités américaines ont reconnu auprès du New York Times avoir utilisé le système pour résoudre des vols à l’étalage, des fraudes par carte bancaire ou encore des meurtres et l’exploitation sexuelle de mineurs.  La police de l’Indiana a ainsi obtenu la résolution d’un cas 20 minutes après avoir utilisé l’outil en faisant "matcher" le visage d’un meurtrier sur une vidéo. Celui-ci est apparu sur Twitter avec son nom en légende. Car si l’individu avait un compte sur le réseau social à l'oiseau bleu, il ne figurait en revanche dans aucune base de données gouvernementale. Fin 2019, c’est le tatouage d’une femme accusé de vol qui l’a trahie. Il apparaissait sur la vidéo de surveillance et Clearview a fait remonter une photo Facebook de la femme.

Ton-That spécifie cependant que la base n’aboutit pas toujours à une correspondance en raison de la différence entre les photos collectées sur Internet et les vidéos prises par les autorités par le biais des caméras de surveillance. Celles-ci ont en effet souvent un angle par le haut, rendant difficile l’identification. La journaliste, Kashmir Hill, en charge de l’enquête, a pu tester l’application et des photos d'elle datant de 10 ans plus tôt sont réapparues, même lorsqu’elle renseignait une image d’elle avec le visage en partie recouvert.

Mais personne ne semble s’être vraiment penché sur le fonctionnement de Clearview AI ni sur les potentielles atteintes à la vie privée, sans compter le fait que les photos sont collectées sur des sites sans l’accord des entreprises ni des utilisateurs. Le NYT note d’ailleurs tout le mystère entourant l’entreprise qui, jusqu’en novembre dernier, ne comptait qu’une adresse fictive dans Manhattan pour ses bureaux et un nom d’emprunt pour son fondateur. Interrogé par le journal sur la fin de l’anonymat dans la rue et la possibilité offerte par le logiciel de pister n’importe qui au seul moyen d’une photo, son concepteur admet devoir "y penser". "Notre conviction est que c'est la meilleure utilisation de la technologie", reconnaît Hoan Ton-That, qui n’évoque cependant pas ce qui se passe en cas de personne identifiée par erreur. "Sans une loi fédérale très stricte sur la vie privée, nous sommes foutus", prévient Al Gidari, professeur de droit de la vie privée à l’université Stanford, en s’inquiétant de cette collecte d’images sans autorisation.

Ce n’est pas la première fois qu’un outil de reconnaissance faciale est développé à des fins sécuritaires. Dans l’optique de la sécurité des Jeux Olympiques organisés l’été prochain à Tokyo, le Japon travaille sur différents systèmes de reconnaissance vidéo. Cédric O, le nouveau secrétaire d'Etat au numérique, a quant à lui indiqué que la France réfléchissait aussi à la mise en place de la reconnaissance faciale dans l'espace public alors que la Grande-Bretagne a déjà commencé.

Tous nos podcasts sont à écouter ici.