Marcher dans la rue de manière anonyme deviendra-t-il une chose du passé ? C’est à cette question que la journaliste du New-York Times Kashmir Hill tente de répondre dans son ouvrage Your Face Belongs to Us que nous pourrions traduire par Votre visage nous appartient (l’ouvrage n’ayant pas encore été traduit en français).
Mais appartient à qui me demanderez-vous ? Pendant plus de trois ans, Kashmir Hill mène l’enquête. Elle suit l’ascension d’un certain Hoan Ton-That, un ingénieur en informatique australien, passionné, mais sans véritable talent. À 19 ans, il décide de partir réaliser son rêve américain. Après de nombreuses tentatives infructueuses, il fonde avec Richard Schwartz, un ancien conseiller de Rudy Giuliani une petite start-up de reconnaissance faciale nommée Clearview AI, qui se fixe comme objectif ambitieux de devenir ni plus ni moins que le Google des visages.
À travers des recherches minutieuses, Kashmir Hill nous fait vivre les doutes, les échecs et les succès d’un entrepreneur naviguant dans les zones troubles de la Silicon Valley, entre les investisseurs peu regardants comme Peter Thiel (un des fondateurs de Paypal), des experts en communication, des services de renseignements (FBI) et des forces de l’ordre (NYPD). Mais Hill nous partage surtout des histoires réelles d’individus et de familles dont la vie a été complétement bouleversée. Soit à cause d’erreurs d’identification du logiciel ; soit à cause d’interventions de forces de l’ordre mal formées aux outils. Des logiciels que même les géants du web comme Google et Facebook qui ont pourtant les capacités et les données, n’ont jamais osé sortir car trop risqué pour leur image.
Faisant sienne le moto de Facebook qui veut « bouger rapidement en cassant les choses » l’entreprise avance à marche forcée pour collecter le plus de visages possible d’Internet, dans la plus totale illégalité. La base de données de Clearview AI revendique aujourd’hui plus de 50 milliards de visages, rendant possible l’identification d’une partie considérable d’individus sur la planète, certains pouvant voir plusieurs photos d’eux-mêmes ressortir lors d’une recherche.
Généralisation de la reconnaissance faciale dans les espaces publics
Bien entendu, les caméras de surveillance avec reconnaissance faciale qui se généralisent dans les espaces publics, y compris en France, apportent la sécurité en permettant l’identification de suspects potentiels. Seulement, pour pouvoir identifier une seule personne, il faut identifier l’ensemble des personnes sur le parcours. A quel endroit sont hébergées ces données ? Quelles en sont les durées de conservation ? Sont-elles anonymisées ? Comment sont-elles sécurisées ? Le dispositif de surveillance est-il amené à être pérenne ? Alors que les dispositifs éphémères de vidéosurveillances algorithmiques instaurés dans le cadre de la surveillance des Jeux Olympiques de Paris 2024 devaient être amenés à disparaitre, nous apprenions en octobre dernier que le gouvernement nouvellement élu souhaitait le pérenniser, sans même attendre le rapport d’évaluation que la loi exigeait pourtant avant toute reconduite du dispositif. On voit passer dans le droit commun, sans aucune autre précaution, une surveillance pourtant qualifiée de « trop attentatoire aux libertés » par la Commission Nationale Consultative des Droits de l’Homme.
La résistance s’organise
Le philosophe Michel Foucault nous disait que là ou il y a du pouvoir, il y a de la résistance. Kashmir Hill liste des initiatives visant à enrayer la belle mécanique de classification des visages humains. Comme avec ce fabriquant de lunettes dans le Michigan nommé Scott Urban qui a développé une ligne de verres réflectifs qui repoussent les lumières visibles et infrarouges. Lorsqu’une caméra de surveillance filme une personne portant une paire de Reflectacles (comptez $168 la paire), la lumière réfléchissante floute le visage. Ou encore Adam Harvey, qui en 2010 n’était encore qu’un étudiant à l’Université de New-York, qui inventa le CV Dazzle, un camouflage à base de maquillages et de coiffures atypiques destinés à tromper les outils de vision artificielle. Enfin, la piste poursuivit par le professeur Ben Zhao intitulé Fawkes qui vise à réaliser des modifications au niveau des pixels des images pour perturber les outils de reconnaissance faciale.
Chaque fois qu’une nouvelle technologie arrive, des inquiétudes plus ou moins légitimes de défenseurs des droits et de la vie privée émergent. Et la reconnaissance faciale ne fait pas exception. L’auteure nous rappelle ainsi que l’arrivée du premier appareil photo de Kodak, inventé en 1888, et qui rendait possible la prise de photo en dehors d’un studio pour des photos « instantanées » de la vie de tous les jours avait déjà soulevé des inquiétudes.
En résumé, Your Face Belongs to Us est une histoire vraie captivante à propos de la montée d’une superpuissance et un avertissement urgent qui, en l’absence de vigilance et de régulation gouvernementale, pourrait menacer ce que le juge à la Cour suprême des États-Unis Justice Louis Brandeis appelait le « droit d’être laissé seul ».