L’Américaine Amara Majeed a été accusée de terrorisme par la police sri lankaise en 2019. Robert Williams a été arrêté devant sa maison à Détroit et détenu en prison pendant 18 heures pour avoir prétendument volé des montres en 2020. Randal Reid a passé six jours en prison en 2022 pour avoir prétendument utilisé des cartes de crédit volées dans un État qu’il n’avait jamais visité.
Dans les trois cas, les autorités se sont trompées de personnes. Dans les trois cas, c’est la technologie de reconnaissance faciale qui leur a donné raison. Les agents chargés de l’application des lois dans de nombreux États américains ne sont pas tenus de révéler qu’ils ont utilisé la technologie de reconnaissance faciale pour identifier des suspects.
La technologie de reconnaissance faciale est la version la plus récente et la plus sophistiquée de la surveillance biométrique : elle utilise des caractéristiques physiques uniques pour identifier des personnes individuelles. Il s’inscrit dans une longue lignée de technologies – de l’empreinte digitale à la photo d’identité en passant par le scanner de l’iris – conçues pour surveiller les personnes et déterminer qui a le droit de se déplacer librement à l’intérieur et au-delà des frontières.
Dans mon livre « Est-ce que je te connais ? De la cécité faciale à la super reconnaissance », j’explore comment l’histoire de la surveillance faciale ne se situe pas seulement dans l’histoire de l’informatique mais dans l’histoire de la médecine, de la race, de la psychologie et des neurosciences, ainsi que dans les sciences humaines et politiques de la santé.
Considérées comme faisant partie de la longue histoire du suivi des personnes, les incursions de la technologie de reconnaissance faciale dans la vie privée et les limitations de la libre circulation réalisent exactement ce que la surveillance biométrique a toujours été censée faire.
Le système fonctionne en convertissant les visages capturés – soit statiques à partir de photographies, soit en mouvement à partir d’une vidéo – en une série de points de données uniques, qu’il compare ensuite aux points de données tirés d’images de visages déjà présentes dans le système. À mesure que la technologie de reconnaissance faciale gagne en précision et en rapidité, son efficacité en tant que moyen de surveillance devient de plus en plus prononcée.
Associée à l’IA, la technologie de reconnaissance faciale scanne la foule lors d’une conférence.
David McNew/AFP via Getty Images
La précision s’améliore, mais les biais persistent
La surveillance repose sur l’idée selon laquelle les personnes doivent être suivies et leurs mouvements limités et contrôlés dans un compromis entre confidentialité et sécurité. L’hypothèse selon laquelle moins de confidentialité conduit à plus de sécurité est inhérente.
Cela peut être le cas pour certains, mais pas pour les personnes ciblées de manière disproportionnée par la technologie de reconnaissance faciale. La surveillance a toujours été conçue pour identifier les personnes que les dirigeants souhaitent suivre de plus près.
À l’échelle mondiale, il existe des caméras de caste en Inde, une surveillance faciale des Ouïghours en Chine et même une surveillance de la fréquentation des écoles américaines, souvent fréquentées par des populations à faibles revenus et majoritairement noires. Certaines personnes sont suivies de plus près que d’autres.
De plus, les cas d’Amara Majeed, Robert Williams et Randal Reid ne sont pas des anomalies. Depuis 2019, la technologie de reconnaissance faciale a identifié à tort les Noirs et les Asiatiques jusqu’à 100 fois plus que les Blancs, y compris, en 2018, un nombre disproportionné de 28 membres du Congrès américain qui ont été faussement comparés à des photos d’identité enregistrées à l’aide du système d’Amazon. Outil de reconnaissance.
Lorsque la base de données avec laquelle les images capturées étaient comparées ne contenait qu’un nombre limité de visages, pour la plupart blancs, sur lesquels s’appuyer, la technologie de reconnaissance faciale offrirait des correspondances basées sur l’alignement le plus proche disponible, conduisant à un modèle de faux positifs hautement racialisés – et racistes.
Avec l’expansion des images dans la base de données et la sophistication croissante du logiciel, le nombre de faux positifs – des correspondances incorrectes entre des individus spécifiques et des images de personnes recherchées dans le dossier – a considérablement diminué. Les améliorations de la pixellisation et du mappage d’images statiques en images animées, ainsi que l’augmentation du marquage sur les réseaux sociaux et des outils de scraping toujours plus sophistiqués comme ceux développés par Clearview AI, ont contribué à réduire les taux d’erreur.
Les préjugés restent cependant profondément ancrés dans les systèmes et dans leur objectif, ciblant explicitement ou implicitement des communautés déjà ciblées. La technologie n’est pas neutre, pas plus que la surveillance qu’elle permet d’exercer.
La physionomie allait au-delà de la reconnaissance d’un individu et tentait de relier les caractéristiques physiques à d’autres caractéristiques.
clu/DigitalVision Vecteurs via Getty Images
Dernière technique d’une longue histoire
Les logiciels de reconnaissance faciale ne sont que la manifestation la plus récente des systèmes mondiaux de suivi et de tri. Les précurseurs sont enracinés dans la croyance désormais démystifiée selon laquelle les caractéristiques corporelles offrent un indice unique du caractère et de l’identité. Cette pseudoscience a été formalisée à la fin du XVIIIe siècle sous la rubrique de la pratique ancienne de la physionomie.
Les premières applications systémiques comprenaient l’anthropométrie (mesure du corps), la prise d’empreintes digitales et les scans de l’iris ou de la rétine. Ils proposaient tous des identifiants uniques. Aucune de ces activités ne pourrait se faire sans la participation – volontaire ou non – de la personne suivie.
Le cadre de l’identification corporelle a été adopté au 19ème siècle pour être utilisé dans la détection, les poursuites et la tenue de dossiers de la justice pénale afin de permettre au gouvernement de contrôler sa population. La relation intime entre la reconnaissance faciale et la surveillance des frontières a été galvanisée par l’introduction de photos dans les passeports de certains pays, dont la Grande-Bretagne et les États-Unis, en 1914, une pratique qui s’est généralisée en 1920.
La technologie de reconnaissance faciale a permis de se faufiler furtivement dans la surveillance biométrique humaine. La plupart des premières recherches sur les logiciels de reconnaissance faciale ont été financées par la CIA à des fins de surveillance des frontières.
Il a tenté de développer un cadre standardisé pour la segmentation du visage : cartographier la distance entre les traits du visage d’une personne, y compris les yeux, le nez, la bouche et la racine des cheveux. La saisie de ces données dans des ordinateurs permet à un utilisateur de rechercher une correspondance dans les photographies stockées. Ces premières analyses et cartes étaient limitées et les tentatives pour les faire correspondre n’ont pas abouti.
Un client paie via la reconnaissance faciale dans un magasin intelligent en Chine.
Huang Zongzhi/Agence de presse Xinhua via Getty Images
Plus récemment, des entreprises privées ont adopté des techniques de collecte de données, notamment la reconnaissance faciale, dans le cadre d’une longue pratique d’exploitation des données personnelles à des fins lucratives.
La technologie de reconnaissance faciale fonctionne non seulement pour déverrouiller votre téléphone ou vous aider à embarquer plus rapidement dans votre avion, mais également dans les kiosques promotionnels des magasins et, essentiellement, sur toute photo prise et partagée par n’importe qui, avec n’importe qui, n’importe où dans le monde. Ces photos sont stockées dans une base de données, créant des systèmes de surveillance et de suivi toujours plus complets.
Et même si cela signifie qu’il est aujourd’hui peu probable qu’Amara Majeed, Robert Williams, Randal Reid et les membres noirs du Congrès soient pris au piège d’un faux positif, la technologie de reconnaissance faciale a envahi la vie privée de chacun. Elle – ainsi que les systèmes gouvernementaux et privés qui la conçoivent, la gèrent, l’utilisent et en tirent parti – surveillent et accordent une attention particulière à ceux que la société et ses préjugés structurels considèrent comme représentant le plus grand risque.
Sharrona Pearl, professeure agrégée de bioéthique et d’histoire, Université Drexel
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l’article original.
