Amazon a annoncé mercredi qu’il interdira à la police d’utiliser son logiciel de reconnaissance faciale Rekognition pendant un an, et a appelé à une réglementation gouvernementale forte pour garantir que sa technologie soit utilisée de manière éthique à l’avenir.
« Nous préconisons des réglementations gouvernementales plus strictes sur l’utilisation éthique des technologies de reconnaissance faciale, et le Congrès semble prêt à relever ce défi », a déclaré le géant du commerce électronique dans un communiqué. « Nous espérons que ce moratoire d’un an donnera au Congrès suffisamment de temps pour établir des règles appropriées ».
Amazon n’a pas précisé comment elle allait faire respecter l’interdiction, bien qu’elle risque de le faire en refusant d’offrir ses services aux forces de police et en éliminant le soutien technique à ceux qui possèdent déjà la technologie.
Depuis la mort de George Floyd, un Afro-Américain qui a été étouffé par un policier blanc il y a deux semaines, les entreprises et les autorités tentent de répondre aux protestations massives contre la violence policière et le racisme qui secouent le pays.
Cette nouvelle arrive deux jours après qu’IBM ait annoncé qu’elle abandonnait la technologie de reconnaissance faciale en raison de préoccupations éthiques concernant son utilisation.
Elle fait également suite au lancement, cette semaine, d’une pétition en ligne par plusieurs groupes proraciaux demandant à Amazon de couper ses liens avec la police et les services d’immigration américains. Microsoft a montré son soutien aux manifestations, bien qu’elle n’ait pas encore pris de décision à ce sujet.
L’année dernière, San Francisco, en Californie, est devenue la première grande ville du pays à interdire à toutes les agences locales, y compris la police, d’utiliser les techniques de reconnaissance faciale, qui sont de plus en plus utilisées par les autorités pour identifier les criminels, mais critiquées par les organisations de défense des droits civils.
Depuis des années, les gouvernements et les agences de sécurité du monde entier utilisent des techniques de reconnaissance faciale, qui sont capables d’identifier des individus grâce à l’intelligence artificielle, pour des tâches telles que l’identification de criminels, l’aide à la recherche d’enfants disparus et la prévention de la fraude documentaire.
Un rapport du groupe de recherche Carnegie Endowment for International Peace répertorie au moins 75 pays qui utilisent activement ces outils de surveillance. L’Espagne en fait partie, ainsi que les États-Unis, la France et l’Allemagne.
Une étude réalisée en 2018 par l’American Civil Liberties Union (ACLU) a révélé que la reconnaissance faciale avait identifié à tort 28 membres du Congrès américain (issus pour la plupart de minorités ethniques) comme des criminels en comparant leurs photographies avec les images de la police. L’organisation a déclaré qu’un moratoire d’un an est trop court.
Controverse
La reconnaissance a été un sujet controversé pour Amazon, même avant cette dernière vague de protestations nationales contre la violence policière.
La technologie a été utilisée par les forces de l’ordre et, selon l’AFP, a été offerte à l’Immigration and Customs Enforcement américain. Il n’est cependant pas clair dans quelle mesure la reconnaissance est utilisée par la police et les services d’immigration.
Le bureau du shérif du comté de Washington, dans l’Oregon, est le seul service de police qu’Amazon Web Services (la filiale d’Amazon qui commercialise ses services dans le nuage) désigne sur son site web comme client de Rekognition. Amazon a refusé de commenter à CNBC le nombre total de services de police utilisant ce logiciel.
L’AWS a lancé Rekognition en 2016. Elle le décrit comme un « service qui permet d’ajouter facilement l’analyse d’images à vos applications » et de « détecter des objets, des scènes et des visages dans les images ». L’année dernière, Amazon a déclaré que la reconnaissance était capable de détecter la peur d’une personne en identifiant ses expressions.
Elle peut également déterminer si une personne est heureuse ou triste. En outre, les caméras de surveillance vendues par Amazon sont utilisées pour la sécurité des domiciles, mais leurs propriétaires peuvent partager l’accès aux vidéos de surveillance avec la police s’ils le souhaitent.