Rekognition d’Amazon a mal identifié 28 membres du Congrès en les présentant comme des criminels

Les algorithmes de reconnaissance faciale s’améliorent à pas de géant chaque année, mais ils sont loin d’être parfaits. 

L’ACLU a fourni à Rekognition 25 000 photos d’une «source publique» et a comparé le service d’Amazon aux photos officielles des membres du Congrès. Parmi les représentants mal identifiés se trouvaient six membres du Congressional Black Caucus, dont John Lewis (D-Georgia), activiste des droits civiques, et 11 des 28 faux matches – environ 38% – étaient des personnes de couleur, qui ne représentaient que 20% des membres actuels du Congrès.

Jacob Snow, un avocat des libertés civiles pour l’ACLU, a déclaré aux membres des médias que le test a été mené pour moins de 13 $.

«L’une des choses dangereuses à propos de la présentation de cette information dans un contexte d’application de la loi est qu’il peut y avoir des différences d’éclairage, d’angle, d’âge. Il peut donc être difficile de dire simplement sur la base des photos qu’ils sont même personne », a dit Snow à Mashable . « La reconnaissance faciale a la possibilité de suggérer à un utilisateur d’application de la loi qu’il y a une correspondance. Et puis il y a une forte probabilité ou une probabilité raisonnable que l’utilisateur d’application de la loi fasse confiance au système et n’applique pas le même niveau de scepticisme. « 

Les résultats de l’ACLU ne sont pas totalement surprenants. Selon une étude, lestechnologies de reconnaissance faciale sont sensibles aux préjugés raciaux: une  étude de 2011 a  montré que les systèmes développés en Chine, au Japon et en Corée du Sud avaient plus de difficulté à distinguer les visages caucasiens des Asiatiques de l’Est. Et dans une étude distincte   réalisée en 2012, les algorithmes de reconnaissance faciale du vendeur Cognitec se sont révélés 5 à 10% plus mauvais chez les Afro-Américains que chez les Caucasiens.

Mais un porte-parole d’Amazon a déclaré à VentureBeat que le test de l’ACLU était probablement faussé par un mauvais étalonnage. Il utilisait un seuil de confiance – c’est-à-dire, la probabilité qu’une prédiction donnée est correcte – de 80%, inférieur aux 95% recommandés par Amazon pour les applications de répression.

« Nous pensons que les résultats pourraient probablement être améliorés en suivant les meilleures pratiques concernant la fixation des seuils de confiance … utilisés dans le test », a déclaré un porte-parole d’Amazon à VentureBeat dans un e-mail. « Alors que 80% de confiance est un seuil acceptable pour les photos de hot-dogs, de chaises, d’animaux ou d’autres cas d’utilisation des médias sociaux, il ne serait pas approprié d’identifier les individus avec un niveau raisonnable de certitude. »

Cependant, il n’y a aucune garantie que les clients d’Amazon suivent ses directives. Et historiquement, la précision des algorithmes de reconnaissance faciale utilisés par les forces de l’ordre laisse beaucoup à désirer. Une récente audition du comité de surveillance de la Chambre   sur les technologies de reconnaissance faciale a révélé que les algorithmes utilisés pour identifier les correspondances sont erronés dans environ 15% des cas. Pendant ce temps, le système utilisé par la police métropolitaine de Londres produit jusqu’à 49 faux matchs pour chaque coup .

En mai, l’ACLU a révélé qu’Amazon avait travaillé avec la ville d’Orlando en Floride et le bureau du shérif du comté de Washington en Oregon pour déployer Rekognition, facturant environ 400 $ pour l’installation et aussi peu que 12 $ par mois.

Orlando tire parti de la technologie de reconnaissance faciale pour cibler les criminels présumés dans les images des systèmes de surveillance de la ville. Et le comté de Washington a construit un smartphone qui permet aux députés de scanner des photos d’identité grâce à une base de données de 300 000 visages pour les matchs.

En juin, dans une lettre adressée au PDG d’Amazon Jeff Bezos, 19 groupes d’actionnaires d’Amazon ont exprimé des réserves sur les ventes de Rekognition aux forces de l’ordre, rejoignant l’ACLU et près de 70 autres groupes en signe de protestation.

« Bien que la reconnaissance puisse avoir pour but de renforcer certaines activités d’application de la loi, nous sommes profondément préoccupés par le fait qu’elle pourrait en fin de compte violer les droits civils et humains », ont écrit les actionnaires. « Nous craignons que la technologie soit utilisée pour cibler et surveiller de manière injuste et disproportionnée les  personnes de couleur, les immigrés et les organisations de la société civile … Nous craignons que les ventes ne s’étendent aux gouvernements étrangers, y compris aux régimes autoritaires. »

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Faits divers

Articles récents

plages-cachees-newstrotteur
personnes-incroyables-newstrotteur
endroits-mysterieux-newstrotteur
science-inexpliquees-newstrotteur
mystères_jamais-resolues
hqdefault

Actualité