De l’État de Washington à Washington DC, les législateurs se précipitent pour réglementer la reconnaissance faciale

Au début d’un procès de mise en accusation; parler d’hostilité croissante avec l’Iran; nouveaux accords commerciaux avec la Chine, le Canada et le Mexique; et le débat présidentiel final avant le début de la saison primaire présidentielle démocrate, vous l’avez peut-être manqué, mais c’était aussi une semaine importante pour la réglementation de la reconnaissance faciale.

Un groupe bipartite au Congrès veut de l’action, environ une douzaine de gouvernements des États envisagent une législation, et des nouvelles à l’étranger ont annoncé jeudi que la Commission européenne envisage un moratoire de cinq ans sur la reconnaissance faciale parmi les prochaines étapes potentielles. Cela ferait de l’UE le plus grand gouvernement du monde pour arrêter le déploiement de la technologie.

À Washington, DC cette semaine, le Le Comité de surveillance et de réforme de la Chambre s’est engagé à présenter un projet de loi dans un “avenir très proche” qui pourrait réglementer l’utilisation de la reconnaissance faciale par les forces de l’ordre aux États-Unis. Tout comme lors des audiences tenues l’été dernier, les membres du Congrès ont fait preuve d’une position bipartite assez unifiée selon laquelle l’utilisation de la reconnaissance faciale par le gouvernement devrait être réglementée et, dans certains cas, limitée. On a parlé de réglementation, mais jusqu’à cette semaine, l’avenir de la réglementation générale de la reconnaissance faciale semblait incertain.

Congrès sur les droits civils, la Constitution et la reconnaissance faciale

Les législateurs semblent avoir un sentiment d’urgence à agir pour diverses raisons, notamment un manque de normes pour les entreprises; Gouvernements; et l’application des lois locales, étatiques et fédérales.

Un domaine d’intérêt majeur: la violation du droit à la liberté de réunion du 1er amendement, et l’idée que la reconnaissance faciale pourrait être utilisée pour identifier des personnes lors de rassemblements politiques ou pour suivre des dissidents politiques lors de manifestations.

“Peu importe que ce soit un rassemblement du président Trump ou un rassemblement de Bernie Sanders, l’idée de citoyens américains étant suivis et catalogués pour simplement montrer leur visage en public est profondément troublante”, a déclaré Jordan.

«Le problème urgent auquel nous devons nous attaquer réside dans l’utilisation incontrôlée par le gouvernement de cette technologie quand elle porte atteinte à nos libertés et à nos libertés. Notre défunt président Elijah Cummings s’est inquiété de l’utilisation par le gouvernement de la technologie de reconnaissance faciale après avoir appris qu’elle était utilisée pour surveiller les manifestations dans son district liées à Freddie Gray. Il a vu cela comme un empiètement profondément inapproprié sur la liberté d’expression et d’association, et je ne pourrais pas être plus d’accord », a déclaré Jordan.

Une autre raison pour laquelle les législateurs souhaitent réglementer la reconnaissance faciale: la protection des droits civils et le grand potentiel de discrimination raciale.

Analyse effectuée le mois dernier par l’Institut national des normes et de la technologie du Département du commerce (NIST) ont constaté que certains systèmes de reconnaissance faciale sont de 10 à 100 fois plus susceptibles d’identifier à tort des groupes comme les jeunes, les personnes âgées, les femmes de couleur et les personnes d’origine asiatique ou africaine.

Les systèmes de reconnaissance faciale qui présentent des performances discriminatoires, soutiennent les législateurs, peuvent exacerber les préjugés existants et la surpolitisation des écoles et des communautés de couleur.

L’analyse du NIST fait suite à des études menées en 2018 et 2019 par des chercheurs en intelligence artificielle qui ont découvert des problèmes d’identification erronée pour les systèmes de reconnaissance faciale populaires comme Amazon Rekognition. Amazon n’a pas accepté de faire analyser son IA par le NIST, a déclaré le directeur du Dr Charles Romine au Congrès cette semaine.

Romine a déclaré que les pourparlers entre le NIST et Amazon sont en cours sur le sujet de l’examen de la rekognition par le gouvernement fédéral.

Si une entreprise qui semblait être une source principale de colère pour le comité, c’est Amazon.

Amazon a fait pression sur les membres du Congrès sur le sujet et a a déclaré sa volonté de vendre sa reconnaissance faciale à tout organisme gouvernemental. Amazon aurait commercialisé Rekognition auprès des responsables de l’ICE, mais la mesure dans laquelle la reconnaissance faciale est vendue aux agences gouvernementales est encore inconnue. Lors d’un vote des actionnaires l’été dernier, Amazon a choisi de continuer à vendre des services de reconnaissance faciale aux gouvernements.

Un facteur qui, selon les législateurs, motive un sentiment d’urgence: la Chine. Dans l’UE, à Washington DC, ainsi qu’au niveau des États et des États-Unis, les législateurs citent fréquemment l’utilisation par la Chine de la reconnaissance faciale pour renforcer un État autoritaire comme un avenir à éviter.

Meredith Whittaker est cofondatrice du cofondateur de AI Now Institute et ancienne employée de Google. Lors d’un témoignage plus tôt cette semaine, elle a expliqué comment la reconnaissance faciale est souvent utilisée par les personnes au pouvoir pour surveiller les personnes sans électricité et a décrit la différence entre l’utilisation aux États-Unis et en Chine. Le mois dernier, l’Institut AI Now a appelé à l’interdiction de l’utilisation par les entreprises et le gouvernement de la technologie de reconnaissance faciale.

“Je pense que c’est un modèle de contrôle social autoritaire soutenu par une technologie extraordinairement puissante”, a déclaré Whittaker à propos de l’utilisation par la Chine d’un logiciel de reconnaissance faciale. «Je pense que l’une des différences entre la Chine et les États-Unis est que là-bas, la technologie est annoncée comme politique d’État. Aux États-Unis, il s’agit principalement d’une technologie d’entreprise qui est secrètement déployée à travers nos infrastructures principales sans ce type de reconnaissance. »

Impact de l’État de Washington sur la réglementation de la reconnaissance faciale

Une poignée de villes ont mis en place des interdictions de reconnaissance faciale et des moratoires en 2019, mais les législatures des États en 2020 progressent déjà encore plus rapidement pour réglementer la technologie. Depuis le début des années, 10 législatures d’État ont présenté des projets de loi pour réglementer l’utilisation des logiciels de reconnaissance faciale, selon le Georgetown University Law School Center on Privacy and Technology.

Dans l’État de Washington, les enjeux peuvent être différents de n’importe où ailleurs dans le monde. La législation visant à réglementer l’utilisation de la reconnaissance faciale à Washington peut être particulièrement influente, car la région de Seattle abrite Amazon et Microsoft, deux des plus grandes sociétés vendant des logiciels de reconnaissance faciale aux gouvernements. Axon, fabricant de caméras pour le corps de la police et fournisseur de stockage de cloud vidéo, est également à Washington.

À Washington, les législateurs de l’État ont entamé cette semaine une deuxième tentative d’adoption de la Washington State Privacy Act. Connu comme SB 6281, le projet de loi réglementerait la loi sur la confidentialité des données et exigerait un «examen humain significatif» des résultats de la reconnaissance faciale lorsqu’ils sont utilisés par le secteur privé. Lors d’une conférence de presse lundi, le principal sponsor du projet de loi, le sénateur Reuven Carlyle, a déclaré que Washington allait de l’avant parce qu’il n’y avait pas le temps d’attendre que les législateurs de Washington DC adoptent une réglementation sur la confidentialité pour régir l’utilisation commerciale des données privées. Carlyle a déclaré que le projet de loi s’inspirait du CCPA en Californie et du RGPD en Europe.

Une version différente du Washington Privacy Act a été adoptée par le Sénat de l’État de Washington avec un vote quasi unanime au printemps 2019, mais est décédée à la Chambre des représentants de l’État de Washington.

Les législateurs se sont plaints au printemps dernier que le processus législatif était entaché par le lobbying d’entreprises technologiques comme Microsoft, et que des entreprises comme Amazon et Microsoft joué un rôle trop important dans la rédaction de la version 2019 du Washington Privacy Act.

Cette semaine à Washington est également présentée SB 6280, un projet de loi visant à réglementer l’utilisation par le gouvernement de la reconnaissance faciale. Le parrain principal du projet de loi, le sénateur d’État Joe Nguyen, est un responsable de programme principal chez Microsoft, selon son Profil LinkedIn.

Microsoft initialement a soutenu l’an dernier la Washington Privacy Act mais s’est opposé aux amendements au projet de loi, les qualifiant de trop restrictifs. Microsoft s’est également opposé à un moratoire proposé par l’ACLU, l’un des premiers moratoires de ce type à être examiné par une législature d’État.

Jevan Hutson dirige la politique de reconnaissance faciale et d’intelligence artificielle à la School of Tech and Public Policy Clinic de l’Université de Washington. Il a témoigné lors de plusieurs audiences à Olympie, Washington cette semaine en faveur de HB 2363, un projet de loi qui ferait des données biométriques la propriété exclusive d’un individu et qui s’opposerait à la dernière version du Washington Privacy Act.

Il a également présenté un projet de loi connu sous le nom de Loi sur le profilage de l’IA. La législation, qu’il a rédigée avec d’autres à l’Université de Washington, interdirait l’utilisation de l’IA pour profiler les gens dans les lieux publics; dans des processus décisionnels importants pour un certain nombre d’industries; et de prédire l’appartenance religieuse, l’appartenance politique, le statut d’immigration ou l’employabilité d’une personne.

Sa position est que la reconnaissance faciale peut avoir des cas d’utilisation légitimes, mais c’est aussi un outil de surveillance parfait, et que la cause première de la motivation des partisans de la reconnaissance faciale est de créer un nouveau marché invasif axé sur le capitalisme de la surveillance.

Comme l’année dernière, il estime que le cadre réglementaire permissif que l’on trouve dans le Washington Privacy Act, qui rejette l’idée d’un moratoire, est dû à l’influence démesurée des entreprises technologiques de l’État de Washington qui devraient profiter du déploiement généralisé de la reconnaissance faciale.

Hutson conteste également le fait que le sénateur de l’État Joe Nguyen soit un coparrain du Washington Privacy Act.

Il considère l’implication et le lobbying de Microsoft en 2019, et de nouveau en 2020, comme un effort pour créer un cadre initial de ce à quoi devrait ressembler la réglementation sur la reconnaissance faciale afin qu’ils puissent apporter ce modèle à d’autres États et à Washington DC.

Lors de son discours à l’Université de Seattle l’année dernière, le président de Microsoft, Brad Smith, a déclaré une loi adoptée à Washington pourrait façonner la politique de reconnaissance faciale dans le monde.

Alors que les législateurs en faveur du projet de loi jettent les bases nécessaires pour tenter d’adopter le projet de loi pour la deuxième fois, les politiciens et les avocats comme Hutson soutiennent que la législation devrait tenir compte du préjudice démontré que la reconnaissance faciale peut faire et rejeter l’idée qu’une utilisation généralisée de la reconnaissance faciale est inévitable.

“Je pense que les législateurs et les défenseurs ici sont très préoccupés et reconnaissent que nous devons aller de l’avant”, a-t-il déclaré. «Je pense que ce genre de se pose la question de savoir pourquoi maintenant; il est si important que nous agissions parce que les choses seront achetées par les gouvernements, et les entreprises commenceront à déployer ces choses s’il n’y a pas de signe clair des régulateurs et des législateurs au niveau fédéral et local pour dire: “ Non, ce n’est pas un marché valable étant donné les dangers qu’il représente. »

Hutson considère également qu’il est important de prendre des mesures dans un avenir proche afin de supprimer l’idée selon laquelle étouffer l’innovation, un argument commun contre la réglementation, est toujours une mauvaise chose. La reconnaissance faciale est utilisée pour les paiements et pour arrêter les personnes accusées de crimes en Chine, mais elle est également utilisée pour traquer ou emprisonner les minorités ethniques, un cas d’utilisation, selon lui, pourrait également être considéré comme innovant.

«À bien des égards, l’innovation est ce genre de fausse religion là où elle est comme l’innovation en soi est un bien parfait, et ce n’est pas le cas», a-t-il dit. «C’est une innovation qui mérite d’être étouffée. Comme je ne pense pas que nous devrions être super innovants avec les armes nucléaires. Nous n’avons pas besoin de formes d’oppression encore plus innovantes pour être légitimées et autorisées par la législature de l’État. »

Pensées finales

Alors que les lois sont martelées, les histoires d’indignation continuent.

Ces derniers jours, à Denver, où le conseil municipal envisage une interdiction de reconnaissance faciale, les défenseurs ont démontré que les neuf membres du conseil respectaient un taux d’exactitude de 92% en tant que personnes inscrites au registre local des délinquants sexuels.

Il y a aussi l’histoire Clearview AI, une startup qui permet aux gens de télécharger une image d’une personne puis de trouver où sur le Web les images de cette personne sont apparues.

«C’est effrayant ce qu’ils font, mais il y aura beaucoup plus de ces entreprises. En l’absence d’une loi fédérale très stricte sur la protection des renseignements personnels, nous sommes tous foutus », Al Gidari, professeur à l’Université de Stanford dit au New York Times.

Les mesures prises cette semaine pour présenter un projet de loi ne sont qu’un début.

Les projets de loi et les règlements continuent de s’infiltrer dans les assemblées législatives des États et les salles du Congrès, et comme ils le font, la série d’histoires qui rafraîchissent la panne et provoquent le sentiment d’urgence initial semblent continuer.

Source

A propos newstrotteur-fr

Découvrez également

Nouveau spot TV pour NO TIME TO DIE

Daniel Craig est de retour en action en tant que réalisateur James Bond Cary Joji …

Laisser un commentaire