Pourquoi devrions-nous nous inquiéter de Deepfakes et de ce qui est fait pour le combattre

L'année est 1969. Le président Richard Nixon a lu un discours sur les astronautes d'Apollo 11 bloqués sur la lune. "Les hommes qui sont allés sur la lune pour explorer en paix, resteront sur la lune et se reposeront en paix", a-t-il déclaré. Le monde regarda l'équipage d'Apollo 11 atterrir avec succès, puis retourna sur Terre. Mais une vidéo profonde récemment refait surface de l'ancien président Nixon dans ce scénario fictif semblait suggérer le contraire. La vidéo générée par ordinateur de Nixon a été créée par le Massachusetts Institute of Technology Center for Advanced Virtuality.

L'équipe du MIT voulait montrer comment les deepfakes pouvaient affecter notre monde. Faire confiance aux individus, aux journalistes et aux dirigeants pourrait se transformer en disant des choses qu'ils n'ont pas dites et en faisant des choses qu'ils n'ont pas faites. Les conséquences pourraient être désastreuses. Maintenant, les législateurs se bousculent pour trouver de meilleures solutions.

Selon une étude publiée par Samsung AI Center, les deepfakes ne sont pas du tout difficiles à générer. Contrairement à la croyance populaire, il ne faut pas toute une bibliothèque d'images pour créer un modèle de tête parlante convaincant – un designer chevronné peut le faire avec un seul.

Immédiatement, il y a de réelles inquiétudes quant à l'armement des deepfakes dans plusieurs scénarios, comme lors des élections de 2020.

Le rôle des grandes technologies

Cette année, le Congrès a demandé au directeur du renseignement national un rapport officiel sur la technologie des contrefaçons. Le comité du renseignement de la Chambre des représentants a également envoyé une lettre à Twitter, Facebook et Google demandant comment ils envisageaient de lutter contre les deepfakes lors des élections de 2020.

Si une grande partie de l'actualité d'aujourd'hui est diffusée sur les réseaux sociaux, ces entreprises technologiques pourraient jouer un rôle important dans la manière dont les deepfakes sont diffusés. Mais c'est là que réside le débat en cours sur ce qui constitue de fausses nouvelles; Facebook a hésité à être le décideur de la vérité factuelle, ne faisant pas obstacle à la plupart des contenus utilisateur sur son site.

Mais cette semaine, Facebook a cédé à la loi controversée sur les fausses nouvelles de Singapour, publiant une note sur un article jugé faux par le gouvernement de Singapour. La note disait: "Facebook est légalement tenu de vous dire que le gouvernement de Singapour dit que ce message contient de fausses informations."

Ce changement surprenant de coopération avec les autorités pourrait ouvrir un nouveau débat sur leur position sur les fausses nouvelles dans d'autres juridictions.

Et au-delà des entreprises, des institutions gouvernementales comme la DARPA et des collèges comme le MIT, l'Université de Stanford et le Max Planck Institute for Informatics expérimentent également la technologie deepfake. Certains de ces projets incluent des algorithmes de rétro-ingénierie pour repérer des images en profondeur.

Combattre les deepfakes avec la loi

Il y a aussi un DEEPFAKES Loi sur la responsabilité (que diriez-vous que pour un acronyme), un projet de loi proposé par Rep. Yvette Clarke (D-NY). Cela nécessite que quiconque crée un contenu profond pour mettre un filigrane inamovible et des descriptions textuelles. Ne pas le faire serait un crime.

La Loi sur la responsabilité serait un pas dans la bonne direction, mais il y a des failles béantes. Les créateurs de Deepfake qui respecteraient ces règles ne sont probablement pas les criminels que nous essayons d'arrêter ici. Les filigranes sont également simples à supprimer. La loi ne fait pas grand chose contre les acteurs malveillants et la nécessité de lutter contre la viralité potentielle des contenus deepfake. Les faux messages auraient pu se répandre comme une traînée de poudre avant que quiconque se rende compte que c'était faux.

Mais au moins il y aurait une loi contre elle, définissant le crime. Cela pourrait accélérer les procédures judiciaires et relancer le débat juridique sur la lutte contre les contrefaçons.

Pourquoi ne pas tout simplement interdire tout cela ensemble?

Approche de la Chine est simplement de criminaliser les deepfakes qui sont publiés sans avis. Cela ressemble au projet de loi californien qui interdit la diffusion d'images trafiquées concernant des politiciens dans les 60 jours suivant une élection.

Bien qu'une interdiction puisse clairement faire comprendre aux gouvernements une intolérance totale à l'égard des vidéos trafiquées, elle pourrait être difficile à appliquer. Cela n'arrête pas la propagation de faux messages avec immédiateté, qui est le problème ici.

Certains se sont opposés à l'idée d'une interdiction, affirmant qu'il y a de réels avantages à la technologie derrière les deepfakes. Les algorithmes Deepfake proposent de porter la technologie et le traitement d'image de la réalité virtuelle à de nouveaux sommets, en utilisant l'apprentissage automatique pour améliorer le réalisme, ce qui pourrait être le bienvenu dans le divertissement, l'éducation et également l'industrie médicale. La R&D dans le domaine médical a expérimenté la technologie du deepfake pour produire des images réalistes d'estimations et de prévisions.

Mais ces avancées menacent de bouleverser la société dans d'autres domaines, de la confiance dans la presse et le leadership. Les autorités doivent agir rapidement et décider quelle est sa priorité.

Ce que nous pouvons faire maintenant

Les nouvelles sont dans une situation difficile aujourd'hui. Et à mesure que la technologie deepfake se répand, la confiance dans les nouvelles pourrait devenir encore plus difficile à conserver.

Pourtant, nous recevons toujours de nombreuses informations partout en ligne et hors ligne. Notre meilleure défense ne prend pas les nouvelles que nous recevons à leur valeur nominale. Pensez à qui l'a publié et à la source du contenu. Il vaut également la peine de rechercher au moins deux sources crédibles, pour s'assurer qu'une histoire est probablement exacte. Et prenez un moment pour les considérer avant de les partager.

La responsabilité individuelle semble être notre meilleur pari, jusqu'à ce que les entreprises et le gouvernement s'entourent de politiques profondes, qui, espérons-le, arriveront tôt ou tard.

Source

A propos newstrotteur-fr

Découvrez également

La Chine étend le verrouillage contre le virus et accélère l’hôpital

Dans ce jeudi 23 janvier 2020, image d’une vidéo de vidéosurveillance en Chine, un patient …

Laisser un commentaire

Do NOT follow this link or you will be banned from the site!