InvestigateTV - La technologie utilisée pour créer des vidéos réalistes d'un acteur de renommée internationale, d'un ancien président américain et même d'un leader mondial au milieu d'un conflit violent est utilisée sur des Américains ordinaires.
La raison : l'utilisation de votre visage amical peut facilement entraîner des personnes que vous connaissez dans une arnaque.
Ces faux étranges sont créés avec une informatique de pointe conçue pour imiter le cerveau humain.
Dans la communauté de l'intelligence artificielle (IA), les vidéos sont appelées "deepfakes". Le terme est utilisé pour l'audio, les images ou les vidéos qui ont été manipulés pour apparaître réels.
Deepfakes utilise une forme d'IA appelée "apprentissage en profondeur", une technologie qui essaie de copier la façon dont les humains pensent et apprennent. C'est aussi là que le "profond" dans deepfake est dérivé.
Récemment, l'utilisateur de Tiktok Chris Ume est devenu viral avec son deepfake de l'acteur Tom Cruise. En 2018, le réalisateur Jordan Peele et Buzzfeed ont fait circuler un deepfake de l'ancien président Barack Obama pour avertir les gens des progrès de la technologie et de la manière dont ils pourraient propager de fausses informations par une mauvaise utilisation.
En ce qui concerne le suivi de ces vidéos potentiellement problématiques, l'une des rares organisations disposant de données sur les deepfakes est Sensity, une société basée à Amsterdam qui utilise l'apprentissage en profondeur et des technologies informatiques pour détecter les deepfakes.
Selon Sensity, les deepfakes sont apparus fin 2017 et les chiffres en ligne ont rapidement augmenté. En 2018, la société a suivi plus de 7 000 vidéos deepfake en ligne. En décembre 2020, leur rapport montre que le nombre est monté en flèche à plus de 85 000 deepfakes en ligne.
Les données de Sensity ne suivent que les incidents impliquant des personnalités publiques. Il n'inclut pas les incidents impliquant des particuliers. Cependant, les pirates simulent plus que des célébrités et des politiciens.
Hacké et deepfake
Kyle Hawkins ne le sait que trop bien. Il est entré sans le vouloir dans le monde des deepfakes lorsque ses comptes de réseaux sociaux ont été piratés en février 2022.
Hawkins est un agent d'assurance spécialisé dans l'assurance-maladie et la planification de la retraite à Richmond, en Virginie.
Un jour, il a ouvert Instagram et a dit avoir vu un message d'un vieil ami. Hawkins pensait que l'ami cherchait ses services et cherchait de l'aide.
"J'ai reçu un message via Instagram de quelqu'un avec qui j'étais ami là-bas et je supposais que la même chose leur était arrivée, mais je ne le savais pas", a déclaré Hawkins.
Il s'avère que cet ami a été piraté. Lorsque Hawkins a cliqué sur un lien dans le message, il a déclaré qu'il avait rapidement perdu le contrôle de son compte.
"Je n'y pensais pas", a déclaré Hawkins. "Et puis j'ai pu en quelque sorte obtenir Instagram ce matin-là, puis au moment où j'ai vérifié, c'était l'heure du déjeuner, tout était parti."
Hawkins a déclaré que son compte Instagram et son compte Facebook lié avaient été piratés, exposant ses abonnés à des attaques similaires.
C'est là qu'il a dit que le deepfake avait commencé. Hawkins a déclaré qu'une vidéo deepfake de 16 secondes avait été envoyée à ses amis et abonnés les encourageant à investir dans l'exploitation minière de Bitcoin. Il a confirmé que la vidéo ressemble et sonne comme lui.
"Cela a l'air réel, mais ils l'envoient aux gens. Ils en ont fait d'autres, je pense », a déclaré Hawkins.
Il a déclaré que la vidéo était publiée chaque jour sur les histoires Instagram depuis le piratage initial. Dans ce document, il a déclaré que le "faux Hawkins" partageait combien d'argent il avait gagné grâce à Bitcoin. Le fait est que Hawkins a déclaré qu'il n'avait jamais investi dans la crypto-monnaie.
"Je n'ai pas de Bitcoin, donc je n'ai pas fait ça", a déclaré Hawkins.
Hawkins a déclaré qu'il avait contacté les deux plateformes de médias sociaux dans l'espoir de fermer son compte, mais ses comptes Instagram et Facebook sont toujours actifs.
Extension et réglementation de Deepfake
Ben Coleman, PDG de Reality Defender, travaille avec des organisations et des agences gouvernementales pour analyser l'audio, les images et la vidéo afin de protéger la vie privée des individus, comme ainsi que lutter contre la fraude, les contenus inappropriés et rechercher une solution à la montée des deepfakes.
« L'échange de visages est une contrefaçon profonde », a déclaré Coleman. "Certains d'entre eux sont drôles, et certains d'entre eux sont utilisés pour la fraude."
Il a déclaré que les vidéos pouvaient également être potentiellement dangereuses.
Le 16 mars, lors de l'action militaire russe en Ukraine, un deepfake du président ukrainien Volodymyr Zelensky a fait surface sur les réseaux sociaux. La vidéo montrait Zelensky prononçant un discours. Cependant, il était pixélisé et avait une voix plus profonde que d'habitude. Une fois que la vidéo a été qualifiée de deepfake, Meta - la société mère de Facebook - a rapidement retiré la vidéo de toutes ses plateformes et a publié la déclaration suivante, indiquant que la société "a rapidement examiné et supprimé cette vidéo pour avoir enfreint notre politique contre les médias manipulés trompeurs, et informé nos pairs sur d'autres plates-formes. »
Ce n'était pas la première fois que Meta abordait les deepfakes. Avant l'élection présidentielle de 2020, la société a interdit les deepfakes et autres vidéos manipulées citant des tactiques dangereuses qui pourraient induire le public en erreur.
Dans un communiqué de presse Facebook de 2020, la société a déclaré qu'elle travaillait sur la question et "renforçait sa politique à l'égard des vidéos manipulées trompeuses". La politique sur les médias manipulés de Facebook indique que les vidéos non parodiques ou satiriques éditées pour induire les gens en erreur, ou les vidéos qui utilisent l'IA pour paraître authentiques seront supprimées.
Il n'y a pas de chiffres publics sur le nombre de vidéos deepfake supprimées par Facebook, mais dans un communiqué, la société a déclaré qu'elle "travaillait avec d'autres dans ce domaine pour trouver des solutions ayant un impact réel".
En septembre 2019, l'entreprise a créé un "Deep Fake Detection Challenge" qui a demandé à des experts du domaine de l'aider à créer des outils open source pour détecter les deepfakes.
CLIQUEZ ICI POUR REGARDER LA VIDÉO DU DÉFI
Meta s'est également associé à des médias comme Reuters pour aider à identifier les deepfakes et fournir une formation en ligne gratuite sur la façon d'identifier les visuels manipulés.
Ben Coleman a déclaré que même si les entreprises et les organisations de médias sociaux tentent de lutter contre le problème, des obstacles importants subsistent.
"Souvent, ces entreprises ont de gros défis parce qu'elles ont des modérateurs humains et que les modérateurs humains ne peuvent tout simplement plus faire la différence entre le vrai et le faux", a déclaré Coleman.
Le sénateur Rob Portman (R-OH) a présenté un projet de loi au Congrès l'année dernière pour obliger le Département de la sécurité intérieure et le Bureau de la politique scientifique et technologique de la Maison Blanche à créer un groupe de travail temporaire national sur la provenance des deepfakes. Le projet de loi a été renvoyé à la commission de la sécurité intérieure et des affaires gouvernementales et a été "ordonné de faire l'objet d'un rapport favorable sans amendement".
Coleman a déclaré qu'il n'existe actuellement aucune politique aux États-Unis qui oblige les entreprises à signaler les médias synthétiques et faux de la même manière qu'elles signalent actuellement la nudité et la violence des mineurs.
"Pour la plupart, [les entreprises] demandent aux utilisateurs de signaler des choses", a déclaré Coleman. "Ils s'attendent à ce que les utilisateurs soient des experts, et s'ils voient quelque chose, ils doivent dire quelque chose, puis cela est envoyé à une équipe de modérateurs humains."
Solutions deepfake publiques et privées
Selon Coleman, Reality Defender travaille actuellement à la création d'une extension de navigateur et d'un site Web pour aider les consommateurs à repérer les deepfakes à partir de leurs ordinateurs personnels.
Mais Reality Defender n'est pas seul dans la lutte contre les deepfakes.
À l'université de Virginie, une équipe d'étudiants de troisième année développe un site Web pour le public, où un jour les consommateurs pourraient télécharger des vidéos et des photos douteuses pour vérifier si elles sont fausses.
Deux de ces étudiants, Ahmed Hussain et Sam Buxbaum, étudient l'informatique et la physique. La paire a remporté le premier prix du concours Innovative Discovery Science Platform (iDISPLA). Leur proposition, qui ciblait la lutte contre les deepfakes à l'aide de l'IA, est née après que le duo a vu une augmentation des vidéos deepfake faisant surface sur Internet.
"Il est tout à fait possible que les deepfakes au cours des cinq prochaines années soient presque impossibles à distinguer des vraies personnes dans certains cas", a déclaré Hussain. "Ils arrivent au point où c'est assez difficile de le faire."
Hussain a déclaré qu'il pensait que la solution n'était pas de combattre le feu par le feu, mais d'utiliser la blockchain, un système qui enregistre les informations et rend difficile le piratage ou la triche du système.
Buxbaum a déclaré que son site Web permettrait aux gens de télécharger une vidéo et que l'algorithme indiquerait si la vidéo est fausse.
"Certaines des choses qui sont différentes entre un deepfake et une vraie vidéo ne sont détectables que sur un ordinateur, mais elles vous font quand même vous sentir bizarre quand vous la regardez", a déclaré Buxbaum.
Protéger votre compte et détecter les deepfakes
Alors que les solutions en ligne et les législateurs rattrapent la technologie, Coleman a suggéré plusieurs étapes pour empêcher un pirate d'utiliser vos photos et vidéos pour créer des deepfakes :
Lorsqu'il s'agit de repérer les deepfakes, les chercheurs du Massachusetts Institute of Technology suggèrent de regarder les traits du visage de la vidéo :
Kyle Hawkins a déclaré que son expérience l'avait rendu méfiant vis-à-vis des réseaux sociaux et de ce nouveau type de cyberarnaque.
"Soyez simplement extrêmement prudent de nos jours à propos de tout ce que vous mettez, publiez, répondez ou cliquez dessus."
Copyright 2022 Gray Media Group, Inc. Tous droits réservés.
