Pouvez-vous faire confiance à la carte sur votre smartphone, ou à l'image satellite sur votre écran d'ordinateur ?
Jusqu'à présent, oui, mais ce n'est peut-être qu'une question de temps avant que le problème croissant des « deep fakes » converge avec
sciences de l'information géographique
(SIG). Des chercheurs tels que
Professeur agrégé de géographie Chengbin Deng
font ce qu'ils peuvent pour anticiper le problème.
Deng et quatre collègues - Bo Zhao et Yifan Sun à l'Université de Washington, et Shaozeng Zhang et Chunxue Xu à l'Oregon State University - ont co-écrit un article récent dans
Cartographie et sciences de l'information géographique
qui explore le problème. Dans « Deep fake géographie ? Lorsque les données géospatiales rencontrent l'intelligence artificielle », ils explorent comment de fausses images satellites pourraient potentiellement être construites et détectées. Des nouvelles de la recherche ont été reprises par des pays du monde entier, notamment la Chine, le Japon, l'Allemagne et la France.
"Honnêtement, nous sommes probablement les premiers à reconnaître ce problème potentiel", a déclaré Deng.
Les sciences de l'information géographique (SIG) sous-tendent une multitude d'applications, de la défense nationale aux voitures autonomes, une technologie actuellement en cours de développement. L'intelligence artificielle a eu un impact positif sur la discipline grâce au développement de l'intelligence artificielle géospatiale (GeoAI), qui utilise l'apprentissage automatique - ou l'intelligence artificielle (IA) - pour extraire et analyser des données géospatiales. Mais ces mêmes méthodes pourraient potentiellement être utilisées pour fabriquer des signaux GPS, de fausses informations de localisation sur les publications sur les réseaux sociaux, fabriquer des photographies d'environnements géographiques et plus encore.
En bref, la même technologie qui peut changer le visage d'un individu dans une photo ou une vidéo peut également être utilisée pour créer de fausses images de tous types, y compris des cartes et des images satellites.
« Nous devons garder tout cela dans le respect de l'éthique. Mais en même temps, nous, les chercheurs, devons également faire attention et trouver un moyen de différencier ou d'identifier ces fausses images », a déclaré Deng. « Avec de nombreux ensembles de données, ces images peuvent sembler réelles à l'œil humain. »
Pour découvrir comment détecter une image artificiellement construite, vous devez d'abord en construire une. Pour c
e faire, ils ont utilisé une technique courante dans la création de deep fakes : Cycle-Consistent Adversarial Networks (CycleGAN), un algorithme d'apprentissage en profondeur non supervisé qui peut simuler des médias synthétiques.Les réseaux antagonistes génératifs (GAN) sont un type d'intelligence artificielle, mais ils nécessitent des échantillons d'entraînement - des entrées - de tout contenu qu'ils sont programmés pour produire. Une boîte noire sur une carte pourrait, par exemple, représenter un nombre quelconque d'usines ou d'entreprises différentes ; les différents points d'information introduits dans le réseau permettent de déterminer les possibilités qu'il peut générer.
Les chercheurs ont modifié une image satellite de Tacoma, Washington, entremêlant des éléments de Seattle et de Pékin et la rendant aussi réelle que possible. Les chercheurs n'encouragent personne à essayer une telle chose eux-mêmes - bien au contraire, en fait.
« Ce n'est pas une question de technique ; il s'agit de la façon dont les êtres humains utilisent la technologie », a déclaré Deng. « Nous voulons utiliser la technologie pour le bien, pas à de mauvaises fins. »
Après avoir créé le composite modifié, ils ont comparé 26 mesures d'image différentes pour déterminer s'il y avait des différences statistiques entre les images vraies et fausses. Des différences statistiques ont été enregistrées sur 20 des 26 indicateurs, soit 80 %.
Certaines des différences, par exemple, comprenaient la couleur des toits ; alors que les couleurs du toit dans chacune des images réelles étaient uniformes, elles étaient tachetées dans le composite. La fausse image satellite était également plus sombre et moins colorée, mais avait des bords plus nets. Ces différences, cependant, dépendaient des intrants qu'ils utilisaient pour créer le faux, a averti Deng.
Cette recherche n'est qu'un début. À l'avenir, les géographes pourraient suivre différents types de réseaux de neurones pour voir comment ils génèrent de fausses images et trouver des moyens de les détecter. En fin de compte, les chercheurs devront découvrir des moyens systématiques d'éradiquer les contrefaçons profondes et de vérifier des informations dignes de confiance avant qu'elles ne se retrouvent à la vue du public.
"Nous voulons tous la vérité", a déclaré Deng.
Publié dans:
Technologie scientifique
,
Harpur
