in

Les dangers sous-estimés de la géographie deepfake

Crédits : Spy Satellite Digital Bird Eye View

L’imagerie satellitaire Deepfake constitue une menace de plus en plus sérieuse pour les sécurités nationales d’après des chercheurs. Mais de quoi parle-t-on exactement ? Et quels peuvent être les dangers ?

Le deepfake est une technique de synthèse d’images s’appuyant sur l’intelligence artificielle (IA) pour superposer des fichiers audio et vidéo déjà existants. Vous obtenez alors de nouveaux contenus entièrement faux. Jusqu’à présent, les inquiétudes concernant les deepfake étaient centrées sur les vidéos manipulées par machine de célébrités et autres dirigeants mondiaux disant ou faisant quelque chose qu’ils n’ont en réalité jamais dites ou faites.

Face à ces menaces, certaines grandes entreprises de technologie comme Amazon, Facebook et Microsoft ont lancé conjointement un défi de détection de ces faux.

Toutefois, si les faux discours de politiciens et autres scènes de pornographie impliquant des célébrités se répandant sur les réseaux sociaux ont reçu une large attention du public au cours de ces dernières années, il convient de ne pas sous-estimer une autre menace : celle des images trafiquées de la Terre elle-même.

La géographie deepfake

La convergence croissante de l’IA et des systèmes d’information géographique (SIG) ont permis de faire des progrès spectaculaires dans le domaine de l’intelligence artificielle géospatiale. Toutefois, au cours de ces dernières années, des chercheurs ont également été témoins de conséquences inattendues et problématiques de cette convergence. Citons des problèmes de signaux GPS fabriqués ou encore de fausses photos d’environnements géographiques.

Pour l’heure, ces “faux” n’ont pas encore proliféré, mais certains scientifiques sont de plus en plus préoccupés par la propagation de ces données générées par l’IA. Et pour cause, de telles informations pourraient induire en erreur de diverses manières. Les humains “mentent” en effet avec leurs cartes depuis à peu près aussi longtemps que les cartes existent. Cependant, les conséquences pourraient ne pas être les mêmes aujourd’hui.

Ces fausses informations pourraient notamment être utilisées pour discréditer des histoires basées sur des images satellitaires réelles. Pour The Verge, James Vincent prend ainsi l’exemple des camps de détention Ouïghours, en Chine, qui ont gagné en crédibilité grâce aux preuves satellitaires. “À mesure que la géographie deepfake se généralise, le gouvernement chinois pourrait affirmer que ces images sont également fausses“.

deepfake satellite
Des images satellites de ce qui s’apparente à un camp d’enfermement de Ouïgours en Chine. Crédits : ASPI

Une menace pour la sécurité nationale

Ce type de technique pourrait également être un problème de sécurité nationale pour certains pays devant composer avec des adversaires géopolitiques s’appuyant sur des faux pour les tromper.

Todd Myers, responsable de l’automatisation pour la Direction de la technologie CIO à la National Geospatial-Intelligence Agence, a mis en garde l’armée américaine contre cette perspective dès 2019 suite au progrès de la Chine dans ce domaine. Grâce à une technique émergente appelée “réseaux antagonistes génératifs”, le pays peut en effet inciter les ordinateurs à “voir” des objets qui n’existent pas dans des paysages ou dans des images satellites.

L’analyste avait à l’époque imaginé un scénario dans lequel un logiciel de planification militaire était trompé par de fausses données révélant un pont à un emplacement incorrect. “D’un point de vue tactique, vous pourriez alors entraîner vos forces à suivre une certaine route vers ledit pont, alors qu’en réalité il n’y a aucun pont“, expliquait alors Myers. “Et sur place, une grande surprise vous attend“.

Sensibiliser et contrer le problème

Pour Bo Zhao, de l’Université de Washington, la première étape pour s’attaquer à ce problème est de reconnaître la menace. Dans un récent article, le chercheur détaille comment il a pu créer avec son équipe leurs propres images satellites générées par l’IA. Ainsi qu’il le détaille dans The Verge, le but était alors de “démystifier l’idée que les images satellites sont d’une fiabilité absolue” et de “sensibiliser le public à l’influence potentielle de la géographie deepfake“. Selon lui, son article est en effet probablement le premier à aborder le sujet de ces “faux” dans ce domaine.

Dans le cadre de leur étude, Zhao et ses collègues ont également créé un logiciel de détection capable de repérer les contrefaçons satellitaires en fonction de caractéristiques telles que la texture, le contraste et la couleur. Ils soulignent en revanche qu’un tel outil aurait besoin de mises à jour constantes pour suivre les améliorations du deepfake.