La collecte massive d’informations et l’usage de deep fake dans des opérations d’influence, voici ce que présente un rapport de l’US SOCOM.
Auteur / Autrice :
Les Deep Fake, outils assumés des agences américaines
D’après le média The Intercept le 6 mars 2023, une agence majeure du gouvernement américain réfléchirait activement à franchir un cap critique dans l’usage d’outils de désinformation et de propagande : les « deepfake ». Un très long document déclassifié produit par l’US SOCOM (United States Special Operations Command) permet de découvrir les axes que veulent développer et mettre en oeuvre les Etats-Unis.
Dans ce document de 23 pages, qui peut être directement consulté via ce lien, c’est à la section 4.3.1, page 16, qu’on découvre l’axe « Military Information Support Operations » ou MISO, fait pour « les opérations d’influence, la tromperie numérique, la perturbation des communications et les campagnes de désinformation aux niveaux tactique et opérationnel ». Un intitulé sans ambiguïté, qui précède noir sur blanc des orientations qui peuvent faire froid dans le dos, divisées en trois points.
- Alinéa 1
« Provide a next generation capability to collect disparate data through public and open source information streams such as social media, local media, etc. to enable MISO to craft and direct influence operations and messages in relevant peer/near peer environments ». Soit en français : « Fournir une capacité de nouvelle génération pour collecter des données disparates par le biais de flux d’informations publics et ouverts tels que les médias sociaux, les médias locaux, etc. pour permettre à MISO d’élaborer et d’orienter les opérations d’influence et les messages dans des environnements pertinents pour les pairs/proches des pairs. »
En d’autres terme, le gouvernement américain travaille à sa prochaine génération de collecte massive de données « publiques », disponibles sur les réseaux sociaux, dans les médias, pour « élaborer et d’orienter les opérations d’influence ». Ce qu’on appelle couramment du lobbying, ou de la propagande.
Une pratique déjà assumée publiquement par le passé, et très bien résumé par l’une des agences principales US, la CIA, dans un très intéressant document de 4 pages cité par le Journal du geek.
- Alinéa 2
« Provide a next generation of “deep fake” or other similar technology to generate messages and influence operations via non-traditional channels in relevant peer/near peer environments. » Soit en français : « Fournir une nouvelle génération de « deep fake » ou d’autres technologies similaires pour générer des messages et influencer les opérations par des canaux non traditionnels dans des environnements pertinents de pairs/proches de pairs. »
Les mots sont à nouveau sans ambiguïté : « Fournir une nouvelle génération de « deep fake » ». Pour rappel, un deep fake est un document (essentiellement un extrait sonore, une photo, ou une vidéo) produit numériquement, qui utilise l’image et/ou la voix d’une personne (à son insu généralement) pour lui faire dire des choses qu’elle n’a pas dit. Par exemple : utiliser une vidéo de Joe Biden, et changer l’animation de son visage, pour lui faire prononcer un faux discours de déclaration de guerre contre le gouvernement chinois, généré par ordinateur d’après sa voix.
Le passage parle aussi d’utiliser « d’autres technologies similaires », et de faire usage de ces deep fake « pour générer des messages et influencer » : là encore, il va s’agir d’activité de lobbying ou de propagande.
Une arme comme une autre ?
- Alinéa 3
« Generate next generation capability to “takeover” Internet of Things (IoT) devices for collect data and information from local populaces to enable breakdown of what messaging might be popular and accepted through siftingof data once received. This would enable MISO to craft and promote messages that may be more readily received by local populace in relevant peer/near peer environments. » Soit en français : « Créer une capacité de nouvelle génération pour « prendre le contrôle » des dispositifs de l’Internet des objets (IoT) afin de collecter des données et des informations auprès des populations locales pour permettre la décomposition des messages qui pourraient être populaires et acceptés grâce au criblage des données une fois reçues. Cela permettrait à MISO d’élaborer et de promouvoir des messages qui pourraient être plus facilement reçus par la population locale dans des environnements pairs/proches pertinents. »
Cette fois, il s’agit donc de passer par les objets connectés : réveils, montres, fours, téléphones, interphones, consoles de jeux, écouteurs bluetooth… On en comptait 4,4 milliards en 2022, d’après le cabinet d’études de marché américain IoT Analytics. Et de les utiliser comme « cheval de troie » pour « collecter des données et des informations auprès des populations », mais surtout suivre l’adoption et « l’acceptation » de messages promus par MISO.
Pour résumer ces trois point : la SOCOM et le programme MISO envisagent de nouveaux moyens technologiques pour collecter massivement des données et des informations, en passant notamment par l’espionnage des objets connectés. Et de diffuser des messages et des informations orientées, par tous les moyens, et notamment via l’usage de deep fake.
Quand on voit le niveau de technicité des deep fake actuels, qui sont déjà presque indétectables par un humain moyen, on ne peut que craindre les conséquences d’un usage standardisé à l’échelle d’une nation.
Mais ce qui est encore plus effrayant, c’est le recours à des « pairs/proches de pairs », cités dans les trois alinéas : en d’autres termes, ce programme américain voudrait utiliser l’image d’un de vos amis, par exemple, ou d’un ami de vos amis, pour vous transmettre une information orientée, via l’usage d’un deep fake. Et ceci en vous connaissant via l’écoute et l’espionnage massif, et en suivant ensuite l’adoption de ce message, via les mêmes canaux.
