Afin de faciliter la détection de « Fake » imitants des personnalités (comme récemment Joe Biden ou Taylor Swift), Meta met en place un système de marquage des images générées par les IA. Le géant s’associe aux autres éditeurs d’outils d’intelligence artificielle, comme OpenAI, Google et Microsoft.
Auteur / Autrice :
La position difficile de Meta avec l’IA et les Deepfakes
Le problème des Deepfakes n’en est probablement qu’à ses débuts.
À mesure que les logiciels basés sur l’intelligence artificielle se développent, il sera de plus en plus simple de reproduire l’image de n’importe qui faisant n’importe quoi avec un réalisme total. On n’a déjà parlé ici ou là de Taylor Swift, d’autres l’ont fait à propos de Joe Biden, et le sujet est connu.
Les entreprises de diffusion de contenus ont un rôle clef dans ce problème car c’est précisément leur position centrale dans la chaîne créateur > public qui leur impose une modération active et efficace.
Et parmi ces entreprises, une en particulier est au centre des attentions : Meta. Le géant derrière Facebook, Instagram, WhatsApp et Threads compte plusieurs milliards d’utilisateurs (environ un humain sur deux sur Terre).
Outre sa taille et son volume d’utilisateurs réguliers, l’autre particularité de Meta c’est que l’entreprise est elle-même à la pointe du développement en matière d’IA. Nombre de nos articles relatent les différents projets de pointe présentés par Meta ces quinze derniers mois, et l’ambition affichée par Mark Zuckerberg tout récemment allait dans ce sens.
En fait, l’ambition réelle de Zuckerberg est même de dépasser les grands noms les plus reconnus dans le domaine jusqu’à présent : OpenAI, Microsoft, Google, IBM… Sans rentrer dans les détails ici, il pourrait bien avoir déjà largement rattrapé son retard, et le budget qu’il alloue à cette ambition (au moins une trentaine de milliards de dollars) lui permettra sans aucun doute de jouer les tout premiers rôles sur le marché de l’IA en 2024 et en 2025.
Un point enfin à retenir : Zuck’ déploie pour le moment ses projets d’IA en open source, favorisant largement le développement de la communauté dans le monde entier : Llama 2, son équivalent maison de GPT-4, est devenu le LLM de référence pour des milliers de développeurs dans le monde entier avec cette distribution libre.
Mais être une entreprise de distribution de contenus d’un côté et un géant de l’IA générative pose question, surtout quand on a un rôle central dans la diffusion des informations et donc une obligation de chasser les fake news : Bloomberg titrait hier « Le conseil de surveillance indépendant de Meta prévient que les règles sur les fausses publications sont « incohérentes » ».
Le média expliquait :
« La politique actuelle de Meta bloque uniquement les fausses vidéos de personnes disant des choses qu’elles n’ont pas dites. Il ne couvre pas les représentations de personnes faisant des choses qu’ils n’ont pas faites – comme le message de Biden – et ne s’applique explicitement qu’aux vidéos créées avec des outils d’intelligence artificielle. Le contenu qui a été édité sans utiliser l’IA, comme la mise en boucle ou l’inversion d’un clip vidéo, peut être trompeur pour l’utilisateur moyen, mais n’est pas interdit. »
Alors Meta fait vite évoluer son fonctionnement, et vient de valider une nouveauté : taguer toutes les images générées par des IA sur tous ses réseaux sociaux !
Meta va taguer TOUTES les images IA sur ses réseaux sociaux
Une information fournie par Nick Clegg aujourd’hui dans un billet de blog : Meta commencera à détecter et à étiqueter les images générées par les services d’intelligence artificielle d’autres sociétés dans les prochains mois.
« À mesure que la différence entre contenu humain et contenu synthétique s’estompe, les gens veulent savoir où se situe la frontière. »
Dans le détail, le groupe utilisera des marqueurs visibles (que vous pourrez voir sur les images) et des filigranes invisibles (dans les images), ainsi que des métadonnées (IPTC) intégrées dans les fichiers. Meta avait dévoilé sa propre techno Stable Signature en octobre dernier.
Les services de Midjourney, Google (Imagen 2), OpenAI (Dall-E 3), Adobe (Firefly), Microsoft (Bing Image) et Shutterstock sont cités, mais d’autres peuvent s’ajouter à cette liste. Meta précise aussi taguer déjà tout contenu généré à l’aide de ses propres IA.
Le but est de signaler aux utilisateurs que les images qui ressemblent à de vraies photos sont en réalité des créations numériques photoréalistes. On peut par exemple penser aux images célèbres du pape en doudoune diffusées l’année dernière.
Seuls Facebook, Instagram et Threads seront touchés dans un premier temps, puisque WhatsApp est un service de messagerie privée.
« Nous voulons aider les gens à savoir quand des images photoréalistes ont été créées à l’aide de l’IA. »
L’audio et la vidéo vont suivre
Le problème des Deepfake ne vient cependant pas que des photos, mais bien plus des vidéos et des audios truqués.
Le groupe explique que ses partenaires sur ce projet n’ont pas commencé à inclure des marqueurs « dans les outils d’IA qui génèrent de l’audio et de la vidéo », et donc que Meta ne peut « pas encore détecter ces signaux et étiqueter ce contenu provenant d’autres entreprises ».
Alors il va proposer dans un premier temps une fonctionnalité basé sur le volontariat : « nous ajoutons une fonctionnalité permettant aux utilisateurs de divulguer lorsqu’ils partagent une vidéo ou un audio généré par l’IA afin que nous puissions y ajouter une étiquette. »
Le groupe précise que cette labélisation des contenus IA audio et vidéo sera « exigée » et que des contraintes et sanctions pourront être prises. Cependant, il faudra voir à l’usage si le groupe peut vraiment faire quelque chose à posteriori contre des vidéos générées par l’IA et lancées sur les réseaux n’ayant pas été taguées…
