Un deep fake chante « Hier encore » avec la voix d’Emmanuel Macron, et c’est bluffant.
Auteur / Autrice :
L’intelligence artificielle fait chanter n’importe quoi, à n’importe qui
Le 1er mai 2023, alors qu’une France en liesse paradait gaiement dans le calme la joie, et la bonne humeur (non), encadrée de pandores enthousiastes (non), celui que l’on appelle parfois « le pape de l’IA » prenait la parole dans les colonnes du New York Times.
Et Geoffrey Hinton se montrait alarmiste : L’homme qui a un pendant demi-siècle développé la technologie au cœur des chatbots comme ChatGPT annonçait avoir démissionné de ses fonctions chez Google/Alphabet, où il travaillait depuis plus d’une décennie et était devenu l’une des voix les plus respectées dans le domaine de l’intelligence artificielle. Une démission faite pour pouvoir s’exprimer librement, sans être tenu par des engagements contractuels.
Et son point de vue est apocalyptique sur l’IA : « Il est difficile de voir comment vous pouvez empêcher les mauvais acteurs de l’utiliser pour de mauvaises choses ».
Le prix Turing 2018 explique que à mesure que les entreprises améliorent leurs systèmes d’IA, ils deviennent de plus en plus dangereux :
« Regardez comment c’était il y a cinq ans et comment c’est maintenant », a-t-il déclaré à propos de la technologie de l’IA. Prenez la différence et propagez-la vers l’avant. C’est effrayant. {…}
Les géants de la technologie sont enfermés dans une compétition qui pourrait être impossible à arrêter. {…}
La personne moyenne “ne pourra plus savoir ce qui est vrai” ».
Emmanuel Macron chante Aznavour
Difficile de lui donner tort, lorsque l’on voit le niveau déjà extraordinaire des « deep fake », et notamment dans le domaine de la musique. Nous parlions il y a une dizaine de jours d’un morceau généré avec l’IA et utilisant les voix de Drake de The Weeknd, « Heart on my sleeve » (voir notre article), et la semaine dernière d’un autre morceau beaucoup plus perfectionné, modifiant la voix chanté d’un rappeur américain avec la voix de Drake sur le titre « Not A Game » (voir notre article).
Et voilà maintenant que c’est un classique du répertoire de Charles Aznavour, la chanson « Hier encore », qui est cette fois modifiée par une intelligence artificielle pour chanter avec la voix de… Emmanuel Macron !
Oui, oui, le Président de la République française en train de chantonner « Hier encore, j’avais vingt ans, je caressais le temps », c’est désormais réel. En fait, la reprise est complète de la chanson de Aznavour sortie en 1964, jusqu’aux derniers trémolos finaux (« À préseeeeent, Meeees vingt aaaaaans »).
Un résultat très convaincant, qui pourrait faire croire que le Président de la République a donné de la voix pour une noble cause, comme « Les enfoirés ». Mais une technologie effrayante, puisque n’importe qui pourra à l’avenir utiliser la voix de n’importe qui, pour lui faire dire n’importe quoi.
C’est à la chaine youtube « Defend Intelligence » que l’on doit cette “oeuvre”, qui ne peut que donner du grain à moudre aux idées de Geoffrey Hinton.
