Deep Fake

2016 : dans le film Star Wars Rogue One, le Grand Moff Tarkin, terrible commandant de l’Etoile Noire, dialogue avec la princesse Leia âgée de 20 ans… l’acteur Peter Cushing est décédé en 1994 et Carrie Fisher n’est plus de la première jeunesse. Cette résurrection numérique a nécessité le savoir-faire et les moyens financiers de la société d’effets spéciaux de George Lucas (budget du film 200 millions de dollars). 2018, un internaute anonyme recrée, en utilisant l’application Deep Fake de Reddit, une partie de la scène en quelques minutes avec son ordinateur personnel… Sans dépenser un centime avec des logiciels et applications accessibles au grand public. Depuis cette technologie basée sur des algorithmes deep learning d’intelligence artificielle continue à progresser : toujours plus réaliste et accessible. C’est le cas de l’appli chinoise Zao qui fait le buzz en cette rentrée 2019 ou d’une vidéo deep fake de Trump annonçant la fin du SIDA. Deep fake une technologie qui inquiète jusqu’au Pentagone. 

Deep Fake : une technologie et des logiciels désormais accessible à tous

A la sortie du film Rogue One, la résurrection numérique du Grand Moff Tarkin suscite à la fois l’admiration devant la prouesse technique mais aussi la polémique. Disney, devant les protestations, s’engage à ne l’utiliser qu’avec modération. Aujourd’hui, avec Deep Fake, application utilisant les technologies deep learning d’intelligence artificielle, il devient  possible pour tout le monde (un peu geek quand même) de substituer dans une vidéo n’importe quel visage par un autre. Vous rêviez d’être Vivian Leigh avec sa fameuse robe dans « Autant en emporte le vent ». Un coup de Deep Fake et c’est presque fait vous voilà au bras de Clark Gable.

Depuis la sortie de Deep Fake, la toile est en ébullition. Une communauté de 70.000 « deepfakers » teste les potentialités du programme. Malheureusement, les geeks américains (souvent des adolescents ou post-adolescents à tendance acnéique) ne sont pas vraiment romantiques. La vidéo deep Fake aura donc eu comme première application le « fake porn ». Faire jouer virtuellement ses stars préférées ou sa voisine dans des vidéos porno. Je vous parlais il y a quelques mois du film Wonderwoman interprété par la belle actrice israélienne Gal Gadot. Elle est bien malgré elle devenue l’héroïne d’une vidéo porno visionnée plus d’1 million de fois.

Un nouveau type de fake news difficile à détecter

Bienvenue dans le monde du Fake. Il y a d’abord eu Photoshop, permettant de faire des fake photos. Ensuite il y a eu Snapchat. Mes filles s’y transforment au gré du filtre du jour en Catwoman ou en lapin. Enfin il y a eu Donald Trump avec ses fake news (selon le principe vieux comme le monde que plus on ment, plus il faut dénoncer le mensonge des autres). Il y aura désormais les fake vidéos, bientôt indécelables des vraies avec des images deep fake et des imitations de voix deep fake audio. 

Comme à chaque fois, des gogos, des pigeons ou des malchanceux y laisseront des plumes. Des illusionnistes prospéreront. Mais aussi, comme à chaque fois, nous nous adapterons pour distinguer le faux du vrai : le 1er fake pigeon voyageur a trompé son monde, pas le 2ème. Je connais une start-up prometteuse, Digiactivity, qui accompagne nos adolescents sur ce chemin. C’est l’éternelle dialectique entre l’épée et le bouclier. Avec le numérique, la vitesse d’évolution du bouclier est exponentielle. Le bouclier de l’esprit humain évoluera-t’il suffisamment vite ?

Mise à jour du 13/01/2019 : le Pentagone finance des recherches pour lutter contre les deep fake avec l’intelligence artificielle

Un an après l’arrivée d’outils pour générer des vidéos deep fake en masse, le débat et l’inquiétude grandissent sur le sujet. La technologie a continué à progresser. Les experts nous annoncent qu’il sera bientôt possible de produire des fausses vidéos indétectables.

Aux États-Unis, une agence de recherche américaine de défense liée au Pentagone finance pour 68 millions de dollars des projets technologiques pour lutter contre les deep fake. Il semble bien que seule l’intelligence artificielle pourra déceler les manipulations générées par une autre AI.

À l’heure où les fake news explosent sur les réseaux sociaux, la campagne des élections européennes sera probablement la 1ère où nous serons confrontés aux vidéos deep fake. Nous en reparlerons.

Mise à jour du 21/02/2019 : des deep fake débats? 

Une IA project debater arrive à débattre avec des humains experts en débat. On pourrait imaginer de lui donner la voix et l’image d’une célébrité : des deep fake débats en perspectives?

Mise à jour du 20/07/2019 : l’appli Deep Nude basée sur les logiciels deepfake fait le buzz avant d’être arrêtée

Dans l’article, je vous disais que la 1ère application des deep fake fut le fake porn. Dans la continuité, une start-up estonienne a eu « l’idée de génie » de créer l’application Deep Nude l’appli qui déshabille avec un bon slogan machiste « le superpouvoir que vous avez toujours voulu avoir ». Le principe de cette appli était simple : vous rentrez dans l’appli une photo d’une femme habillée. Après un petit tour dans l’algorithme de deep learning, l’appli génère une deep fake photo de la femme nue. Bien entendu, cette application ne fonctionnait qu’avec des photos de femmes. 

L’application a naturellement vite fait le buzz. Devant son succès « inattendu » et surtout face aux risques majeurs de dérive, ses créateurs ont dû la suspendre 4 jours après son lancement. Cette « bonne » idée risque malheureusement de resurgir. 

Mise à jour du 03/09/2019 : Zao l’application chinoise qui permet à tout le monde de faire des deep fake

Il était écrit que les deep fake deviendraient un phénomène de masse. Mais je n’avais pas pensé que le coup viendrait de Chine. L’application Zao sortie vendredi 30 dernier est devenue en quelques jours l’appli la plus téléchargée sur l’appstore Chinois. Cette appli vous permet de mettre votre visage à la place de celui de vos stars préférées dans des scènes mythiques de films ou de séries. On voit dans la vidéo ci-dessous John Snowboard dans Game of Thrones ou Leonardo Di Caprio remplacés avec un réalisme incroyable par le visage de jeunes chinois. 

Naturellement à l’instar de FaceApp, l’exploitation potentielle qui est faite par les propriétaires de l’appli est plus que floue. Mais ça c’est encore une autre histoire.

Mise à jour du 08/10/2019 : Trump annonce la fin du SIDA dans une vidéo deep fake

Donald Trump apparaît dans une vidéo sur fond de drapeaux américains et il annonce la fin du SIDA… grâce à Donald Trump. Encore une exubérance de l’imprévisible Président américain. Non il s’agit d’une vidéo deep fake de l’assocation Solidarités SIDA au réalisme bluffant. La vidéo a fait le buzz sur les réseaux sociaux avec plus d’1 million de vues. Le message était tellement caricatural qu’il n’y a pas eu véritablement de confusion avec la réalité mais on imagine sans peine la puissance de propagande potentielle de la technologie

Mise à jour du 20/01/2020 : Facebook annonce qu’il va interdire les deep fake

Pour fêter l’année 2020, Facebook a annoncé qu’il allait désormais supprimer les vidéos deep fake détectées sur le réseau social. Toute vidéo qui utilise l’intelligence artificielle pour mettre dans la bouche de quelqu’un des mots qu’il n’a jamais prononcés ou qui rajoute des éléments à une scène de manière trompeuse sera désormais supprimée de la plateforme. Cette annonce montre que Facebook a progressé dans sa capacité à détecter les deep fake. Elle intervient à un moment où le réseau social est attaqué pour sa tolérance aux fausses publicités politiques. Avec cette annonce, Facebook montre sa bonne volonté et espère redorer son image.