Deepfake

Les hypertrucages sont surtout connus pour avoir été utilisés afin de créer de fausses vidéos érotiques (sextapes), mettant en scène des célébrités, et de la pornodivulgation (revenge porn)[22].

Au cours de l'automne 2017, un utilisateur anonyme du site Reddit publie, sous le pseudonyme « Deepfakes », plusieurs vidéos pornographiques. La première a attiré l'attention et l'une de celles ayant suscité le plus de réactions, met en scène l'actrice Daisy Ridley. Une autre montre l'actrice Gal Gadot (vedette du fim Wonder Woman) en train d'avoir des rapports sexuels avec son beau-frère. D'autres célébrités — Emma Watson, Katy Perry, Taylor Swift ou Scarlett Johansson — ont également été la cible de vidéos créées par l’utilisateur « Deepfakes ».

Avec le temps, le faussaire a corrigé les défauts des vidéos, les rendant de plus en plus réalistes. Le phénomène des hypertrucages a d'abord été dénoncé en décembre 2017 dans la section technique et scientifique du magazine Vice, ce qui a entraîné l'apparition de nombreux reportages dans d'autres médias[23].

Au Royaume-Uni, les producteurs d'hypertrucages peuvent être poursuivis pour harcèlement, mais il y a des appels à faire de l'hypertrucage un délit à part entière[24].

La permutation de visages a été utilisée pour donner une image fausse de politiciens connus sur des portails vidéos, des plateformes de streaming et de discussion en ligne. Par exemple, le visage du président argentin Mauricio Macri a été remplacé par celui d'Adolf Hitler, et le visage d'Angela Merkel par celui de Donald Trump[25] - [26]. En avril 2018, Jordan Peele et Jonah Peretti ont montré les dangers de l'hypertrucages en créant une fausse vidéo de Barack Obama faisant une annonce publique[27].

Le deepfake peut parfois servir un but d'influence et de modification du comportement de la population, ou servir à discréditer une personnalité. En 2022, en pleine invasion russe de l'Ukraine, la chaîne d'information Ukraine 24 diffuse sur son site Internet une vidéo prétendument tournée par le président ukrainien Volodymyr Zelensky, dans laquelle il exhorte la population à rendre les armes. La vidéo était en réalité un deepfake, partagé au même moment sur les réseaux sociaux Facebook et Telegram, probablement à l'initiative de la Russie ou d'un compte pro-russe, et avait pour but de semer le trouble sur les intentions réelles du chef d'État[28].

En mars 2018, l'artiste Joseph Ayerle publie la vidéo d’art intitulée Un'emozione per sempre 2.0, dans laquelle il met en scène une Ornella Muti virtuelle, recréée par intelligence artificielle. Le logiciel était capable d’animer le visage de l’actrice italienne pour réaliser des scènes qu'elle n'a jamais jouées[29] - [30].

Ce procédé pourra également être utilisé au cinéma afin de modifier le mouvement des lèvres des acteurs afin de correspondre au doublage dans une autre langue[31].

L'émission de télévision française à caractère humoristique et satirique C Canteloup sur TF1 utilise cette technologie à partir du 18 novembre 2019, à l'occasion d'un numéro spécial intitulé C'est Canteloup, La grande Métamorphose.

Le feuilleton télévisé français Plus belle la vie a pu poursuivre le tournage de son intrigue malgré l’absence d'une comédienne, Malika Alaoui, à l’isolement car cas contact au Covid-19, en greffant son visage sur celui d'une autre actrice[32].

"Deep Fake Neighbour Wars", littéralement "La guerre des voisins façon deepfake" est une comédie en six épisodes de 30 minutes utilisant le deep fake, mise en ligne le 26 janvier 2023 sur ITV, la télévision privée du Royaume-Uni[33].

Sorti en 2022, Fairytale, réalisé par le cinéaste russe Alexandre Sokourov, utilise une technologie de deep fake pour rassembler Staline, Hitler, Churchill et Mussolini au Purgatoire.

• Adobe Voco est un logiciel prototype d’édition et de production d'hypertrucage audio conçu par Adobe qui permet la création et la modification audio novatrices. Surnommé « Photoshop-for-Voice », il a été présenté pour la première fois lors de l'événement Adobe MAX en novembre 2016.

La technologie présentée dans Adobe MAX était un aperçu pouvant potentiellement être intégré à Adobe Creative Cloud. À compter de juillet 2019, Adobe n'a pas encore publié d'informations supplémentaires sur une date de sortie potentielle[11].

• LyreBird

• WaveNet est un réseau de neurones profond permettant de générer du son brut. Il a été créé par des chercheurs de la société d'intelligence artificielle basée à Londres.

La technique, décrite dans un document de septembre 2016, est capable de générer des voix de type humaine à la voix relativement réaliste en modélisant directement des formes d'onde à l'aide d'une méthode de réseau neuronal entraînée avec des enregistrements de parole réelle. Des tests avec l'anglais américain et le mandarin auraient montré que le système surpasse les meilleurs systèmes de synthèse vocale existants de Google, même si, en 2016, sa synthèse textuelle était encore moins convaincante que le discours humain réel.

La capacité de WaveNet à générer des formes d’ondes brutes lui permet de modéliser tout type d’audio, y compris la musique[34].

Le quotidien suisse germanophone Aargauer Zeitung affirme que la retouche d'images et de vidéos à l'aide de l'intelligence artificielle pourrait devenir un phénomène de masse dangereux. Cependant, la falsification d'images et de vidéos est antérieure à l'avènement des logiciels de montage vidéo et des programmes de retouche d'images ; dans ce cas, c'est le réalisme qui devient un nouveau problème.

Il est également possible d'utiliser l'hypertrucage pour des canulars ciblés et de la pornodivulgation à des fins idéologiques ou de cyberharcèlement[35] - [36].

Un autre effet de l'hypertrucage est qu'on ne peut plus distinguer si le contenu est satirique ou authentique. Interrogé en 2018 par le site américain The Verge (qui traite de l'actualité technologique, de l'information et des médias), le chercheur en intelligence artificielle américain Alex Champandard (programmeur et cofondateur de la startup Creative) estime que

« tout le monde devrait être conscient de la rapidité à laquelle les choses peuvent être altérées aujourd'hui à l'aide de cette technique et que le problème ne doit pas venir de la technique mais plutôt être résolu par la confiance des personnes dans l'information et le journalisme. Le principal danger est de voir arriver le moment où les humains ne pourront plus déterminer si ce qui se trouve sur une vidéo correspond à la vérité ou non[37]. »

Informations immatérielles et non-palpables, les infox vidéos brisent la confiance du fait qu’elles trompent les individus[38].

Les sites Twitter et Gfycat (en) ont annoncé qu'ils allaient supprimer les hypertrucages et bloquer leurs auteurs. Auparavant, la plate-forme Discord avait bloqué un canal de discussion comportant des hypertrucages. Le site pornographique Pornhub prévoyait, lui aussi, de bloquer ces contenus, mais cette interdiction n'est toujours pas entrée en vigueur depuis 2017[39] - [40]. Chez Reddit, la situation était restée incertaine jusqu'à ce que le subreddit, — la sous-partie thématique en question —, soit suspendu le 7 février 2018, en raison de la violation de la politique de « pornographie involontaire »[41] - [42] - [43] - [44].

• Effets spéciaux numériques
• Ère post-vérité
• Infox

• Le "deep fake" : vers la fin de la vérité dans l’image numérique ?, Xavier de La Porte, France Inter, 21 mai 2019
• Le Congrès américain veut combattre les hypertrucages, Radio-Canada, 13 juin 2019
• Deepfake : faut-il le voir pour le croire ?, La Méthode scientifique, France Culture, 26 juin 2019
• Internet : les deepfakes, comment ça marche ? France info, 12 septembre 2019
• Fabien Soyez, Au-delà du politique et du porno, le deepfake changera aussi le cinéma, Cnet, 11 octobre 2019
• Morgane Tual, Deepfakes : faut-il avoir peur de ces vidéos trafiquées ?, Le Monde, 24 novembre 2019
• Jennifer Mertens, Le deepfake audio, la nouvelle arnaque tendance développée par les hackers, Bibliothèque du Parlement, 2020, 20 Minutes, [lire en ligne].
• Benoit Marini, Deepfakes : Quand l’Intelligence Artificielle transforme nos réalités ?, TedX Bordeaux, 3 novembre 2018