Mot-clé - deepfakes politiques

Fil des billets

mercredi 20 novembre 2019

Comment les deepfakes débarquent en politique

Matteo Renzi, ancien ministre de l'Intérieur italien, et fondateur du nouveau parti Italia Viva, est assis dans un bureau luxueux, face caméra, entre une peinture et un buste style Renaissance, juste avant le tournage d'une interview en duplex. Un technicien vérifie si le son fonctionne, puis sur ces images tournées à son insu, il insulte plusieurs personnalités politiques du pays dont le président du Conseil Giuseppe Conte et le ministre des Affaires étrangères Luigi di Maio, bras d'honneur à l'appui.

Réalité? Trucage? La performance a choqué des téléspectateurs Italiens, qui ont vivement réagi sur les réseaux sociaux face à la diatribe de l'ancien premier ministre. Mais ce n'était pas Matteo Renzi qui paraît. En y regardant de plus près, la voix et les gestes sont différents. Même le visage semble déformé.

La séquence a été diffusée le 23 septembre dernier à la télévision italienne, dans l'émission satirique "Striscia la notizia", à mi-chemin entre "Quotidien" et feu "Les Guignols de l'info". L'émission a tourné les images avec un imitateur reprenant la voix et la gestuelle de Renzi, et a appliqué sur son visage, en utilisant une technologie d'intelligence artificielle, le visage de l'ancien ministre. Sur son site web, la production de l'émission explique que ce résultat est "pour le moment unique au monde". Les publications sur les réseaux sociaux ont souligné immédiatement, qu'il s'agissait d'une parodie, mais ce n'était pas le cas de la version diffusée à la télévision.

Plus inquiétant : le principal intéressé, Matteo Renzi, s'est amusé de cette parodie. "L'imitation est parfaite, mais c'est une imitation", écrivait-il sur son compte Instagram, en omettant la portée dangereuse de montages d'un tel réalisme. Avant de faire son mea culpa, plus tard, sur sa page Facebook : "Effectivement, j'ai sous-évalué la portée potentiellement dévastatrice du deepfake, la nouvelle technique de pointe des fake news", dit-il.

Les deepfakes: ces vidéos, où l'on injecte une dose d'intelligence artificielle, à des fins parodiques - ou de désinformation - c'est peut-être un des prochains outils de manipulation politique, en particulier pour la prochaine campagne des élections présidentielles américaines de 2020, qui est déjà engagée. Il y a quelques années, ces deepfakes étaient une nouveauté, créées par des codeurs amateurs. Aujourd'hui, leur conception est facilitée par des services et start-ups qui les proposent à prix réduit.

L'application mobile DeepNude, tout Comme l'appli chinoise Zao sortie en août, permettent de coller des visages facilement sur des images existantes. Pour l'heure, on peut seulement sélectionner une banque de séquences vidéo prédéfinie, mais l'application, simple à l'usage, a suscité de nombreuses inquiétudes. L'outil Zao a par exemple permis en février dernier à l'émission "Complément d'Enquête" de France 2 de faire dire à Emmanuel Macron qu'il se lançait dans la télévision.

On imagine les dérives possibles. "Des clips frauduleux de dirigeants d'entreprises pourraient faire couler des sociétés. Des vidéos ou bandes son audios de dirigeants de banques centrales pourraient faire osciller les marchés financiers", s'inquiétait récemment le Wall Street Journal, dans une longue enquête.

D'autres cas de duperie par des deepfakes vidéos se sont déjà déroulés ces derniers mois : en mai dernier, le parti socialiste flamand, en Belgique, a publié une fausse vidéo de Donald Trump appelant la Belgique à quitter l'accord de Paris sur le climat. La révélation de la supercherie ("Tout le monde sait bien que le changement climatique c'est faux... comme cette vidéo") n'étant pas sous-titrée, elle a été prise comme telle par une partie des internautes.

2donald_j_trump_on_twitter_pelosi_stammers_through_news_conference_.__-_copie.jpg

Autre exemple récent, un discours au ralenti de Nancy Pelosi, présidente (démocrate) de la Chambre des Représentants des Etats-Unis depuis 2019: cette vidéo s'est répandue via des médias conservateurs, et les critiques de la femme politique l'ont prise comme preuve d'un supposé problème mental ou d'une maladie- même Rudi Giulany, l'avocat de Donald Trump, l'avait alors retweetée, avant de la supprimer, en défendant son choix. Trump lui-même a posté une autre vidéo déformée de Nancy Pelosi, qui est toujours en ligne - elle compte plus de 30 000 retweets et 90 000 likes.

La réplique ne s'est pas faite attendre: des start-ups proposent maintenant des apps et services de vérifications de vidéos. Comme l'appli américaine Amber, ou encore la start-up Deeptrace.