Qu'est-ce qu'un deepfake ?

Bonjour, je m'appelle Becky Sanders. J'ai étudié à l'université Central aux États-Unis, je m'intéresse à l'être humain et j'aimerais vraiment rejoindre votre réseau LinkedIn. Voici ma photo de profil. Pensez-vous que je suis une vraie personne? 

Malheureusement, je ne suis pas Becky. En fait, Becky Sanders n'existe pas. Sa photo de profil est un deepfake : un élément multimédia créé artificiellement, tel qu'une photo ou une vidéo. Parfois, les deepfakes se présentent sous la forme d'une vidéo d'une personne faisant quelque chose qu'elle n'a jamais fait ; parfois, sous la forme de photos de personnes qui n'ont jamais existé, créées en mélangeant plusieurs visages de personnes réelles. Désormais, les deepfakes peuvent même aller jusqu'à copier la voix d'une personne pour lui faire dire quelque chose qu'elle n'a jamais dit. 

Les deepfakes semblent souvent très réalistes, car leurs créateurs ont recours à une technologie de pointe en matière d'apprentissage profond appelée GAN (réseaux antagonistes génératifs). En réalité, le terme « deepfake » est un mot-valise dérivé de «  deep learning » (apprentissage profond) et « fake » (faux). Cependant, la technologie est encore loin d'être parfaite, en particulier en ce qui concerne la vidéo. La plupart des deepfakes présentent de subtiles imperfections qui peuvent  être repérées si vous savez où regarder.

Comment repérer les deepfakes ?

Si vous craignez qu'une photo ou une vidéo soit un deepfake, il existe des signes révélateurs simples. Vous devez rechercher en particulier les incohérences numériques : les zones qui ne vont pas ensemble. Un peu comme les énigmes pour enfants où il faut découvrir les 7 erreurs : par exemple, une balançoire avec une seule corde ou un reflet tourné dans le mauvais sens dans un miroir. Dans les deepfakes, les incohérences peuvent se situer sur des lunettes qui n'atteignent pas complètement l'oreille, ou une barbe qui ne bouge pas avec le visage lorsque la personne parle. Les lèvres sont une autre zone où l'on peut repérer les erreurs : souvent, les deepfakes ont des lèvres qui ne semblent pas naturelles ou qui ne correspondent pas aux autres traits du visage de la personne.

Vous pouvez également rechercher les artefacts numériques : des éléments que les  ordinateurs ont du mal à générer correctement. Il peut s'agir de textures faciales (le visage, en particulier le front, est peut-être trop lisse), d'ombres (qui ne sont peut- être pas au bon endroit) ou de sourcils à l'aspect irréaliste. 

Photo Credit: AP Photo

Enfin, dans les vidéos animées, faites attention aux clignements des yeux. La personne semble-t-elle cligner des yeux trop peu ou trop souvent ?  

Quels sont les différents types de deepfake ?

Les premiers deepfakes étaient axés sur la modification des visages dans les vidéos, par exemple en remplaçant le visage d'un acteur par celui d'une autre personne dans un film. Ces deepfakes, bien que peu convaincants, ont eu de graves conséquences négatives lorsqu'ils ont été répandus sans le consentement préalable des personnes qui y apparaissaient. C'est d'autant plus vrai que beaucoup de gens ne savent pas encore qu'il est possible de créer des deepfakes. 

Les chercheurs en IA ont immédiatement compris que cette technologie pouvait être  utilisée pour usurper l'identité de dirigeants mondiaux et d'autres personnalités  influentes. Ils ont donc présenté une preuve de concept en 2018 : une vidéo deepfake  de l'ancien président Obama mettant en garde contre les dangers des deepfakes !

Cependant, dans cette vidéo, c'est l'humoriste Jordan Peele qui double Obama. En  effet, il faudra encore attendre plusieurs années pour créer des voix réalistes. Même  avec des technologies avancées comme Lyrebird, la voix générée peut sembler robotique si vous écoutez attentivement. 

En vous appuyant sur les conseils que nous vous avons donnés ci-dessus, vous pouvez constater que cette vidéo est fausse. Par exemple, le front de l'ancien président Obama  est anormalement lisse. Ensuite, les rides autour de sa bouche ne bougent pas  naturellement lorsqu'il parle. Enfin, les ombres sur ses pommettes semblent peu  naturelles par rapport à la direction de la lumière dans le reste de la vidéo. 

Les deepfakes ont également été utilisés pour générer de fausses photos de profil pour les comptes « faux-nez » sur les réseaux sociaux. Par exemple, une photo de profil a  été générée pour LinkedIn pour une certaine Katie Jones, qui n'existe pas. La même  technique a également été utilisée sur Twitter et YouTube pour une armée de comptes  « faux-nez ».

Photo Credit: PC Magazine

Plus récemment, des deepfakes se sont répandus dans le cadre de l'invasion de l'Ukraine par la Russie, avec notamment une fausse vidéo du président Volodymyr Zelensky se rendant. Ce deepfake a été déployé sur un site d'information ukrainien piraté et largement diffusé à partir de là. Là encore, si vous savez où regarder, il est évident que cette vidéo est un faux : la barbe ne bouge pas de manière cohérente avec le visage et le teint de la peau du cou ne correspond pas à celui du visage. Vous pouvez également voir que le visage est recadré de manière maladroite pour éviter de montrer le front et la racine des cheveux, là où il est le plus facile de détecter les fausses vidéos. Facebook a identifié et retiré cette vidéo.

D'autres deepfakes se sont répandus dans le cadre de ce conflit, par exemple celui du président Poutine annonçant la paix avec l'Ukraine. Vous pouvez à nouveau constater que le front est anormalement lisse, et que le mouvement des joues et de la bouche n'est pas naturel. Enfin, la ligne des cheveux ne semble pas non plus réaliste. 

L'avenir des deepfakes

À l'avenir, nous pouvons nous attendre à ce que les deepfakes soient intégrés dans le paysage plus large de la guerre de l'information et de la désinformation. La vidéo de Zelensky, en particulier, représente l'association du piratage, de la création de deepfake et de la diffusion de cette vidéo par des chaînes de propagande parrainées par l'État, ainsi que par divers bots de réseaux sociaux.

Nous pouvons également prévoir l'utilisation de deepfakes pour le catfishing, le phishing, et d'autres menaces qui combinent les risques de cybersécurité traditionnels et les faiblesses émotionnelles humaines. 

Pour contrer ces menaces, nous devons adopter une approche tout aussi globale : sécuriser nos terminaux et nos serveurs à l'aide d'une cybersécurité de pointe, détecter les deepfakes à l'aide de méthodes manuelles et assistées par ordinateur, et mettre fin à la diffusion de la désinformation par des bots et des « faux-nez » sur les réseaux sociaux.