"Amazon, Microsoft et Facebook se lancent dans la guerre contre les deepfakes", peut-on lire sur le média américain ZDNet, ou encore "La Californie interdit les deepfakes en période d'élections", sur The Verge. De l'autre côté de l'océan Atlantique, il semblerait que les deepfakes soient au cœur du débat public. En France, c'est loin d'être le cas, du moins pour l'instant. Nombre de nos concitoyens et concitoyennes ignorent encore presque tout de ce phénomène inquiétant. On fait un point sur la situation.

Les deepfakes : entre contrefaçon et usurpation

L'apparition des premières vidéos deepfakes remonte à 2017. Il s'agit d'une technique permettant de remplacer un visage par un autre, dans une vidéo. Un peu comme le face swap de Snapchat, mais de manière beaucoup plus convaincante. Il est alors possible de donner au visage des expressions, des mouvements de bouche et tout ce qui le rend humain. Comme dans la vidéo ci-dessous ou le visage de Jack Nicholson, dans le film Shining, a été remplacé par celui de Jim Carrey. Le résultat est bluffant, on y voit que du feu. Pourtant, il n'a jamais auditionné pour le rôle.

Vous allez probablement nous dire qu'il n'y a rien de nouveau sous les tropiques. Eh bien si, justement, il y a du nouveau sous les tropiques. La grande nouveauté, depuis 2017, c'est qu'il n'est plus nécessaire d'être un grand spécialiste des effets spéciaux pour arriver à ce résultat. Une intelligence artificielle s'occupe de tout, grâce à un mécanisme brillant et complexe. Un premier algorithme va essayer de générer des imitations aussi crédibles que possible tandis qu'un deuxième algorithme tentera de son côté de détecter les faux le plus rapidement possible. Les imitations seront donc générées encore et encore, perfectionnées, peaufinées, jusqu'à ce que le second algorithme ne puisse plus les déceler. Le résultat final trompe l'algorithme comme l'œil humain.

C'est quoi le problème avec les deepfakes ?

Il n'aura pas fallu longtemps pour que l'on soit confronté aux premiers problèmes des deepfakes. Et comme bien souvent, avec les êtres humains, tout finit toujours par tourner autour de la pornographie. Dès 2018, partout sur internet, on trouve des vidéos pornographiques deepfakes dans lesquelles sont mises en scène des célébrités. Ariana Grande, Katy Perry, Taylor Swift, Emma Watson, Gal Gadot ou encore Scarlett Johansson, toutes apparaissent dans des vidéos de ce genre, dans lesquelles, bien entendu, elles n'ont jamais tourné.

Et c'est là qu'on se rend compte que quelque chose cloche. Avec les deepfakes, on peut mettre en scène n'importe qui dans n'importe quelle situation. Taylor Swift avait-elle envie d'apparaître dans une vidéo pornographique sur internet ? Probablement que non. Et pourtant, cette vidéo est là, contre son gré. Qu'elle le veuille ou non, avec les deepfakes, l'intelligence artificielle peut lui faire faire ce qu'elle veut.

Quand les deepfakes s'invitent en politique

Mais ça ne s'arrête pas là. Les deepfakes n'allaient pas simplement se cantonner à la pornographie. Rapidement, un nouveau pas est franchi. Si on peut faire faire n'importe quoi à n'importe qui, alors on peut forcément lui faire dire n'importe quoi également. Ça ne manque pas et ça devient de plus en plus inquiétant. Les deepfakes s'insèrent alors dans la sphère politique. L'intelligence artificielle peut alors transformer complètement le discours d'un homme ou d'une femme politique pour lui faire déclarer n'importe quoi. C'est ce que démontre le réalisateur Jordan Peele en se faisant passer pour l'ancien président des États-Unis Barack Obama, le temps d'une deepfake.

En période d'élection, n'importe quel candidat pourrait perdre toute sa crédibilité et son électorat à cause d'une vidéo deepfake. On pourrait alors voir Donald Trump expliquer qu'il est un agent secret russe depuis le début, Hillary Clinton raconter qu'elle n'existe pas et qu'elle a toujours été Bill Clinton portant un masque ou Angela Merkel annoncer que l'Allemagne entend quitter l'Union Européenne. Après de telles allégations, personne ne voudrait voter pour eux, alors qu'elles n'ont jamais rien dit de tout ça.

Et le problème, c'est qu'on n'a pour l'instant aucun moyen de lutter contre les deepfakes. Elles trompent les algorithmes autant que l'œil humain. Mais peut-être plus pour longtemps. L'université de Berkeley aux États-Unis est actuellement en train de travailler sur une intelligence artificielle qui serait capable de détecter ces fausses vidéos avec un taux de réussite de 95%. Tant qu'aucun remède n'est disponible, il ne reste donc plus qu'une seule chose à faire : prendre tout ce que l'on voit sur internet avec précaution et envisager la possibilité que ce soit un faux.

Sources : ZDNet, The Verge, Le Big Data, Blog Tuto, 20 minutes, BuzzFeed