Quand l'intelligence artificielle recrée n'importe quelle voix

L’intelligence artificielle est désormais capable de recréer des voix de toutes pièces. Headliner, c’est le nom d’une start-up qui travaille des systèmes d’intelligence artificielle appliqués à la vidéo et au son. L’application est un outil public, ouvert à tous.

C’est ce qu’on appelle les deepfakes. Les deepfakes, c’est la nouvelle version des fakenews. Avec les deepfakes, on va un cran plus loin dans la manipulation. Le producteur du deepfake créée une histoire de toutes pièces à partir de personnages bien réels.

Quand l’intelligence artificielle fait parler Donald Trump

Vous en avez sûrement déjà entendu parler grâce à cette vidéo de Donald Trump. On l’a entendu, ce n’est pas encore parfait, Donald Trump ne s’exprime pas de façon totalement fluide. Il a aussi un accent quand il parle français

C’est d’ailleurs une application destinée à faire des parodies, c’est mentionné clairement sur le site Internet.

A voir et à essayer : https://voice.headliner.app/

Cette application est une version de démonstration destinée au grand public. Mais certaines sociétés spécialisées dans l’intelligence artificielle planchent sur des systèmes beaucoup plus élaborés. Le professeur Kai Fu Lee a récemment présenté un logiciel chinois au Upfront Summit à Los Angeles. Avec ce type de logiciel, on pourrait faire dire n’importe quoi à n’importe qui. C’est plutôt inquiétant.

Les techniques du deepfake

On peut donc recréer une voix. On peut aussi recréer une image, par exemple en superposant la photo d’une personne sur le corps d’un autre. Avec des programmes comme Photoshop et un peu de dextérité, ce n’est pas très compliqué. On peut même copier le style d’écriture de quelqu’un. Open AI, une ONG qui fait de la recherche en intelligence artificielle, a créé un robot rédacteur, qui est capable de poursuivre l’intrigue du Seigneur des Anneaux, il peut compléter un article de presse, et même y intégrer de fausses citations. Ce robot rédacteur est tellement performant qu’Open AI a décidé de ne pas publier les résultats de ses recherches, pour éviter qu’une personne malintentionnée s’en empare pour créer ces fameuses deepfakes.

Vous avez peut-être vu passer cette vidéo de Barack Obama créée l’année dernière par le site d’infos Buzzfeed, dans laquelle Obama insulte Donald Trump. C’est très réaliste mais c’est surtout un montage, le but était de montrer que cette technologie est au point, et qu’on peut très vite se faire manipuler.

Comment se prémunir de ces deepfakes ?

A titre individuel, on ne le répétera jamais assez, il faut se méfier des liens trop vite partagés sur les réseaux sociaux, rester critique évidemment. Sur Internet, les grands médias ont mis en place des équipes de fact checking, de contrôle des faits, pour détecter les fake news. C’est toujours utile de suivre le travail de ces journalistes. Mais à l’avenir ce qui attend ces équipes de fact checking, ce sont des défis technologiques. Pour démonter des deepfakes sophistiqués, il faudra disposer d’outils performants capables de déceler les contenus fabriqués de toutes pièces. On risque d’assister à une sorte de course technologique entre les producteurs de deepfakes et ceux qui cherchent à les débusquer. Le journal Les Echos a interrogé un professeur de l’Université de New York, qui fait des recherches sur la détection des deepfakes. Son équipe a découvert une manière de repérer de fausses vidéos en analysant les clignements des yeux. Il a publié son étude. Trois semaines plus tard, ce défaut était corrigé. On voit que ces techniques se perfectionnent extrêmement vite. Il faudrait peut-être bientôt penser à faire analyser mes chroniques par un laboratoire spécialisé pour être sûr que c’est bien moi qui parle.

Newsletter La Première

Recevez chaque vendredi matin un condensé d'info, de culture et d'impertinence.

OK