Zao : l'application de vidéos "deepfake" dont il faut se méfier

Zao, c'est une application chinoise qui existe depuis le 30 août dernier. Le principe est plutôt drôle, puisqu’il permet de remplacer notre visage dans une scène de film ou dans un clip vidéo, de quoi se prendre pour notre star préférée pendant quelques minutes et s’amuser avec ses amis.

Sauf que la technologie qui se cache derrière cette application a de quoi nous inquiéter. Celle-ci repose sur la technologie du deepfake (mélange de deep learning + fake news). Le deep learning, c'est une technologie qui permet d'étudier les visages, la voix et les expressions d’une personne. Elle permet à l’ordinateur d’apprendre par lui-même grâce à des images qu’il va analyser.

Politique de confidentialité

Une des premières questions à se poser sur cette application (et aussi sur beaucoup d’autres applications), c’est sur la politique de confidentialité. Que font-ils des images de nous qu’ils récoltent via l’application ? Jusqu'à ce dimanche, l’entreprise Momo qui commercialise l’application Zao avait le droit " irrévocable ", " permanent " et " transférable " d’utiliser les contenus générés par les utilisateurs. Mais suite à la critique, l’entreprise a promis de désormais n’utiliser les photos et les vidéos mises en ligne par les internautes que pour améliorer l’application et de retirer de ses serveurs tout contenu ayant été effacé par les utilisateurs. De quoi être rassuré ou pas, c’est selon ...

Le deuxième problème, c'est que grâce à ce type d’application, on met le deepfake à la portée de tous et donc n’importe qui peut faire dire n’importe quoi à n’importe qui. Ce qui est inquiétant et ce qui laisse énormément de place pour des utilisations malveillantes. 

De plus, si on veut parler de choses plus sérieuses, imaginez à quel point on pourrait se faire manipuler pendant une période électorale grâce à cette technologie. De quoi redoubler d’attention et ne pas croire tout ce qu’on voit sur internet...

Newsletter info

Recevez chaque matin l’essentiel de l'actualité.

OK