Nettoyeur du web: à quoi ressemble le pire métier au monde?

Contenus indésirables sur le web, qui se cachent derrière votre écran?
4 images
Contenus indésirables sur le web, qui se cachent derrière votre écran? - © Tous droits réservés

"Supprimer... Ignorer.... Supprimer.... Supprimer.... Ignorer....", c'est la chanson monocorde répétée, près de 25.000 fois par jour, par les "petites mains du nettoyage informatique" engagés par les sous-traitants des géants du web. Aux Philippines, ils sont des centaines de salariés à travailler en sous-traitance des géants de la toile pour nettoyer, purger, faire disparaître, les images les plus violentes ou contraires aux règles "de la communauté". De la pédopornographie en passant par les décapitations terroristes, la violence, l'automutilation ou la nudité, des règles existent et ces petites mains sont là pour les faire appliquer docilement.

Des algorithmes? Non, du tri manuel

On parle souvent des algorithmes de Facebook, Twitter ou Google, pour masquer la triste réalité de ces humains confrontés des heures durant devant un écran pour trier manuellement les images les plus sordides de ce qu'une société mondiale peut offrir comme contenus partagés. Ces individus sont jetés dans le pire du monde, avec contrat de confidentialité et solitude extrême à la clef.

C'est tout le paradoxe des géants du web, qui se déchargent sur des sous-traitants pour "purger" les réseaux tout en bâtissant des algorithmes qui souvent alimentent la haine et la colère du monde. Un mal du 21e siècle intelligemment expliqué par Hans Block et Moritz Riesewieck dans un passionnant documentaire intitulé "Les nettoyeurs du Web - The Cleaners" qui emmène le téléspectateur, des Philippines à la Silicon Valley, et examine les deux côtés de la chaîne de fabrication des réseaux sociaux.

Des règles aux limites floues

Les règles de modération existent chez les géants du web, comme par exemple celles de Facebook. Mais celles-ci trouvent bien vite leur limite, dès lors que la question de l'art ou de la politique fait irruption dans le débat. La fameuse phrase de l'humoriste français Pierre Desproges "on peut rire de tout, mais pas avec tout le monde" nous revient en pleine actualité. Dans un monde divers et multipolaire, comment fixer des règles communes sur des sujets comme la nudité, l'art, la guerre ou la politique ?

Cachez ce sein que je ne saurais voir...

Pour promouvoir les œuvres des maîtres flamands exposées au Nord du pays, Toerisme Vlaanderen (Office du tourisme de Flandre) a diffusé en juillet dernier une vidéo ludique qui se moquait gentiment de la politique du réseau social Facebook à l'égard des nus.

Sur la vidéo, on peut voir des visiteurs de la Maison de Rubens, à Anvers, à qui l'on demande de s'éloigner des tableaux du peintre baroque car ils doivent être "protégés contre la nudité". Avec une série de musées et institutions culturelles du pays, dont Bozar, Toerisme Vlaanderen a également rédigé une lettre ouverte à l'attention de Mark Zuckerberg, le patron de Facebook. "Indécent. C'est ainsi que sont considérés les seins, les fesses et les chérubins de Peter Paul Rubens. Pas par nous, mais par vous", s'y indignent les signataires.

On pourrait en rire, mais cette censure complique la vie des acteurs culturels qui veulent faire découvrir les maîtres flamands, poursuivent-ils. L'office flamand a élaboré un plan 2018-2020 pour mettre en avant la vie et l'héritage de Rubens, Bruegel, Van Eyck et des autres peintres flamands des 15e, 16e et 17e siècles. "Malheureusement, la promotion de notre patrimoine culturel unique n'est aujourd'hui pas possible sur le réseau social le plus populaire", regrette son CEO, Peter De Wilde.

Bataille juridique

En octobre 2011 déjà, un internaute français assignait Facebook en justice pour réclamer la réactivation de son compte, au nom de la liberté d'expression sur les réseaux sociaux. Il avait tout simplement publié une photo du tableau de Gustave Courbet "L'Origine du monde".

Pendant cinq ans, le géant du net a bataillé, de recours en recours, pour tenter d'échapper à la justice française, avec comme principal argument le fait qu'étant domiciliée en Californie, la société ne pouvait être jugée qu'aux Etats-Unis.

En février 2016, la cour d'appel de Paris a mis fin à cette bataille procédurale, en confirmant la compétence de la justice française pour juger le réseau social.

La cour a confirmé l'ordonnance du tribunal de grande instance de Paris du 5 mars 2015 qui avait jugé "abusive" la clause exclusive de compétence, obligatoirement signée par tous les utilisateurs de Facebook. Cette clause désigne un tribunal de l'État de Californie comme étant le seul habilité à trancher les litiges.

Les exemples sont légions et concernent même des artistes vivants comme Illma Gore qui a vu son compte Facebook désactivé pour avoir posté la photo d’une toile où elle représente Trump affublé d’un micropénis.

trump

Dans une guerre, il y a au minimum deux visions

Doit-on "nettoyer" les réseaux sociaux des images de la guerre ou des guerres, alors qu'elles documentent les conflits ?

Le film évoque le travail de l’ONG Airwars basée à Londres, qui documente et cartographie les attaques aériennes en Syrie. Sa mission est de se dépêcher de télécharger les vidéos postées sur YouTube avant qu’elles ne soient supprimées pour en garder une trace.

Quand la politique s'en mêle

Prenons l'exemple du Président Erdogan qui demande aux géants des réseaux sociaux de supprimer des contenus d'opposition politique qu'il juge terroristes, sous peine de bloquer les sites sur le territoire turc.

Pourquoi les entreprises s'exécutent-elles ? Comment ne pas y voir une logique froidement mercantile ?

Et que dire, quand ce mardi encore, le président américain Donald Trump met en garde Twitter et Facebook contre ce qu'il estime être un manque d'impartialité, leur conseillant de "faire attention". "Google, Twitter et Facebook naviguent vraiment en eaux très troubles et ils doivent faire attention", a déclaré M. Trump depuis le Bureau ovale. "C'est injuste pour une grande partie de la population", a-t-il ajouté. "Vous ne pouvez pas faire ça aux gens, vous ne pouvez pas ! ", a-t-il martelé, à l'issue d'une rencontre avec le président de la FIFA Gianni Infantino. "Nous recevons des milliers et des milliers de plaintes", a-t-il encore dit, sans autre précision. Mardi dès l'aube, le 45e président des Etats-Unis s'en était pris avec virulence, sur Twitter et à Google, affirmant que les résultats de son moteur de recherche étaient "truqués". Cette accusation a été fermement démentie par le géant américain qui a rejeté toute "manipulation politique". 

Double discours?

Humains contre algorithmes ? Tout n'est pas simple dans le débat. Facebook par exemple a été accusé par des experts des Nations unies d’avoir laissé prospérer les discours de haine contre cette minorité birmane victime de nettoyage ethnique.

Qui sont les nettoyeurs du web?

Le plus grand mérite du film "Les nettoyeurs du Web - The Cleaners" est de nous faire rencontrer ces travailleurs qui témoignent de manière anonyme et ceux et celles qui apparaissent à visage découvert ont démissionné avant la première diffusion du film dans un festival international.

Côté pile, de "bons petits soldats"

Le film montre, "à hauteur d’homme, l’envers d’un débat devenu planétaire, celui des 'bulles de filtre', de la propagande terroriste, de la prolifération des discours de haine ou de la censure arbitraire; de donner la parole à ceux et celles qui, en quelques secondes, doivent décider de 'supprimer' ou d’'ignorer' un contenu. L’une, très dévote, vit son travail comme un 'sacrifice' pour faire disparaître 'l’immoralité' de la Toile ; un autre compare son job à celui des policiers et exprime sa sympathie pour le président philippin Duterte, engagé dans une meurtrière croisade antidrogue", expliquent les auteurs du film.

Côté face, des "gens seuls, traumatisés"

Le quotidien de ces modérateurs, ce sont aussi les souvenirs traumatiques : "J’ai vu des centaines de décapitations", explique l’un d’eux , "au péril de ma santé psychique". "C’est comme s’il y avait un virus en moi qui s’insinue dans mon cerveau", lâche une jeune femme. Tandis qu’une autre écrit dans un mail : "Mon collègue s’est pendu. […] Il était spécialisé dans les vidéos d’automutilation en direct. Voilà où on peut en arriver avec ce métier".                    

Une conclusion peu rassurante

"Facebook, Twitter et YouTube n’ont pas répondu à nos demandes", signalent les réalisateurs en fin de documentaire. Mais d’anciens responsables de ces entreprises s’expriment dans le film, et leurs témoignages sonnent souvent comme un aveu d'échec. "Avant, chaque citoyen avait le droit à sa propre opinion ; aujourd’hui, chacun a droit à sa réalité et à sa vérité", lâche, par exemple, un ancien chef de produit chez Facebook.

Les Nettoyeurs du Web - The Cleaners, de Hans Block et Moritz Riesewieck, Allemagne, 2018, 86mn, a été diffusé le mardi 28 août sur Arte à 22h30 et est disponible en replay jusqu’au 3 septembre.

Newsletter info

Recevez chaque matin l’essentiel de l'actualité.

OK