Pourquoi devrait-on se méfier des algorithmes de recommandation ?

La recette des algorithmes de recommandation est encore secrète pour la plupart des plateformes les utilisant.
La recette des algorithmes de recommandation est encore secrète pour la plupart des plateformes les utilisant. - © ktsimage / Istock.com

Les algorithmes de recommandation sont le sucre de votre navigation internet : invisibles et délicieux, mais en excès, ils sont désastreux pour votre santé…

Et pourtant, ils sont présents partout : presse en ligne, plateformes commerciales, services de streaming vidéo et audio, sans oublier les réseaux sociaux. Et voici de bonnes raisons de rester vigilant !

Afin de construire la confiance de ses citoyens dans leurs institutions, la Nouvelle-Zélande vient de voter une loi pour la transparence dans les usages des algorithmes utilisés par l’administration publique. Si cette mesure est une très bonne nouvelle, ne faudrait-il pas passer à la vitesse supérieure au sujet de la transparence des algorithmes de recommandation utilisés par les entreprises ? En effet, de nombreuses critiques ont émergé au cours de ces dernières années sur les systèmes de personnalisation numériques.

La bulle de "filtres"

Théorisée par Eli Praiser dès 2011, cette notion désigne la manière dont un internaute ne va trouver des résultats de recherche qu’à travers une personnalisation dont il n’a pas conscience. Cet effet restrictif des algorithmes a été perçu comme dangereux à plusieurs reprises.

En France, le CSA a notamment alerté sur les risques d’homogénéisation de l’information, d’un monopole des opinions dominantes, et d’une atteinte au libre choix. La diversité d’opinion et la diversité culturelle seraient les grandes perdantes de ces algorithmes.

L’effet "rabbit hole"

Cet effet, nommé d’après le célèbre roman de Lewis Caroll dans lequel Alice ("Les aventures d’Alice au pays des merveilles") tombe dans un terrier, désigne le "tunnel de recommandations" produit par les systèmes de personnalisation (lecture automatique et suggestions notamment).

Ses effets pervers ont surtout été dénoncés sur Youtube, puisque n’importe qui peut poster une vidéo dessus. Il a émergé après que des journalistes du "New York Times" ont découvert que des vidéos d’enfants cumulaient des milliers de vues, ce qui a laissé soupçonné que les vidéos circulaient dans des réseaux de prédateurs sexuels.

La logique économique

Les systèmes de recommandation sont aussi soumis à des logiques économiques. Il est dans l’intérêt des plateformes de garder un utilisateur le plus longtemps sur celle-ci. Une autre manière de commercialiser la présence d’utilisateurs sur la plateforme est la mise en avant de contenus publicitaires.

Facebook a depuis longtemps monétisé son système de recommandations auprès des annonceurs, avec les publications sponsorisées par exemple. Le journal "New Yorker" avait également démontré l’utilisation d’un système de mise en avant de la part d’Amazon, présenté comme de simples recommandations pour l’usager, mais financées en réalité par des marques.

Le phénomène d’enfermement

Les suggestions personnalisées ne feront pas de vous quelqu’un de curieux. Un phénomène d’usure a en effet souvent été constaté par les utilisateurs : les mêmes playlists, les mêmes vidéos reviennent en boucle dans les suggestions et à travers la lecture automatique. Car l’objectif principal d’un algorithme de recommandation, c’est d’identifier les préférences des utilisateurs. Les plateformes essaient de lutter contre ce phénomène en propulsant de la nouveauté aléatoirement dans le "feed" de l’utilisateur. Ou comment faire de la diversité culturelle un simple paramètre.

La construction de nos goûts

Les études sur le divertissement connecté et l’algorithmie se sont beaucoup développées dans le champ des sciences humaines. L’informaticien et philosophe français Jean-Gabriel Ganascia, dans son livre Mythe de la Singularité, dénonce l’illusion d’objectivité que procurent les algorithmes, telle qu’elle est défendue par les Gafa. Alors que le traitement des données est loin d'être neutre : les algorithmes qui les utilisent sont soumis à des intérêts économiques qui les poussent à faire converger les préférences des utilisateurs aux intérêts de la plateforme.

Des tendances et des goûts naissent donc de manière artificielle, sans que les utilisateurs ne s’en rendent compte.