Call centers automatisés, chat bots... Le consommateur aura le droit de demander à parler à un être humain

"L'homme doit toujours être responsable en dernier ressort de la prise de décision"
"L'homme doit toujours être responsable en dernier ressort de la prise de décision" - © Wutthichai Luemuang / EyeEm - Getty Images/EyeEm

Lorsqu'un consommateur interagit avec un système de décision automatisée, il devrait être correctement informé de la façon de joindre un humain détenant le pouvoir de décision, ont affirmé jeudi les députés de la commission du marché intérieur et de la protection des consommateurs du Parlement européen.

Ce consommateur devrait aussi être correctement informé du fonctionnement du système et de la manière dont les décisions de ce dernier peuvent être vérifiées et corrigées, selon une résolution de l'eurodéputée belge Petra De Sutter (Groen, Verts/ALE) adoptée à l'unanimité moins quatre abstentions.

Lors de son entrée en fonction comme commissaire européenne à l'agenda numérique fin de l'année dernière, la vice-présidente Margrethe Vestager a promis de présenter dans les 100 jours des propositions réglementaires sur l'intelligence artificielle, avec une attention particulière pour ses implications "humaines et éthiques". En charge de la défense des consommateurs et de la préservation des droits à l'ère numérique, le commissaire belge Didier Reynders devrait présenter une note politique le 19 février prochain.

"L'homme doit toujours être responsable en dernier ressort de la prise de décision"

En adoptant ce jeudi une résolution sur le sujet, à confirmer prochainement en plénière, le Parlement cherche à peser sur ces futures propositions.

Les élus réclament que les systèmes de décision automatisée (ADM) utilisent des ensembles de données et des algorithmes explicables et "non biaisés". "L'homme doit toujours être responsable en dernier ressort de la prise de décision", souligne Mme De Sutter, citant en particulier tout ce qui est lié aux professions dans le domaine médical, juridique et comptable.

Les députés demandent un système d'évaluation des risques pour l'intelligence artificielle et l'ADM ainsi qu'une approche européenne commune. Ils veulent aussi que la Commission européenne contrôle l'application de la réglementation interdisant un géoblocage injustifié, afin de garantir que l'ADM ne soit pas utilisée pour discriminer les consommateurs sur base de leur nationalité, lieu de résidence ou localisation temporaire.

Newsletter info

Recevez chaque matin l’essentiel de l'actualité.

OK