IBM a annoncé lundi son intention de cesser la vente de logiciels de reconnaissance faciale à des fins générales alors que les manifestations contre le racisme et les violences policières se succèdent aux Etats-Unis depuis deux semaines.
Le géant informatique américain a déclaré être fermement opposé "à l’utilisation de toute technologie à des fins de surveillance de masse, de profilage racial, de violations des droits et libertés humaines de base ou encore tout objectif contraire à nos valeurs", dans une lettre adressée aux membres du Congrès par le chef exécutif d’IBM, Arvind Krishna.
"Nous pensons que c’est le moment d’ouvrir un dialogue national sur les technologies de reconnaissance faciale pour déterminer si elles doivent être utilisées, et comment, par les forces de l’ordre", a-t-il déclaré.
S’assurer "que l’IA n’est pas biaisée"
La reconnaissance faciale "peut aider la police à protéger les communautés mais ne doit pas promouvoir les discriminations ou l’injustice raciale", détaille Arvind Krishna. "Les fournisseurs et les clients utilisateurs d’intelligence artificielle partagent la responsabilité de s’assurer que l’IA n’est pas biaisée, particulièrement quand il s’agit d’appliquer la loi".
Le patron d’IBM demande au Congrès de faire en sorte que les caméras mobiles portées par les agents et les outils d’analyse permettent de faire rendre des comptes à la police en cas de besoin.
