C'est pas fini

Tous les lundis, mardis, mercredis, jeudis de 18:00 à 19:30 sur Vivacité

Plus d'infos

L’intelligence artificielle serait-elle raciste ?

À l’occasion de la journée contre le racisme et toute forme de discrimination, le 21 mars, la question vaut la peine d’être posée.  

Une constatation

L’intelligence artificielle a un impact sur notre vie personnelle et sur notre société. Elle peut nous offrir de l’aide, mais elle peut aussi ancrer et perpétuer des préjugés et de la discrimination. Avec les algorithmes qui y sont déployés, il y a du racisme et du sexisme, car ces algorithmes sont développés par des humains qui y mettent de la discrimination.


►►► A lire aussi Intelligence artificielle : un algorithme "peut être raciste, sexiste et nuire aux pauvres"


C’est ainsi que dans les demandes d’emploi, il y a des gens qui sont exclus parce que d’office l’algorithme les a exclus, soit pour la couleur de la peau, pour le sexe, pour la taille ou pour l’âge. Dans son livre blanc publié le 19 février, l’union Européenne met en garde contre les distorsions dans les algorithmes de recrutement qui conduisent à des discriminations.

Des exemples ?

Selon une étude menée par une chercheuse Joy Buolamwini, sur les logiciels de reconnaissance faciale, tous les logiciels fonctionnent mieux sur des hommes que sur des femmes, et tous sont plus précis sur des peaux claires que sur des peaux foncées, parce que les données ont majoritairement été " nourris " par des visages masculins et blancs.


►►► A lire aussi Discrimination à l’embauche : le gouvernement cherche à favoriser les tests de discrimination en revoyant le cadre législatif


Dans les données d’emploi disponibles, les femmes sont moins représentées et tendent à occuper certaines filières de métiers avec des rémunérations moindres. Ce qui signifie qu’un algorithme pourrait en déduire que les femmes ne sont pas aussi productives que les hommes.

Or, les algorithmes ne sont pas dotés de conscience mais sont construits par des gens. Il est donc primordial de retrouver de la diversité et de l’éthique au sein des équipes professionnelles qui vont les concevoir.

Newsletter Vivacité

Recevez chaque vendredi matin les événements, concours et l’actu Vivacité.

OK