Pavillon de Namur : "Ce n'est pas la technologie qu'il faut craindre, mais ceux qui la contrôlent"

Le bâtiment détonne dans l'environnement architectural très sage de la Citadelle, comme une réponse moderniste au classicisme du Stade des jeux et du Panorama voisins. C'est surtout sa forme atypique qui intrigue : un long tunnel accueille d'abord le visiteur, tel une colonne vertébrale, pour déboucher sur un dôme vitré, véritable centre névralgique des lieux. Quatre structures surnommées "rochers" lui ont été adossées et abriteront les œuvres exposées dans ce Pavillon fraîchement inauguré. "On est dans un bâtiment futuriste qui dialogue avec l'histoire de la Citadelle" s'enthousiasme Marie Du Chastel, commissaire de la toute première exposition intitulée Humans/Machines, "Et, forcément, les sujets qui seront au cœur du Pavillon seront liés au futur, à l'impact des technologies et des découvertes scientifiques sur notre société".

 

6 images
Le Pavillon © Philippe Pireaux

La domination des robots, ce n'est pas pour demain

D'emblée, le visiteur tombe nez à nez avec un bras mécanique semblable à ceux qui occupent les chaines d'assemblage en usine. Assis sur un banc d'école, équipé d'un stylo et d'un bloc de feuille, il recopie à l'infini sa punition: "I must not hurt humans" ("Je ne dois pas blesser les humains", en français). Une mise en scène simple qui pose déjà les jalons du questionnement: les machines seront-elles un jour dotées d'une forme de conscience qui leur permettra d'exprimer des intentions comme, par exemple, celle de vouloir faire du mal à un humain ? Au fond, que savons nous vraiment de l'intelligence artificielle et de son fonctionnement ?

"Le but de l'expo c'est de casser le mythe de Terminator avec les machines qui vont prendre le contrôle de la planète, on en est pas du tout là ! "rassure d'entrée de jeu Marie du Chastel, "C'est l'image qui est souvent véhiculée, les machines auraient une conscience et prendraient des mauvaises décisions. En fait, ce sont les humains qui contrôlent les machines et, au bout du compte, les machines restent encore un peu stupides." 

Pour illustrer son propos, elle désigne un panneau constitué de dizaines de portraits de femmes et d'hommes, "toutes ces personnes ont été considérées comme… des chats par des caméras de surveillance". A côté, le même panneau avec des dizaines de chats qu'une reconnaissance faciale avait classifiés, à l'inverse, comme humains. "On voit que les algorithmes font des erreurs qui sont assez marrantes, qu'ils disent des choses complètement stupides et que malheureusement c'est la technologie la plus avancée à laquelle on est arrivé dans ce domaine".

6 images
The prayer © Diemut Strebe

Des enjeux éthiques

Plus loin, une douce mélopée emplit la verrière du dôme. Monotone et semblant réciter un texte, la voix robotique sort d'une étrange bouche en silicone qui bouge toute seule. "Ce qu'on est en train d'entendre, c'est une prière" explique la commissaire, "Cette machine a été nourrie avec toutes les prières du monde, des prières protestantes, bouddhistes, catholiques etc. On lui a expliqué que c'étaient des prières et demandé de créer les siennes sur base de ce qu'elle a compris qu'était une prière. Parfois elle parle, parfois elle se met à chanter des louanges. C'est un peu une machine qui s'invente son propre dieu avec l'intelligence artificielle". 

Tout aussi étonnante, une vidéo tourne en boucle. Xi Jinping, Donald Trump, Vladimir Poutine mais aussi des hauts responsables religieux chantent en chœur "Imagine" de John Lennon. Les puissants rassemblés pour célébrer ensemble la paix retrouvée dans le monde... Vraiment ? "C'est un deepfake, c'est une technique vidéo qui permet d'incruster facilement des visages sur des corps et de leur faire dire ce qu'ils n'ont pas dit… L'objectif de cette œuvre c'est de montrer qu'il faut faire attention, ici, c'est plutôt comique mais imaginez que cette technique soit récupérée par des personnes mal intentionnées !"

Car s'il n'y aurait aucune raison de surestimer l'intelligence artificielle et de craindre les machines aujourd'hui, il n'en irait pas de même des humains et surtout des entreprises qui les contrôlent. "Il n'y a pas de raison de craindre un scénario à la Terminator ou à la Matrix, par contre il y a de quoi s'inquiéter sur la façon dont les humains construisent ces algorithmes parce que ces machines sont le reflet de notre société, avance Marie Du Chastel, "Si par exemple des humains racistes construisent des algorithmes qui sont le reflet de leur discrimination, là on a un problème. Dans cette expo, on va voir que ces questions d'éthique ne sont pas souvent abordées par les sociétés technologiques. Il va falloir que les scientifiques et les artistes dénoncent ces pratiques pour que ça change et que les GAFAM (ndlr: Google, Amazon, Facebook, Apple, Microsoft) commencent à réfléchir à leur pratiques. Ces entreprises en savent plus sur vous que votre propre mère notamment grâce aux algorithmes et il faut absolument faire de l'éducation envers le grand public sur les dangers que peuvent faire peser ces technologies sur nos sociétés."

Ouverture provisoire

La visite se termine au sous-sol aménagé en "Playground", un espace vidéo-ludique où les plus jeunes y trouveront leur compte. Cette inauguration et cette première exposition "pop-up" restent provisoires en attendant la dernière phase des travaux qui commencera à la fin de l'été: "L'objectif c'est de tester les lieux une première fois pour se faire une idée et éventuellement ajuster certaines choses quand tout sera vraiment terminé". 

Humans/Machines, du 13 mars au 13 juin 2021.

infos sur https://www.le-pavillon.be/

Newsletter info

Recevez chaque matin l’essentiel de l'actualité.

OK