[SERIE Intelligence artificielle, la révolution] Et si, bientôt, les machines dominaient le monde ?

Intelligence artificielle, la révolution – 1. Et si bientôt, les machines dominaient le monde ?
Intelligence artificielle, la révolution – 1. Et si bientôt, les machines dominaient le monde ? - © Pixabay

Les chiffres, la vitesse, la vertigineuse capacité de calcul. C’est le côté spectaculaire de l’intelligence artificielle. Et soyons francs, ça file un petit frisson glacé le long de l’échine. Mais au fond, battre l’humain au jeu de go, est-ce battre l’humain tout court ?

Retour en arrière, en mars 2016, à Séoul : Lee Sedol est le meilleur joueur de GO, un jeu de plateau d’origine chinoise. Pendant cinq jours, il affronte Alpha Go, une intelligence artificielle développée par Deep Mind, une filiale de Google, sous les yeux de millions de téléspectateurs médusés. La machine remporte 4 parties sur les cinq, sa victoire est écrasante. Depuis, Alpha Zéro, la nouvelle version d’Alpha Go, a fait son apparition. Elle bat tous les meilleurs programmes d’échecs, de go et d’échecs japonais existant, et surtout, elle a appris seule, en quelques heures seulement, en jouant des millions de parties contre elle-même.


La perte de contrôle

"C’est inquiétant parce qu’on ne comprend pas", constate Hugues Bersini, professeur d’informatique à l’ULB et directeur du premier labo d’intelligence artificielle en Belgique. "La science exige la compréhension. Les ingénieurs comprennent la manière dont les systèmes ont été créés parce qu’ils en ont élaboré les plans. Aujourd’hui c’est la machine qui élabore ses propres plans. Et ces plans sont difficilement intelligibles parce qu’ils sont enfouis dans des millions de paramètres, dans des câblages, qu’on ne comprend pas. En effet, je pense que c’est une mauvaise voie, qu’il faudrait reprendre le contrôle. […] Pour l’instant, on est un peu dépossédé de cette compréhension."


L’intelligence artificielle, c’est quoi ?

Pour ne plus être dépossédés, commençons par définir ce qu’est l’IA. C’est terme générique. Pour certains, comme le paléo-anthropologue Pascal Picq c’est l’informatique au sens large : "L’intelligence artificielle, telle que définie en 1956, c’est comment des machines pourraient réaliser des opérations de l’ordre de notre mental, de notre intelligence, de notre cerveau. C’est toutes les tâches qui sont réalisées par notre cerveau, que les machines pourraient réaliser."

Hugues Bersini le note : dès le départ, on a fait des analogies avec le cerveau humain. La première appellation de l’ordinateur était d’ailleurs 'le cerveau machine'. John von Neumann, l’un des pères de l’informatique, s’était lui-même inspiré du fonctionnement des neurones pour concevoir les premiers circuits électroniques, en silicium. L’idée étant qu’en assemblant des millions, des milliards de petits processus très simples, avec des câblages particuliers, on arrive à faire faire à cet ensemble de neurones en silicium des choses aussi intéressantes que jouer aux échecs, diagnostiquer un cancer ou conduire une voiture dans Bruxelles.
 

L’inspiration de la nature

Entre l’homme et la machine, le contrat était simple. Moi humain, je te donne une tâche à accomplir et les méthodes pour y arriver. Toi machine, tu calcules, tu exécutes. Pascal Picq nous rappelle que tout notre système éducatif est basé sur la déduction logique, et c’est quelque chose que les machines font très bien. Mais ce qui est en train d’éclater, ce sont les formes d’intelligence artificielle bio-inspirées, c’est à dire inspirées de la nature.

Cette inspiration de la nature, cette nouvelle forme d’intelligence artificielle, c’est celle d’Alpha Zero, la machine qui apprend seule. Les neurones artificiels dégagent eux-mêmes de la masse d’informations les occurrences pertinentes, grâce à leur immense pouvoir d’exploration et de calcul. Ils testent, par essais-erreurs, à une vitesse inimaginable pour le cerveau humain. Ils retiennent. Ils apprennent.

On appelle cela le deep learning ou l’apprentissage machine. Comme ce sont des systèmes extrêmement autonomes, on ne comprend plus très bien comment ils fonctionnent. Ils ont leur propre intelligence, leur structure est très compliquée. "Comment voulez-vous que le cerveau humain puisse encore suivre ces millions de paramètres ?" s’inquiète Hugues Bersini. Les réseaux de neurones artificiels ont appris par exemple de nouvelles manières de jouer au go, qui échappent aux grands experts du jeu.


Les machines pensent-elles ?

C’est là que l’humain flippe, évidemment. Imaginez l’enjeu. Si les machines construisent leur propre raisonnement, et si ce raisonnement nous échappe. Est-ce que ça veut dire que, d’une certaine façon, les machines pensent ?

Pour Gloria Michiels, philosophe qui travaille sur les liens entre humains et robots au laboratoire d’anthropologie prospective de l’UClouvain, cela paraît assez absurde, parce que cela voudrait dire qu’on présuppose une intentionnalité et une intériorité à la machine.

On pourrait considérer que le code informatique de la machine est une sorte d’intentionnalité, puisque c’est ce qui lui permet de faire ce qu’elle fait. Avec l’intériorité, on arrive sur la notion d’anthropomorphisme. C’est le cas avec le robot qui semble vous parler, alors qu’en réalité il énonce un discours programmé. Mais comme il vous suit de la tête, ce jeu du 'regard' va induire une sorte d’intériorité à la machine.

Ce qui intéresse la philosophe, aujourd’hui, c’est que tout cela vient questionner l’être humain. Elle parle d’une 'nouvelle révolution copernicienne', où l’humain se retrouve aujourd’hui questionné sur sa propre nature, les paradigmes anthropocentriques sont mis à mal de toutes parts, ce qui peut générer une angoisse.


Comment éviter l’angoisse ?

L’humain est déstabilisé par cette omniprésence du numérique aujourd’hui, par ce changement de paradigme en cours.

La règle de base est de ne pas se laisser dépasser, affirme Pascal PicqAu risque d’en arriver à ce qu’il appelle 'le syndrome de la planète des singes', en référence au livre de Pierre Boulle. Comment les humains se sont-ils laissés dominer par les grands singes, qu’ils avaient domestiqués ? Parce qu’ils se sont laissés aller au confort et à la facilité. Ils ont au fil du temps cessé d’être actifs physiquement et intellectuellement.

"Le vrai danger des machines, ce n’est pas les machines en elles-mêmes, mais c’est comment nous allons faire en sorte de ne pas nous y soumettre et de ne pas devenir leurs esclaves, mais plutôt de les utiliser pour nous permettre d’exprimer d’autres capacités cognitives et d’autres façons de connaître le monde."


La fracture technologique

Hugues Bersini redoute cette fracture entre les personnes de plus en plus assujetties à ces algorithmes qui décident pour elles, et ceux qui sont aux commandes. Il faut tout faire pour réduire cette fracture, via l’éducation, mais la Belgique est très en retard, alerte-t-il. Il faut des cours d’algorithmes dans les écoles, pour démystifier ces ordinateurs. Le citoyen doit saisir le pouvoir public, les politiques qui ne comprennent rien à ce qui se passe.

D’un autre côté, il faut freiner les développeurs qui exploitent ces techniques pour s’enrichir, et les encourager à se préoccuper un peu du bien commun.

L’intérêt du bien commun est essentiel, c'est aussi l'avis de Gloria Michiels. Une première démarche consiste à rendre publics les algorithmes. "L’intelligence artificielle n’est pas une entité désincarnée, c’est l’humain qui est derrière cette technologie. Il faut veiller à penser le lien avec l’humain, pour ne pas oublier qu’au fond, la responsabilité incombe à l’humain."

Rester vigilant, éduquer, démystifier, rendre les algorithmes transparents. L’enjeu démocratique est important. Il devient incontournable, pour ne pas perdre une partie de notre humanité en route.

Intelligence artificielle, la révolution, une série de Marie Vancutsem, réalisée par Jonathan Rémy

Ecoutez ici le 1er épisode : Et si bientôt les machines dominaient le monde ?

Newsletter La Première

Recevez chaque vendredi matin un condensé d'info, de culture et d'impertinence.

OK