Augmentus, le roman de l’Intelligence Artificielle

Un entretien avec Olivier Silberzahn, qui vient de publier son nouveau roman « Augmentus, Chroniques du cyclocentaure à l’ère de l’intelligence artificielle » aux éditions Maurice Nadeau.

Votre roman parle beaucoup d’Intelligence Artificielle, n’avez-vous pas l’impression de céder à un effet de mode ?

Il est certain qu’il y a une mode en ce moment sur l’intelligence artificielle. Mais au-delà de la mode, ce sujet est intéressant car je suis persuadé (et je suis loin d’être le seul) que l’IA peut être une vraie technologie de rupture, c’est-à-dire d’une technologie susceptible de profondément changer notre économie, notre société, notre façon de vivre, comme ont pu l’être en leur temps la machine à vapeur, l’électricité ou l’Internet.

Et puis même s’il y a pas mal de littérature et de films désormais sur ce sujet, elle est assez décevante : on a affaire soit à des essais scientifiques très arides, soit à des romans de science-fiction palpitants, mais complètement déconnectés de la réalité de ce qu’est vraiment l’IA aujourd’hui —typiquement les histoires de robots avec des yeux rouges (ou de robote aux yeux bleus) qui se rebellent contre les humains et veulent tuer tout le monde.

Le problème est que les essais sérieux sont écrits par des scientifiques ou des philosophes qui connaissent leur sujet, mais qui n’ont pas d’intérêt spécial pour raconter une bonne histoire, tandis que les romans et les films, presque par définition, sont écrits par des littéraires, qui connaissent toutes les ficelles pour raconter une histoire excitante, mais qui ne perçoivent pas ce qui se passe vraiment dans le monde de l’IA et du numérique. Bien sûr, ils parlent du numérique, parce que c’est un passage obligé, ils ajoutent une touche de modernité ici et là, mais ils en ont une vision distanciée, « de l’extérieur », ils en voient les usages, ils discutent des conséquences, mais ils ne vivent pas vraiment dedans, et ça se sent : dès qu’ils parlent un peu technique, ça fait franchement rigoler ceux qui connaissent.

J’ai donc voulu faire le roman du numérique et de l’IA, un livre fermement ancré dans la réalité de ce qu’aujourd’hui est l’IA, mais sous la forme d’un roman, parce que je trouve que c’est quand même plus agréable de lire (et écrire !) une histoire. Surtout, j’ai voulu donner un point de vue « de l’intérieur » sur le numérique et sur l’IA, puisque le narrateur est complètement immergé dans ce monde, il vit par et pour les ordinateurs et l’IA. Toute la première moitié du roman décrit vraiment ce qui se passe aujourd’hui dans le monde de l’IA, les réussites, mais aussi les interrogations et les difficultés de ceux qui travaillent dans ce domaine, en s’attachant à l’authenticité des moindres détails techniques.

Justement, quand on lit votre roman, on trouve beaucoup de détails informatiques. Ça parle de deep learning et de FPGA, de pétaFLOPS et de téraoctets… N’avez-vous pas peur de perdre votre lecteur ?

Quand j’ai lu Fief, de Daniel Lopez, je n’ai pas compris un mot sur deux. Et pourtant, j’ai adoré le livre. Je crois que c’est aussi la marque des bons romans que de nous faire découvrir des univers inconnus, et celui-ci a l’ambition d’être de plain-pied dans le monde du numérique et de l’IA. Après, soit on connaît déjà, et on peut apprécier un univers familier, soit on ne connait pas, et on peut être fasciné par la découverte d’un univers nouveau, un peu comme Fief m’a fait découvrir l’univers des lascars péri-urbains.

Je suis bien sûr conscient que certains termes techniques peuvent mettre le lecteur innocent dans une situation d’inconfort, mais aujourd’hui, tout le monde parle de Cloud ou de mégaoctets. Et puis mon éditeur, qui ne partage pas toujours ma tendance à vouloir laisser au texte sa part de mystère, m’a fait rédiger un lexique, et a ajouté plein de notes de bas de page pour ceux qui ne sont pas trop familiers avec le numérique et qui voudraient comprendre les détails — même si franchement, ce n’est pas nécessaire pour suivre l’intrigue !

La seconde moitié de votre livre voit émerger une IA forte, une IA capable de bon sens commun, de généralisation et d’abstraction, de comprendre et d’expliquer ce qu’elle voit. Vous y croyez vraiment ?

Les avis sont partagés, mais aujourd’hui l’opinion majoritaire chez les spécialistes est que nous verrons forcément un jour l’avènement d’une intelligence artificielle forte, la question étant plus le quand que le quoi.

À mon avis, la seule chose qui peut ralentir l’émergence d’une IA forte, générale, c’est qu’a priori elle est économiquement moins intéressante qu’une IA faible, c’est-à-dire une IA « étroite », spécialisée sur un domaine d’expertise très précis. En gros, si on sait bien rentabiliser à court terme une IA capable de détecter des tumeurs cancéreuses sur une image médicale, une tendance sur les marchés financiers, ou un défaut de fabrication sur une portière de voiture, il est moins évident de rentabiliser une IA capable de discuter avec vous au café du coin au sujet de votre famille, de la pluie, du beau temps, des Gilets jaunes et du changement climatique.

Mais le jour où une IA forte émergera, je suis persuadé que cela aura des conséquences radicales sur notre monde. Avec l’émergence de l’IA forte, les protagonistes sont confrontés à des questions qui peuvent sembler très théoriques, mais qui ont des conséquences très pratiques pour eux : quelle éthique pour l’IA ? Qu’est-ce que la conscience ? Comment la détecter ? Est-ce qu’elle peut émerger d’un tas de processeurs ? Peut-on la découpler de l’intelligence ?

Ma conviction est que la conscience est un processus biochimique comme les autres, comme la lactation ou la photosynthèse, et qu’il n’y a donc aucune raison qu’on ne puisse pas la reproduire in silico, sous une forme informatique. C’est faire preuve d’une arrogance bien humaine que de croire que nous avons quelque chose de spécial qui échapperait aux lois de la physique et qui interdirait à une machine électronique d’accéder à la conscience, alors que l’Homme n’est lui-même qu’une machine, faite de molécules carbonées soumises aux lois de la physique et de la chimie. Certes, des chercheurs comme Damasio insistent beaucoup sur l’importance des sens, du corps, des émotions dans la construction de la conscience et du soi, mais à mon avis, ceci ne disqualifie en rien l’émergence d’une conscience sur un substrat électronique, car tout ceci est parfaitement reproductible électroniquement. Même si la réalisation pratique peut s’avérer affreusement complexe, il n’y a rien d’un point de vue théorique qui s’oppose à la reproduction in silico ce que l’on peut observer in vivo.

Les conséquences de l’émergence de l’IA forte que vous décrivez sont assez terrifiantes…

Il y a plusieurs façons de lire le livre.

À court terme, il est certain que les effets de l’IA peuvent être assez destructeurs. Contrairement à beaucoup, je ne crois pas que l’IA va générer un chômage de masse. Je pense que le vrai risque est plutôt une bipolarisation du marché du travail avec d’une part une petite minorité qui, comme les héros du livre, va arriver à tirer un immense profit de l’IA en la finançant, la programmant, l’exploitant, l’optimisant… et d’autre part la vaste majorité des travailleurs, qui auront pour seul rôle d’exécuter servilement ce que l’IA leur demandera de faire.

C’est le modèle Uber, ou Amazon, qui s’impose d’ailleurs déjà dans notre société. Dans ce modèle, la vraie valeur ajoutée est apportée par l’IA. C’est l’IA qui trouve le client, le conseille, le fidélise, lui préconise et lui présente un produit, décide d’un prix, optimise la chaîne logistique… et c’est donc logiquement ceux qui la pilotent qui sont rémunérés – ce n’est pas pour rien que Jeff Bezos est l’homme le plus riche du monde. Dans ce système, l’immense majorité des employés n’est utilisée que pour fournir sa force physique, avec une différentiation et une valeur ajoutée (et donc une rémunération) très faibles : transporter un colis ou un passager d’un point A à un point B, en suivant strictement l’itinéraire et les conditions édictés par l’IA. Il n’y a donc pas disparition, mais commoditisation du travail humain, qui n’est plus là que pour exécuter de façon standardisée les ordres de l’IA.

Un tel modèle est opérant à court terme car si on sait faire de l’intelligence pour pas cher, on ne sait pas encore faire des robots bon marché ayant l’autonomie, la dextérité et la polyvalence des humains. Les coûts de l’IA suivent la loi de Moore (en gros, division par deux tous les 2 ans), tandis que la robotique est liée à la mécanique de précision, pour lesquels les progrès sont extrêmement lents. Les prix des batteries, des moteurs, des vérins, de l’optique… ne baissent pas vraiment, en tout cas pas du tout comme ceux de la mémoire et des processeurs.

En conséquence, les professions intellectuelles et les spécialistes (radiologistes, vendeurs, banquiers, traders, logisticiens…) peuvent se sentir menacés par l’IA, mais ceux qui peuvent faire valoir une compétence manuelle (manutentionnaires dans les entrepôts, coiffeurs, infirmières, plombiers, maçons, CRS, dentistes, cuisiniers, prof de yoga ou de cross-fit…) sont à mon avis plus tranquilles.

Cependant, on ne peut pas exclure qu’à plus long terme – et notamment grâce à l’IA – les progrès de la robotique finiront par rejoindre ceux de l’IA, qu’un robot sera par exemple capable de réparer un vélo, et alors on peut imaginer une société d’abondance, dans laquelle une grande quantité de biens pourra être produite à un coût dérisoire, sans travail humain, intellectuel ou manuel. Le type de société post-capitaliste induit par cette évolution, la digitocratie dataïste décrite dans le roman, ne sera évidemment viable qu’avec la mise en place d’un revenu universel, tel que promu aujourd’hui par de grands noms de la Silicon Valley.

In fine, le résultat peut être soit le paradis sur Terre, soit l’enfer, car une fois que l’Homme aura perdu toute utilité productive et toute capacité de différentiation, et ne sera plus qu’un pur consommateur de ressources, se posera forcément la question de la pertinence de sa survie en tant qu’espèce.

Votre livre ne parle cependant pas que d’Intelligence Artificielle, il parle aussi de l’intelligence humaine…

Quand on s’intéresse à l’intelligence artificielle, on est forcément amené à s’intéresser à l’intelligence humaine.

C’est un cliché de dire que le XXIe siècle est le siècle de la connaissance. Celui qui domine n’est pas celui qui a la plus grosse armée, les mines les plus productives, les terres les plus fertiles, mais celui qui maîtrise les algorithmes et les données, les brevets, l’innovation et les technologies.

Or c’est l’intelligence qui permet de maîtriser la connaissance. La bataille pour la domination du monde se traduira donc forcément en guerre des intelligences, pour reprendre le titre de l’ouvrage du Dr Alexandre.

Augmentus, c’est aussi le roman de la guerre des intelligences pour la domination du monde, chaque pays ou continent s’appuyant sur ses propres forces : aux USA le mouvement transhumaniste et la formidable domination de la Silicon Valley et des GAFA sur les algorithmes et les données, en Asie, l’absence du tabou eugéniste, qui favorise le recours à différents moyens (sélection, ingénierie) pour améliorer génétiquement l’espèce humaine, et en Europe, les grands discours et les régulations pointilleuses sur l’éthique, mais sans réelle capacité industrielle derrière pour la mettre en pratique.

Le roman est raconté par un cycliste. Pourquoi ce choix ? Un clin d’œil à votre précédent roman, le Journal d’un nageur ?

Oui, c’est un clin d’œil. Mais surtout, toutes les considérations sur l’IA ne doivent pas faire oublier que mon livre est un roman, il raconte une histoire, l’histoire d’un homme qui s’étend sur une cinquantaine d’années. Et le cyclisme joue un rôle important dans cette histoire.

Au début, le vélo est une sorte d’échappatoire, une soupape de décompression. Alors qu’il vit dans un univers professionnel ultra-technologique, analytique, désincarné, la pratique du cyclisme le fait revenir vers l’organique, lui fait ressentir son corps, la douleur… C’est grâce au cyclisme que lors d’une course, il a une illumination qui lui fait appréhender le rôle fondamental des émotions (joie, tristesse, colère, peur, dégoût…) dans l’intelligence humaine, et l’amène donc à introduire de l’humain, de l’émotion dans ses créations électroniques. Il leur donne la volonté de vaincre, les dote d’un instinct de survie, leur fait ressentir ma douleur, leur fait subir une compétition darwinienne… tout ceci lui fera faire un grand pas vers le graal de l’IA forte.

Mais à mesure que le narrateur introduit de l’humain et des émotions dans le numérique, sa quête effrénée de performance sportive le conduit inversement à mettre de plus en plus de numérique dans sa pratique : il se retrouve bardé d’électronique et de capteurs (GPS, vitesse, altitude, fréquence cardiaque, cadence de pédalage, puissance…), une évolution que je constate déjà chaque dimanche chez mes amis cyclistes lors de nos sorties vélo ! À la fin, logiquement, l’électronique entrera même dans son corps.

Le livre est donc une histoire d’hybridation, il raconte la lente évolution de l’IA vers l’humain, à mesure que ses concepteurs la dotent d’affect et d’émotions humaines, mais c’est aussi et surtout l’histoire de la lente métamorphose de l’humain vers le numérique, de l’affect vers l’intellect, du cycliste vers le cyclocentaure, moitié homme moitié machine.

Mais de ce combat entre affect et intellect, c’est l’intellect qui sort vainqueur. Car si les affects étaient parfaitement pertinents pour nous permettre de survivre en tant que chasseurs-cueilleurs dans la savane africaine, ils le sont nettement moins pour nous permettre de prospérer et de vivre heureux dans la complexité et la technicité des sociétés modernes.

Progressivement, le héros s’éloigne donc psychiquement et physiquement de tout ce qui pourrait le rattacher à l’humanité. Il perd toute empathie avec le genre humain pour accéder à une forme de conscience supérieure, qui le fait s’intéresser aux grandes questions de l’Univers, l’énergie, le cosmos, la mécanique quantique… plutôt qu’aux affects, et aux questions un peu glauques qui tarabustent tant nos congénères (identité, question du genre, sexualité, haine, colère…).

Nous avons évidemment tendance à toujours prendre le point de vue des humains, puisque nous sommes des Hommes. Dans les livres, dans les films, on insiste toujours sur l’humanité, et les œuvres qui nous touchent, les best-sellers, sont celles qui font vibrer en nous cette humanité, qui attisent nos émotions. Mais j’ai préféré faire un roman cognitif. Ce qui m’intéresse, c’est de prendre le point de vue du robot, un point de vue silico-centrique, celui du silicium.

Le livre veut amener le lecteur à un retournement de perspective, à voir le monde non pas en tant qu’Homme, soumis à la dictature de ses affects, mais comme le verrait une entité logique et rationnelle. Du point de vue du robot, la Terre est un écosystème complexe, dans lequel l’Homme est plutôt un élément irrationnel et perturbateur, belliqueux, animé de passions troubles et auto-destructrices, et in fine condamné à disparaître, comme toutes les espèces organiques. L’Homme a perdu sa pertinence. Il a occupé confortablement sa niche d’écosystème pendant quelques centaines de milliers d’années, comme chasseur-cueilleur, mais depuis l’invention de l’agriculture, il est de moins en moins pertinent, et aujourd’hui, comme les tigres ou les loups, il n’est plus du tout adapté au monde moderne qu’il a pourtant lui-même créé. À l’anthropocène doit succéder le silicocène, l’âge du silicium.

C’est certes une perspective effrayant pour nous les hommes, mais est-ce vraiment absurde du point de vue de l’univers ?