Pourquoi il ne faut pas avoir peur de l’Intelligence artificielle

Par Olivier Maurice.

L’intelligence artificielle est entrée dans notre vie. Peu de gens comprennent vraiment de quoi il s’agit mais des robots travaillent dans les usines, une voix dans nos smartphones répond à nos questions, un système expert décide de l’accès à l’université des étudiants…

Et comme toujours, une chose que l’on ne comprend pas génère automatiquement angoisses et fantasmes, espoirs et craintes et surtout énormément de discussions creuses et de prises de position radicales. Comme toujours, les progressistes y voient aussitôt une opportunité pour associer leur ego à un mouvement de l’Histoire, espérant immortaliser leur nom à l’une des innombrables révolutions qui marqueront à jamais les livres d’école. Tout comme Barack Obama qui dénonçait le risque que l’IA accroisse les inégalités, Emmanuel Macron y est allé de sa boîte de Pandore qui risquerait de nuire au bien commun. Comme toujours, les conservateurs y voient aussitôt le risque de changement, et donc d’apocalypse potentielle.

La philosophie de la nécessité

Si la croyance d’une alterhumanité qui viendrait faire concurrence à l’espèce humaine est si développée et associe paradoxalement progressistes et conservateurs, ce n’est pas seulement parce qu’elle fait peur : c’est avant tout parce que la philosophie dominante, celle qui fait lieu commun et qui est enseignée dans nos écoles, celle que les romantiques du XIXe siècle ont immortalisée et que les intellectuels du XXe ont sublimée, rend tout à fait plausible le mythe du golem.

Cette philosophie de la nécessité, de Spinoza à Sartre en passant par Marx et Freud, place la raison pour seule et unique vérité et la science pour seule et unique réalité. Elle affirme que toute chose est déterminée uniquement par son existence passée et que la vraie liberté consiste uniquement à modifier l’ordre naturel des choses. Toute référence à une quelconque transcendance, métaphysique, beauté ou magie est forcément réac, futile et stupide car le monde n’est régi que par la nécessité de se conformer aux lois physiques. Le libre arbitre n’existe pas et l’homme n’est qu’une machine comme les autres, faite uniquement de matière, de circuits, de câblages et de réacteurs chimiques.

« Les hommes se trompent en ce qu’ils se croient libres et cette opinion consiste en cela seul qu’ils sont conscients de leurs actions, et ignorants des causes qui les déterminent. » – Baruch Spinoza

Selon ce paradigme qui se proclame scientifique et rationnel, l’homme est une intelligence naturelle qui procède des lois de la nature et rien ne l’empêche donc de recréer une intelligence artificielle à l’identique de lui-même en suivant la démarche scientifique qui permet la reproduction de ces mêmes phénomènes naturels.

Or la science, en l’occurrence le théorème de Turing, nous dit exactement le contraire.

Déterminisme et indétermination

Une petite histoire que l’on m’a racontée dans les années 80 alors que je découvrais ce qu’était un système expert et un réseau neuronal illustre parfaitement le fantasme qui est associé à l’intelligence artificielle.

« Si vous faites tourner un programme qui allume les pixels d’un écran et qui module les mouvements d’un haut-parleur suivant un algorithme qui ne répète jamais ce qu’il a fait, la succession des combinaisons finira bien par s’associer en quelque chose de significatif et vous pourrez un jour voir et entendre le Général de Gaulle en train de crier « Vive le Québec libre » du haut d’un balcon de Montréal. Seulement, il est scientifiquement prouvé qu’il est absolument impossible de déterminer quand cela se produira, ni même de déterminer si cela se produira un jour. »

Cette parabole sur le problème de l’arrêt illustre parfaitement la différence entre théorie et pratique : conceptuellement, on peut tout à fait concevoir qu’une œuvre issue de la raison puisse un jour reproduire fidèlement la réalité, vu que la raison permet justement de décrire de façon reproductible la réalité. Dans la pratique, cela est impossible.

Alan Turing, l’homme qui inventa l’ordinateur, a démontré en 1936 qu’il ne peut exister de méthode statistique qui permette de déterminer l’arrêt d’un algorithme. Il est donc absolument impossible de déterminer sans toucher au code du programme lui-même quand celui-ci s’arrêtera (s’il s’arrête) et s’il criera un jour« eurêka » parce qu’il aura trouvé parmi toutes les combinaisons qu’il aura produites quelque chose qui reproduise à l’identique l’allocution de Charles De Gaule.

En fait, pour être certain que notre programme diffuse les images historiques du Président de la République en visite officielle au Canada le 24 juillet 1967, il n’y a qu’une et une seule méthode possible : transférer dans ses lignes de codes des informations qui produiront l’événement, coder d’une façon ou d’une autre suffisamment d’information afin que l’écran et le haut-parleur diffusent ce que l’on attend qu’ils diffusent. Le plus simple étant bien sûr de lui fournir une version numérisée du film de l’époque, ne serait-ce que pour lui indiquer quand il a trouvé ce qu’il cherchait et qu’il peut s’arrêter.

Une intelligence artificielle semblera faire ce qu’on attend d’elle uniquement si on a fait en sorte que ce soit le cas. Elle semblera forcément intelligente, vu qu’elle contiendra et retranscrira une partie de l’intelligence qui aura été nécessaire à sa réalisation et il sera même sans doute un jour extrêmement difficile de distinguer le travestissement d’une intelligence artificielle. Mais son intelligence s’arrêtera là : elle ne sera jamais plus intelligente que ses créateurs. Elle ne pourra jamais que transformer l’intelligence en une autre forme qui semblera intelligente par contagion.

La non-nécessité

Quelques années après la création de la première machine de Turing, d’autres constatations sont venues enfoncer le clou et reléguer le déterminisme rationnel de Marx et de Spinoza au rang de théories farfelues brillant surtout par leur arrogance et leur anthropocentrisme.

La première est vulgairement connue sous le nom de loi de Murphy. Bien connue de tout développeur informatique, elle peut s’énoncer ainsi : s’il y a une chance, même la plus infime, qu’un programme informatique se plante, il se plantera forcément un jour. Ce qui fait dire à tout informaticien un tant soit peu honnête et lucide que l’informatique ne marche jamais, elle ne fait qu’éviter par miracle de se planter jusqu’à ce que le prochain bug se produise.

En cela, l’intelligence artificielle fonctionne exactement à l’inverse de l’esprit humain qui découvre le monde à travers l’expérimentation et qui a besoin d’être constamment confronté au réel pour espérer un jour sortir de l’erreur et l’approximation dans lesquels il se complait sans aucun problème. L’être humain a toujours raison, jusqu’au jour où un hasard de la réalité lui fait comprendre (ou pas) que ce n’est peut-être pas le cas et qu’il réalise alors qu’il a toujours été dans l’erreur.

L’intelligence humaine se complaît dans l’erreur. L’intelligence artificielle disjoncte à la première erreur venue. La reproduction du déterminisme implacable de la nature ne fait que singer celui-ci dans la mascarade d’un équilibre instable.

Le positivisme

Depuis Kant, on distingue les vérités analytiques, qui sont issues de raisonnements et les vérités synthétiques, qui sont vraies soit par elles-mêmes, soit parce que l’on peut les vérifier dans le réel. Cette approche aboutit d’ailleurs à deux conceptions opposées du monde qui donnent lieu régulièrement à des confrontations passionnées : l’une que je placerais à droite, implique une métaphysique, une transcendance qui détiendrait la vérité, l’autre que je placerais à gauche, réfute toute métaphysique et résume la seule vérité à l’unique observation du monde et des lois qui le régissent.

Ces deux approches, si opposées soient-elles sont toutes les deux constructivistes : soit le monde est l’œuvre du divin et l’homme a le devoir de se plier à la vérité divine, soit le monde est rationnel et l’homme a le devoir de ne considérer que la vérité scientifique et d’exclure tout autre chose. Dans les deux cas, la quête de la vérité (qu’elle soit transcendante ou scientifique) est un impératif social, politique et moral qui dicte l’organisation du monde et de la société.

Or, l’informatique est en quelque sorte un accélérateur de vérité. L’ordinateur manipule des 0 et des 1, des vrais et des faux à toute vitesse. Il ne sait d’ailleurs faire que cela. L’intelligence artificielle focalise donc les deux constructivismes : ceux à droite y voient l’œuvre possible du diable qu’il faut absolument réguler et ceux à gauche y voient la toute-puissance de la science (et de l’économie) qu’il faut tout autant réguler.

Le pragmatisme

Il n’a pas fallu très longtemps après les travaux de Turing et la concrétisation de sa vision d’une machine apte à résoudre les énigmes combinatoires plus rapidement que l’esprit humain, pour qu’une sévère critique du dualisme de Kant ne voie le jour. En 1951, W.V.O. Quine effectue en quelque sorte un reset du logiciel philosophique qui avait abouti aux positivismes, et fait redescendre les docteurs de la vérité de leurs arrogantes certitudes.

Quine établit que le langage ne fait aucune différence entre ce qui est réel et ce qui ne l’est pas. La raison est donc incapable de déterminer LA vérité. Ou plutôt, est vrai tout ce qui impacte le réel. L’esprit humain ne sait que fabriquer des théories qu’il déclarera vraie ou fausse selon l’utilité qu’il en tire et suivant l’intérêt qu’il poursuit, suivant le degré de croyance qu’il accorde à l’une ou à l’autre de ces théories, la culture et les lieux communs y étant d’ailleurs pour beaucoup.

« En ce qui me concerne, en tant que physicien profane, je crois aux objets physiques et non pas aux dieux d’Homère ; et je considère que c’est une erreur de croire autrement. Mais du point de vue de leur statut épidémiologique les objets physiques et les dieux ne diffèrent que par degré et non pas par nature. […] La science est un prolongement du sens commun, et elle utilise la même tactique que le sens commun : gonfler l’ontologie pour simplifier la théorie. » – W.V. Quine – Les deux dogmes de l’empirisme.

Et la liberté dans tout cela ?

L’homme n’est pas enchaîné au monde par des lois rationnelles qui le dépassent. Il est libre de voir le monde de la manière qu’il choisit : il peut y voir un déterminisme scientifique, mais il peut aussi y voir de la transcendance, du beau, du magique, du sacré… Il n’y a aucune vérité dans l’une ou dans l’autre, toutes ne sont que des visions différentes de la même chose. Le choix ne repose que sur la foi qu’une ou l’autre approche sera plus ou moins utile.

Or une intelligence artificielle ne croit en rien et ne doute de rien.

Pour revenir aux affirmations de Spinoza et de Marx, ce n’est pas la nécessité qui dirige le monde, mais l’Homme qui a besoin de définir une nécessité pour comprendre le monde, pour être capable d’agir dessus, pour en prédire les réactions, pour se rassurer et pour pouvoir échanger avec les autres êtres humains. A contrario, la liberté est partout dans le monde. Cette même liberté qui permet d’appréhender le monde de plein de manières différentes.

Un univers d’opportunités

Rien ne nous empêche de vivre en voyant des centaures et des géants à la place des mathématiques et des horloges, notre vie et notre intelligence ne disparaîtront pas, elles seront juste différentes.

L’ensemble des inventions informatiques que l’on a baptisé intelligence artificielle forme un magnifique outil qui permet de manipuler la nécessité en évitant tous les déboires de notre condition d’animal vivant : fatigue, ennui, oublis, biais cognitifs divers et variés, erreurs de logique, etc… La machine de Turing est un magnifique outil à gonfler l’ontologie.

Le danger de domination ne provient pas de la machine mais de ceux qui feraient croire que la machine pourrait un jour dominer ou remplacer l’Homme et qui par ce biais manipulent les crédules. Et je crois avoir dit un peu auparavant que nous sommes tous crédules, que la crédulité est ce qui nous fonde et nous différencie de la machine.

L’Homme ne peut se résumer à une machine. Et une machine ne pourra jamais être un homme. Ce sont deux choses totalement différentes même si elles peuvent finir par sembler identiques. Par contre, la machine peut prolonger, aider, démultiplier l’homme. Elle peut aussi lui nuire. Mais cela, l’être humain le sait depuis des milliers d’années, depuis qu’il a un jour appris à utiliser un bâton pour augmenter la force de son bras et qu’il s’en est servi pour chasser et nourrir sa famille, mais aussi pour frapper son prochain.