La Tyrannie des algorithmes, de Miguel Benasayag

Si nous nous laissons submerger par l’informatique, nous cessons d’exister ; nous nous contentons de fonctionner.
Thierry Godefridi nous fait part de son analyse de « La tyrannie des algorithmes » de Miguel Benasayag.

Par Thierry Godefridi.

Pour ou contre l’Intelligence Artificielle ?

Être pour ou contre l’Intelligence Artificielle n’est pas la question, dès lors que cette dernière fait déjà partie intégrante de notre quotidien. Que l’on songe, par exemple, au GPS, à l’intelligence embarquée à bord des véhicules, au profilage sur les boutiques en ligne, les réseaux sociaux, etc.

Mais contrairement à une idée très répandue même dans le monde scientifique, des neurosciences à la biologie, Miguel Benasayag, dans La Tyrannie des algorithmes, son essai paru aux Éditions Textuel sous forme de dialogue avec Régis Meyran, soutient que l’être vivant, s’il est hybridé par la technique qu’il a inventée, à savoir transformé par l’usage qu’il en fait, ne peut être pensé comme analogue à une machine.

La Tyrannie des algorithmes

L’être vivant n’est pas un simple assemblage d’organes. Il est une créature marquée par son unicité, laquelle participe de ce que l’auteur qualifie d’une « logique intégrative ».

Si nous nous laissons submerger par l’informatique, nous cessons d’exister ; nous nous contentons de fonctionner. Miguel Benasayag clame que

« L’intelligence vivante n’est pas une machine à calculer. C’est un processus qui articule l’affectivité, la corporéité, l’erreur, qui suppose la présence du désir et d’une conscience, chez l’être humain, de sa propre histoire sur le long terme. »

La différence entre l’intelligence vivante et l’intelligence artificielle n’est pas quantitative, elle est qualitative.

Pour ce philosophe et psychologue engagé, le danger réside dans ce que l’on puisse considérer que l’univers numérique se suffit, qu’il instaure une positivité complète de la réalité ; que l’on puisse de ce fait substituer la carte au territoire, alors que la négativité de nature dialectique réside au cœur de l’existence.

En d’autres termes, s’abandonner à la dictature du numérique reviendrait à renoncer à la rationalité, à lui substituer une forme de rationalisme d’ordre métaphysique, irrationnel.

En effet depuis un siècle l’on sait que l’on ne peut sérieusement faire l’impasse sur une certaine dimension aléatoire de notre réalité.

Que la prédictibilité de la réalité est limitée par sa complexité, Benasayag n’est pas le premier à le souligner : Nassim Nicholas Taleb et Daniel Kahneman, parmi d’autres, chacun dans le champ de ses propres investigations, l’avaient précédé. Le mérite de l’auteur de La Tyrannie des algorithmes est de relever que, sauf à réduire le mental au neuronal et à déléguer à la machine le contrôle et la maîtrise de l’humain – comme certains en ont conçu l’idée –, l’intelligence artificielle ne contient pas la promesse d’une rationalité totale et cohérente.

Les dangers des algorithmes

Déjà que certains préconisent de confisquer la démocratie en faveur de technocrates, en vertu de ce que des élus ayant une connaissance limitée des matières complexes dont ils ont à traiter ont été choisis par des électeurs en ayant une connaissance encore moindre, les algorithmes présentent un danger supplémentaire pour la société, à savoir celui de la délégation du politique à l’intelligence artificielle, comme dans le cas des écoutes téléphoniques ou des études comportementales analysées par l’IA, ou celui de l’application de cette dernière dans le domaine des soins de santé.

« Les algorithmes fonctionnent à partir de micro-informations collectées en masse dans le monde digital qui, mises ensemble et corrélées, déterminent des profils. »

Vers une colonisation du vivant par l’IA

L’intelligence artificielle induit une vision machinique de la société, elle réduit les individus à des « avatars virtuels ».

Or, une vie est bien plus aléatoire que les modèles dérivés à partir de routines répétitives et semblables dans des individus divers ne le laissent supposer.

La complexité et la densité de la vie d’aujourd’hui font que « nous avons basculé dans une nouvelle époque, dans laquelle notre façon habituelle d’agir ne fonctionne plus », avec un double danger :

  • sur le plan de la société, la tentation de discipliner les comportements au moyen des technologies digitales ;
  • sur le plan de l’individu, l’addiction pathologique aux multiples outils numériques mis à notre disposition par les technologies digitales, lesquelles nous enferment dans l’immédiat.

Or, n’est-ce pas précisément dans sa faculté de se projeter dans l’avenir que réside toute la puissance de l’intelligence humaine ?

Dans La Tyrannie des algorithmes, Miguel Benasayag pose et étaye le diagnostic d’une colonisation du vivant par l’Intelligence Artificielle.

Reste à imaginer les solutions singulières pour résister à cette nouvelle servitude, sur le plan social et sur le plan individuel. Cet essai d’un format sympathique et alerte de moins de 100 pages assurément vous y invite.

 

La Tyrannie des algorithmes, Miguel Benasayag, Editions Textuel, 96 pages, octobre 2019.

Sur le web

Vous souhaitez nous signaler une erreur ? Contactez la rédaction.