L’esprit humain préfère une histoire convaincante aux chiffres

Par Charles Castet.

« Humans aren’t doing what the math says, the humans must be broken »

SMBC

« Woody Allen without the sense of humour »

Un collègue de Kahneman, cite par Michael Lewis dans “The Undoing Project”

En 1975, Henry Kissinger essaya de négocier un règlement au conflit israélo-arabe. Il avertit alors le gouvernement israélien qu’une rupture des pourparlers serait une catastrophe pour la région. Le ministre israélien des Affaires étrangères Yigan Allon douta du fondement de cet avertissement et convoqua un groupe d’experts pour creuser la question.

Le groupe en question fut mené par  Zvi Lanir et Daniel Kahneman qui enseignait alors à l’université hébraïque de Jérusalem et qui passa la guerre du Kippour au sein d’une unité de psychologues chargés d’évaluer le moral des troupes dans le Sinaï. Pendant les réunions du groupe de travail Lanir et Kahneman chiffrèrent la probabilité de diverses conséquences d’une rupture des pourparlers : une nouvelle guerre avec la Syrie et l’Égypte ; la chute de la maison des Saouds, une attaque de l’URSS.

Ils furent surpris par le manque d’impact de cette étude. Les autorités n’accordaient guère d’importance aux chiffres et 10 % de probabilité d’une nouvelle guerre avec la Syrie n’était pas considéré comme « significatif ». La compréhension numéraire est si faible qu’elle ne communique rien. Plus tard dans ses livres Kahneman écrivit « personne ne prend une décision suite à un chiffre. Il faut une histoire. »

Une rencontre intellectuelle inédite

Michael Lewis, auteur de plusieurs romans dont deux furent adaptés au cinéma avec Brad Pitt jouant le rôle principal (Moneyball de Bennett Miller sorti en 2011) ou secondaire (The Big Short d’Adam McKay sorti en 2015), raconte dans son livre The undoing project, l’histoire d’une rencontre intellectuelle entre lui-même et le duo Daniel Kahneman et Amos Tversky.

Ces deux intellectuels ont renversé le postulat selon lequel l’esprit humain détient une compréhension intuitive des statistiques et des probabilités. Les individus font des choix rationnels en fonction d’une compréhension claire du contexte extérieur et les erreurs de jugements sont le résultat d’émotions telles que la peur ou la colère et non de la raison elle-même. Ces conclusions sont résumées dans Thinking, Fast and Slow (2011), livre assez souvent cité (ce qui ne veut pas dire lu) par les grands cabinets de conseils, les entreprises privées, voire même les organisations publiques.

Pour qui connait Lewis, ce choix de sujet d’écriture n’est pas surprenant. The Big Short est consacré à un investisseur choisissant de parier contre le marché de l’immobilier un an avant que n’éclate la crise des subprimes. Moneyball raconte l’histoire de Billy Beane le manager de l’équipe de baseball des Oakland Athletics dont le budget est faible mais dont les résultats pendant les années 2000 étaient impressionnants. Beane faisait confiance aux statistiques davantage « qu’à ses tripes », il exploita les inefficiences du marché et les erreurs cognitives que commettaient les chasseurs de nouveaux joueurs pour recruter à prix bas des joueurs dont l’apparence n’était pas athlétique mais dont les résultats étaient bons.

Les deux personnages font un bon sujet de livre : Kahneman a grandi dans la France de Vichy, son père chimiste fut sauvé de la déportation par le patron de l’Oréal. En 1944, la famille émigra en Israël. Dans les années 1950, pendant son service militaire, Kahneman a construit les tests de sélection des officiers de Tsahal. Tversky a participé aux guerres de 1956, 1967 et 1973 et après la guerre des Six-Jours il fut brièvement gouverneur militaire de la ville de Jéricho.

Deux parcours très différents

Les parcours personnels et professionnels de Kahneman et Tversky diffèrent. Avant les années 1970, Kahneman travaillait largement sur les problèmes de visions et d’attention, l’évaluation mentale des distances ainsi que l’antagonisme entre perception et mémorisation. Les applications militaires sont explicites : les commandants de régiments blindés ou d’aviation doivent pouvoir apprendre à leurs troupes à ignorer les perceptions externes et pouvoir rediriger la concentration de manière instantanée. Tversky se concentrait davantage sur la modélisation mathématique de principes psychologiques.

Le point de départ de leur théorie est que l’esprit humain dispose de deux systèmes : le premier dit « Système 1 » est automatique et intuitif et est utilisé pour les activités de base telles que la perception du monde immédiat, les opérations arithmétiques simples et la reconnaissance de mots faciles. « Système 2 » requiert un effort conscient que l’on associe au raisonnement. L’exemple dans le livre de Kahneman « 2 + 2 peut être résolu par le Système 1, 17 x 24 par Système 2. »

Système 1 a une faible compréhension de la logique et des probabilités. Il opère par association. Pour reprendre un exemple donné par Lewis dans son commentaire sur les travaux de Kahneman et Tversky, banane évoquera jaune, table une surface table à quatre jambes. Le mot so*p sera plus souvent complété par un u (soup i.e soupe) que par un a (soap i.e savon). Il recherche la cohérence plus que la vraisemblance, n’aime pas le doute et ne s’inquiète pas de l’insuffisance d’information.

N’aimant pas le hasard, il va chercher les causes et les enchaînements n’importe où pourvu qu’ils semblent cohérents. Richard Dawkins écrivit que c’est un produit de l’évolution : dépendre d’une compréhension automatique et cohérente du monde augmente les chances de survie plus que consacrer son énergie au doute et à l’évaluation. Plutôt fuir un prédateur que de calculer les chances de un à 10 qu’il vous attrape.

L’histoire plus convaincante que les chiffres

On en revient à l’intuition de Kahneman et de Tversky en 1975 : l’esprit humain préfère une histoire convaincante aux chiffres.

De manière plus profonde, si un individu possède 10 et perd 5, et un autre individu possédant 1 et gagne 4 la théorie de l’utilité espérée dit que les deux vont connaître le même niveau de bonheur car ce qui importe c’est le niveau absolu de richesse. Or Kahneman et Tversky ont démontré que c’est le changement relatif en fonction du point d’entrée et de sortie qui importe. Une personne perdant 5 sera significativement moins heureuse qu’une personne gagnant 4. Les individus vont tendre plus à limiter ou éviter les pertes qu’à faire des gains.

Cette découverte a permis de résoudre plusieurs comportements économiques que la science économique classique ne parvenait à expliquer tels que les coûts irrécupérables (sunk cost). La raison pour laquelle nous sommes réticents à mettre fin à un mauvais investissement provient du fait que c’est cette mise à fin qui est considéré par l’esprit comme une perte et non la perte de l’argent elle-même.Ce modèle fut généralisé par un autre économiste, nommé Richard Thaler, qui montra que ces comportements étaient plus la règle que l’exception.

Aussi intéressantes et justes soient les théories des deux intellectuels, les critiques ne manquent pas concernant cette forme d’ingénierie sociale. D’un point de vue libertarien, c’est donner licence que l’État peut jouer avec votre esprit, et même si les méthodes ne sont pas coercitives (sans contrainte physique ou menace de celle-ci), il s’agit de techniques de manipulations cognitives au nom d’un certain bien. Ces techniques accompagnent l’extension du fameux Nanny-state que Tocqueville voyait d’un mauvais œil.

Mais les grands groupes technologiques ont aussi utilisé ces recherches dans la construction de leur code et algorithme. Facebook, Amazon et Alphabet (maison-mère de Google) exploitent ces recherches afin d’attirer l’attention sur certains produits et sur le truisme « il n’y a rien au-delà de ce que nous voyons ». Comme décrit dans cet article Facebook est construit de manière à encourager les clics successifs afin d’augmenter le temps passé devant l’écran.

L’expertise est surévaluée

Kahneman reconnait sans problème dans Thinking fast que des dirigeants autoritaires ou bien les social-démocraties tombant dans une forme de paternalisme peuvent très bien exploiter les biais cognitifs des individus. Il est facile de convaincre les autres de faussetés simplement en les répétant. « La cohérence, la familiarité et la véracité sont des concepts distincts mais que l’esprit ne distingue pas facilement » écrit-il.

Il conclut que face à cela que l’expertise est surévaluée. Les « experts » politiques et économiques ont un taux d’exactitude de leurs prédictions tellement bas que leurs avis sont inutiles. Kahneman avait testé cette intuition lors de son service militaire lorsque on lui demanda de refaire le système d’estimations des recrues. Plutôt que de faire des interviews, Kahneman avait proposé de les évaluer selon des check-lists courtes et standardisées (niveau de sociabilité, niveau académique, précédents emplois, etc). Le but était de corriger « la première impression » au moment de l’entretien. Lors d’un voyage en Israël dans les années 1990, Kahneman racontait que Tsahal utilisait toujours cette méthode.

Michael Lewis, The Undoing Project: A Friendship that Changed the World, Penguin, 353 pages.