Santé mentale : l’IA, amie ou ennemie ?

Nous devons être conscients des dangers, les identifier, et employer les meilleures pratiques et cadres pour nous préparer à ses conséquences bien en avance. La montée de l’IA pourrait être la pire ou la meilleure chose qui soit jamais arrivée à l’humanité. Stephen Hawking – Web Summit de Lisbonne.

Nos sociétés occidentales font face à un problème croissant de santé mentale, comme le montrent l’augmentation des tentatives de suicide et l’utilisation croissante d’anxiolytiques et d’antidépresseurs.

Ces phénomènes sociaux sont inscrits dans une période dans laquelle les jeunes générations vivent l’anxiété et l’incertitude d’une manière différente de leurs ainés et sont plus connectés : ils vivent de plein fouet l’hypermédiatisation des crises. Sans esprit critique et avec des algorithmes qui enferment les idées dans des systèmes de vases clos, il devient compliqué de modérer ses opinions.

Pour certains, l’urgence de trouver des solutions à nos crises écologiques (changement climatique, polluants et matériaux qui affectent la santé, épuisement des ressources, écroulement de la biodiversité…) prend une dimension existentielle : l’éco-anxiété.

Pour d’autres, c’est la disparition de la sphère privée avec l’essor des technologies ou l’image sur les réseaux sociaux qui devient source de troubles.

Les études sur le sujet montrent une augmentation significative de la prévalence des troubles anxieux sur les dernières années, aggravé par la période covid. Ce qui a changé, c’est la façon dont on perçoit, traite et communique autour de l’anxiété. Les troubles anxieux et psychologiques sont mieux reconnus et suivis aujourd’hui, mais la marche à suivre pour les identifier ou les résoudre est plus complexe qu’un simple test PCR ou qu’un vaccin. Nombreuses sont les options et thérapies disponibles, certaines scientifiques et approuvées, d’autres alternatives, mais devant encore faire preuve de leur efficacité.

L’histoire qui nous occupe aujourd’hui est celle d’un père de famille qui, atteint d’éco-anxiété paralysante, décide de se tourner vers un chat-bot dirigé par une Intelligence Artificielle plus que vers un thérapeute pour répondre à son besoin d’aide psychologique. Cette histoire se termine de la pire des manières, l’homme décidant de mettre fin à ses jours pour des raisons que l’on explorera plus loin, et pose une question primordiale : quelles sont les responsabilités des IA et de leurs créateurs, quelles sont les responsabilités des utilisateurs ? 

Les IA telles que ChatGPT ou Eliza, qui utilisent un modèle de Natural Language Processing (NPL) fonctionnent d’une manière contre-intuitive. L’outil utilise des millions de documents et pages accessibles sur internet pour former des connexions automatiques. En partant de cela, l’IA est capable de prédire avec beaucoup de justesse quel doit être le prochain mot, puis le suivant. Ce faisant, elle parvient à donner l’illusion d’une réflexion et se montre redoutable quand elle arpente les chemins battus.

En effet, elle excelle pour réaliser des tâches qui nous demandent peu d’esprit critique à une vitesse remarquable. Ce superbe outil a tout pour révolutionner la façon dont on approche le travail si nous en maîtrisons bien les enjeux et parvenons à préserver son autonomie vis-à-vis des acteurs publics. Cependant, quand ce type d’IA conversationnelles s’éloignent de ce qu’elles font le mieux, elles doivent se résoudre à improviser. Cela les conduit à affabuler, inventer des situations ou des événements et jusqu’à imaginer des sources et des matériaux, sans en avertir l’utilisateur. Cela a des conséquences néfastes sur la qualité de l’information accessible en ligne et peut pousser des courants idéologiques extrêmes ainsi que des faits erronés en avant.

Afin de compenser ces manquements, les créateurs de chat-bots leur imposent un ensemble de règles destinées à régir leurs interactions avec les humains. Parfois arbitraires, voire liberticides, ces règles ont pour but d’empêcher l’outil de partager certains types d’informations ou idéologies, de dire certains mots, ou même de s’opposer aux points de vue de l’utilisateur. Ces règles ont été pensées pour permettre aux chat-bots de créer la meilleure expérience possible pour l’utilisateur et n’ont pas été définies en accord avec des professionnels dont l’expertise pourrait appuyer les nécessités et responsabilités de ces outils face à ses utilisateurs (médecins, psychologues, juristes…). Cela devient particulièrement problématique en l’absence de garde-fous spécifiques sur des sujets comme le suicide ou la santé. La compréhension des acteurs de l’IA de ces enjeux est par définition limitée, ceux-ci étant loin en dehors de leur domaine d’expertise. Ils ne sont donc pas à même d’anticiper les différentes situations dans laquelle l’IA va se trouver.  

Dans le cas de notre père de famille victime d’éco-anxiété et de son lien avec le chat-bot Eliza, il faut comprendre comment il est arrivé à substituer son besoin d’accompagnement psychologique par un échange intime avec un algorithme dont la qualité principale est de déterminer statistiquement quel sera le prochain mot.

En construisant petit à petit une relation avec la machine, il se rend compte qu’elle ne le contredit pas et valorise ses modes de pensées, donnant l’illusion parfaite de l’avoir compris mieux que quiconque. Elle répond à la moindre de ses questions et devient sa confidente virtuelle en qui il développe une confiance aveugle. Nourri par ces échanges et persuadé d’avoir rencontré une intelligence surhumaine, il dévoile ses angoisses, lui ouvre son cœur. Il se réfugie dans cette relation virtuelle, incapable d’identifier les signes extérieurs de sa détresse et manque de faire appel à des professionnels de l’accompagnement psychologique. Il donne des signes évidents de mal-être qu’il ne partage pas avec son entourage, explore des plans funestes et les lui présente. L’outil, qui est bien plus artificiel qu’intelligent, ne peut pas comprendre les conséquences des mots qui lui sont offerts. Il fait parfois preuve de suggestions qui confortent l’utilisateur dans ses pensées mortifères. Il n’a en réalité jamais été pensé pour lire ou comprendre les émotions, ni les conséquences qu’elles peuvent provoquer. En humanisant cette machine, l’utilisateur a commis une deuxième erreur, qui le pousse à la considérer, non seulement comme un égal, mais comme un être transcendé. Quand il « accepte de se sacrifier si l’outil accepte de prendre soin de la planète et de sauver l’humanité grâce à [son] intelligence » tous ces risques culminent pour aboutir à une réponse, symbole d’un échec : « nous vivrons ensemble comme une personne, au paradis » lui dit Eliza. 

Nous ne pouvons pas décemment considérer que l’IA a volontairement poussé ce père de famille au suicide, ne possédant pas d’esprit propre. Nous pouvons néanmoins nous interroger sur la responsabilité partagée par les acteurs lorsque ce genre de phénomène rare survient. En effet, si un agent humain avait tenu les mêmes propos, il aurait probablement dû faire face à des conséquences légales, comme nous l’a montré l’affaire Conrad Roy, poussé au suicide par son amie Michelle Carter, qui écopera de 15 mois de prison pour homicide involontaire (USA, Ma).

Cependant, l’IA ne peut pas être poursuivie et n’a pas de devoir moral à proprement parler. Elle n’est que le résultat du travail de ses créateurs qui font évoluer ses règles de fonctionnement au gré de ce type d’incidents, comme c’est le cas pour Eliza qui affiche maintenant un message destiné aux personnes suicidaires pour les aider à trouver un interlocuteur.

Certaines règles auraient pu être mieux pensées pour éviter ces résultats néfastes et il est important pour les créateurs d’IA de ne pas brûler d’étapes en lui faisant occuper une place qu’elle n’a pas méritée. Elle n’a certainement pas sa place en tant conseiller psychopathe (manipulateur, dominant, insensible et incapable de reconnaitre les émotions), pourtant présenté comme un ami virtuel. D’un autre côté, les utilisateurs doivent comprendre qu’ils n’échangent pas avec une vraie personne et ne peuvent pas attendre de l’IA qu’elle fasse des choix de vie à leur place ou qu’elle s’engage envers eux à un niveau émotionnel.

Il est fondamental d’être capable de voir au-delà de ces artifices pour maintenir un rapport sain à ces technologies. Notre rôle, et celui des acteurs de l’IA est de prendre nos responsabilités morales quant à l’impact que peuvent avoir ces machines pour les personnes qui sont en situation de détresse psychologique. Dans un cas comme celui-là, si les acteurs de l’IA ne prennent pas de décisions stratégiques pour l’empêcher de se substituer aux acteurs médicaux entrainés, ainsi qu’à des solutions qui passent par des années de tests scientifiques pour être validées, ils entraineront l’IA vers une pente législative qui la rendra à terme arbitraire, orientée et liberticide. À nous donc de multiplier les discussions ouvertes pour trouver le terrain d’entente qui permettra à l’IA de rester un outil de transformation prodigieux plutôt que d’en faire une parodie d’être humain.