Des urgences et de l’intelligence artificielle

Comme vient de le montrer Google avec Duplex, l'intelligence artificielle progresse à pas de géants. Peut-être pourra-t-on y trouver une application dans le traitement des urgences ?
Partager sur:
Sauvegarder cet article
Aimer cet article 0

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Des urgences et de l’intelligence artificielle

Les points de vue exprimés dans les articles d’opinion sont strictement ceux de l'auteur et ne reflètent pas forcément ceux de la rédaction.
Publié le 11 mai 2018
- A +

La presse, friande de tragédies humaines, en aura amplement fait l’écho : une jeune femme est morte quelques heures après son appel au SAMU de Strasbourg, pendant lequel les deux opératrices s’étaient montrées très en dessous de ce qu’on aurait pu attendre d’un service de traitement téléphonique d’urgences.

La publication de l’appel aura nettement aidé les médias à montrer le décalage béant entre la situation de la jeune femme, très souffrante, et le détachement stupéfiant (et finalement mortel) des opératrices à l’autre bout du fil.

Depuis cette publication, il s’ensuit naturellement une tempête polémique où chacun cherche à savoir à la fois comment sanctionner les opératrices en question et très accessoirement (nous sommes en France) à éviter que ce genre de situations dramatiques ne se reproduise. D’autant que ce n’est pas la première fois que ce genre de cas tragique fait surface : on se souviendra de nombreux exemples où l’un ou l’autre appel pour une crise cardiaque ou un manque d’insuline se seront terminés par des prises en charge hospitalières trop tardives conduisant parfois au décès.

J’ai assez peu lu d’explications sur le détachement émotionnel manifesté par les opératrices. Pourtant, quelques éléments permettent d’expliquer (sans excuser) leurs réactions pour le moins peu empathiques.

D’une part, les services téléphoniques d’urgence sont trop souvent confrontés à des appels sans fondement. La multiplication de ces appels et l’usage un peu trop large des services d’urgence pour ce qui ressort très souvent de la bobologie entraîne un scepticisme automatique devant tous les appels reçus, ce qui rend les cas réellement graves plus difficiles à déceler et complexes à traiter. Si un trop grand nombre d’appels se révèle être sans objet pour les urgences, faire le tri devient plus compliqué et amènera statistiquement à plus de faux négatifs.

D’autre part, on doit tenir compte du phénomène logique de détachement émotionnel pour les personnes qui sont constamment au contact de situations potentiellement dramatiques : les pompiers, les policiers, les urgentistes sont régulièrement et constamment confrontés aux drames humains, à la mort, aux blessures de tous types et pour pouvoir fonctionner efficacement, doivent se forger un certain détachement psychologique et émotionnel. Le dosage de ce détachement est peu aisé et conduit parfois à l’absence d’empathie qu’on a pu observer dans l’échange qui fait actuellement polémique.

Ces deux éléments (un trop grand nombre de faux positifs et l’expérience nécessaire pour les traiter qui entraîne un détachement émotionnel potentiellement dangereux) constituent une base de réflexion pour chercher des pistes d’amélioration du service rendu.

On pourrait par exemple évoquer ici la nature, publique et collectivisée, du système de santé français qui entraîne inévitablement son engorgement bureaucratique, rendant ce genre d’erreurs plus fréquentes. De même, on peut aussi revenir à la responsabilisation des appelants : la gestion des urgences étant actuellement du domaine public, c’est-à-dire payée par tous et donc gratuite pour l’appelant lambda, réintroduire un tarif (avec remboursement par le biais de la sécurité sociale seulement lorsque l’urgence est avérée) permettrait sans doute de réduire les faux appels.

Mais on comprend que ce genre de solutions, outre l’évidente levée de bouclier qu’elles déclencheraient dans le pays où tout le monde croit au repas gratuit, aux soins offerts et au collectivisme efficace, ne permettrait pas de couvrir le second facteur évoqué précédemment : la gestion émotionnelle des appels représente un coût psychologique très important pour les opérateurs.

Cependant, alors que les technologies de gestion de l’information progressent à pas de géant, une solution semble se dessiner.

Oh, pour le moment, on n’en est qu’aux balbutiements et il y a encore beaucoup de chemin à parcourir pour adapter ce genre de solutions à ce cas précis (la gestion des appels d’urgence), mais les progrès que vient de présenter Google en la matière permettent d’y réfléchir très sérieusement.

Ici, je voudrais introduire Google Duplex dont on commence à évoquer l’existence dans la presse généraliste : il s’agit de la dernière prouesse technologique proposée par les équipes de Google et qui se place comme votre assistant personnel, capable de prendre vos rendez-vous en tenant une simple conversation avec le commerce ou le professionnel dont vous souhaitez les services.

La démonstration, réalisée par Sundar Pichai, l’actuel PDG de Google, donne une assez bonne idée de l’état d’avancement de l’intelligence artificielle dans le domaine. Je vous encourage à regarder la vidéo suivante, assez bluffante. S’il ne s’agit pas encore d’un test de Turing, on s’en rapproche néanmoins un peu tous les jours :

Comme je le mentionnais plus haut, il faut bien comprendre que cette technologie, relativement au point pour la prise d’un rendez-vous dans une situation assez conventionnelle, n’est évidemment pas encore adaptée à la gestion spécifique de toutes les urgences (mais pour certaines, c’est déjà en cours).

Mais on comprend qu’au rythme rapide des évolutions technologiques, il arrivera un moment où il sera effectivement plus efficace de réaliser les filtres de premier niveau par des assistants artificiels qui se chargeront de faire le tri entre les appels relevant effectivement des urgences de ceux qui ne nécessitent que des traitements standardisés.

Les implications de cette technologie sont énormes et comme on peut s’y attendre, il n’a pas fallu longtemps pour que de nombreux commentateurs pointent les dangers de son utilisation, du détournement d’usage en passant par la mainmise de ces assistants (et des firmes les proposant) sur nos données personnelles jusqu’à la dépendance qui à terme pourrait faire de nous des assistés permanents, incapables de régler nos affaires sans ces aides.

Ceci revient tout de même à oublier assez rapidement tous les bénéfices qu’on pourrait en retirer, par exemple pour ceux qui ne peuvent pas, pour différentes raisons, interagir directement avec d’autres humains (handicapés divers, typiquement) jusqu’à enlever des standards téléphoniques des humains dont les tâches pourront être nettement plus gratifiantes que gérer des clients mécontents, des colériques ou des petits farceurs inutiles voire dangereux.

Par extension, si un consommateur lambda pourra bientôt disposer d’un assistant prenant ses rendez-vous, on imagine aisément que les commerçants pourront disposer d’un standard téléphonique répondant « automatiquement » (et de façon « crédiblement » humaine) aux principales questions de leurs clients, à un coût très modéré pour l’entreprise.

Au passage, on comprend qu’à terme, il est probable que nos assistants automatiques prendront des rendez-vous auprès de standards téléphoniques automatiques, tout ce petit monde électronique gérant de façon aussi humaine que possible des conversations dans lesquelles plus aucun humain n’interviendra. Ces derniers pourront alors se consacrer à des tâches requérant leur capacité d’abstraction ou, justement, cette empathie que la machine ne peut pas (encore ?) imiter, posséder ou gérer pour améliorer la situation qu’on lui présente.

Mais, comme je le disais, il y a loin de la coupe aux lèvres et il faudra de nombreuses années pour qu’on puisse atteindre le niveau de performances suffisant pour que ces assistants soient déployés aux urgences. Peut-être alors pourra-t-on éviter les tragédies comme celle de Naomi ?

Voir les commentaires (15)

Laisser un commentaire

Créer un compte Tous les commentaires (15)
  • Je suis plus que d’accord.
    Et meme si les IA commettront des erreurs, elle seront globalement bien plus efficace que les humains : jamais fatiguées, jamais en colère, toujours à l’écoute, disponible, …
    Par contre, je pense que des opérateurs / opératrices sans empathie sont au contraire un gage de qualité, pour prendre des décisions plus réfléchies. Il faut cependant quelques compétences complémentaires :
    – connaissance importante du domaine
    – personne disponible, reposée et réfléchie
    – ne pas être perturbé et stressé par des appels agressifs ou de mauvais goûts
    Il y a les cabines médicales qui sont en cours d’élaboration, pour des consultations à distance pour un premier temps. On pourrait penser à des drones d’urgence, qui pourraient faire un premiere intervention sur place pour évaluer la situation.

    L’intégralité du domaine médical est à la veille d’une révolution. Par exemple, les IA sont aujourd’hui bien plus capable de délivrer les médicaments que les humains. entre les robots dentistes, chirurgicaux, analyse d’imagerie médicale, recherche et analyse biologique, etc.

  • Bah ! L’intelligence artificielle ne réduira en rien les comportements irrationnels en situation de stress. A mon avis, hein. Mais si vous me montrez une IA capable de convaincre une mère de ne pas conduire son gamin aux urgences quand l’IA de l’école lui aura signalé une légère fièvre, ou de convaincre la mère de ne pas la débrancher si elle lui a caché la chose en estimant qu’elle n’était pas grave, je change d’avis…

    • @ MichelO
      Excellente réponse: l’eau aura coulé sous les ponts avant qu’un patient osera mettre sa santé ou sa vie entre les « mains d’une I.A. »! Ce n’est pas pour demain!

  • Juste 2 petites remarques, une de fond et une de forme.
    Sur le fond : l’acceptabilité d’un système électronique / artificiel est fortement corrélée à son efficacité. Et on a tendance à n’attendre pas moins de 100% d’un système automatique – on est par exemple très exigeant vis-à-vis de la signature électronique en terme d’infalsifibilité et d’inviolabilité du document « signé » alors que les manipulations sur le même document papier sont très simples. Idem avec les voitures automatiques, le moindre accident est monté en épingle et conduit au rejet de la technologie, même si le nombre d’accidents par kilomètre est inférieur à celui des conducteurs humains.
    Ensuite sur une idée exposée ici et qui semble simple :
    « réintroduire un tarif (avec remboursement par le biais de la sécurité sociale seulement lorsque l’urgence est avérée) ». Comme l’auteur le sait très bien l’enfer est pavé de bonnes intentions et si ça semble simple sur le papier l’introduction d’un tel tarif et des modalités de remboursement associées bien sûr ne saura que nous conduire dans des paperasseries kafkaïenne dans lesquelles en France toute intervention de l’Etat, qu’il soit pour le coup Providence ou non, nous amène immanquablement…

    • Le tarif peut se faire simplement, techniquement je ne vois pas comment les opérateurs téléphoniques ne pourraient pas implémenter une solution où le coût de l’appel est surtaxé à XX €, sauf si le centre appelé valide la gratuité. Si en France c’est trop difficile de confier une telle responsabilité à un médecin régulateur, il y a bien un pays étranger qui pourra jouer les pionniers et l’expérimenter pour nous, non ?

  • Engorgement bureaucratique, gratuité des soins… Basse idéologie qui profite d’un drame pour tisser sa toile.
    Des affaires comme ca, il en arrive heureusement assez peu, et sont avant tout le fait d’individus pas ou plus à leur place…
    Si c’était lié à notre système de santé, le nombre de ces cas serait bien plus élevé.
    Et pour prévenir définitivement tout risque de récupération idéologique, je peux temoigner a titre personnel avoir été mieux et bien plus rapidement pris en charge par le secteur public, que par le secteur privé, alors que la personne qui m’a reçu telephoniquement dans celui-ci ne pouvait pas ne pas être au courant de l’urgence de mon cas, d’après les infos que je lui ai données.
    Bref dans mon cas le secteur privé s’est ouvertement defaussé sur l’hôpital…

    • Et bien moi, c’est l’inverse. L’hôpital m’a envoyé dans une clinique, car il n’avait pas le temps.
      Comme quoi.
      PS c’est n’est pas de la basse idéologie, c’est tout simplement le constat que; soit le tri se fait par la file d’attente (sovietique), soit par l’implication du client et du professionnel(le marché).
      PS’ Le marché n’est pas un système parfait, mais, à l’usage est plus performant qu’une économie planifiée. A chaque fois.

    • « Si c était lié à notre système de santé, le nombre de ces cas serait plus élevé  »

      Tous les oiseaux ne volent pas, car si c était le cas, il y aurait bien plus dans le ciel.

      Voici comment raisonne Jean Roule. Un non sequitur a lui tout seul.

  • Ce n’est pas un cas isolé, c’est dans tous les domaines que l’on retrouve aujourd’hui ce genre de femme libérée qui n’accepte plus rien, bien que ce phénomène se propage chez les hommes et surtout dans cette nouvelle génération d’imbéciles, de foyers recomposés à de multiples reprises. De tristes sires aigris, idiots et qui n’ont pas fini de subir seuls les aléas de la vie. Une société d’assistés qui pense avoir tous les droits et d’une prétention sans limites.

  • Bonne analyse! On ne peut pas être dans l’empathie tout le temps et si on y était de façon vraie, la vie serait impossible à écouter tout le temps avec toute la misère du monde, il y aurait des suicides… Et à mon avis c’est l’empathie naturelle de cet opérateur (trice) qui lui a joué un tour regrettable. C’est identique pour le personnel soignant qui voient des mourants à longueur de journée, il faut « se blinder » pour résister, et cela implique des risques de dérapages sans cela on ne tiens pas le coup. C’est regrettable mais c’est le seule système de survie pour ne pas craquer sur la distance ou alors il faut être un total sans cœur ou une intelligence artificielle bien programmée comme proposé…

    • C’est d’ailleurs des problèmes comparables avec les forces de l’ordre qui supportent mal « certaines situations » d’où le recrudescence de suicides. C’est le moyen extrême d’assumer l’inacceptable quand notre conscience ne peut plus le supporter. La pauvre opérateur ou opératrice est en danger de mort elle aussi, même coupable.

  • Sans aller jusqu’à l’intelligence artificielle, ne devrait-il pas y avoir quelques règles simples (l’armée de ma jeunesse avait ce genre de système avec des modèles mnémotechniques et des cadres d’ordres tout prêts, ZMSPCP, MOICP, etc.) qui peuvent guider l’opératrice afin qu’elle n’oublie rien même en situation de stress et garde un comportement un tant soit peu formaté, tout en la laissant libre de ses propres mots ?
    A mes visites chez les pompiers ou les sauveteurs en mer, je vois toujours sur les murs ces canevas de compte-rendu affichés sur les murs des salles de réunion. J’imaginais que c’était la même chose pour les services de santé…

  • Ce qui est bien avec l’intelligence artificielle, c’est qu’elle va rapidement pouvoir remplacer les métiers de notaires, avocats ou docteurs…

    Il n’y a qu’à regarder la dernière démo de Google que l’intelligence capable de passer les coups de fils à votre place, dotée d’une voix naturelle.

    Après les ouvriers remplacés par des robots, il fallait bien un peu d’hécatombe parmi les cols blancs.

    D’ailleurs beaucoup d’articles comme celui-ci pourront être écrit dans rédacteur derrière. L’intelligence artificielle puisera dans de grandes banques de données, et il suffira d’indiquer à la machine si on veut un angle Bastamag, Contrepoint ou Fakir. Abracadabra, et voilà !

    La seule variable d’ajustement restera le volatile lectorat…

    • « écrit dans rédacteur derrière »
      Quelle IA nous offrira jamais une faute de frappe aussi magnifique ?
      🙂

  • Les commentaires sont fermés.

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Par Scott Shackford. Un article de Reason

Un document de travail récemment publié prétend montrer que les vastes lois sur la confidentialité des technologies mises en œuvre par l'Union européenne en 2018 ont considérablement étouffé l'innovation des apps et potentiellement privé les consommateurs de produits utiles.

Le rapport a été publié par le National Bureau of Economic Research, et il tente de calculer les effets sur les consommateurs du Règlement général sur la protection des données (RGPD), une loi de l'Union européenn... Poursuivre la lecture

Nous sommes à l’aube d’une nouvelle rupture technologique qui pourrait, à terme, bouleverser le marché de l’emploi. Le développement des solutions d’intelligence artificielle sur des pans entiers du marché de l’emploi aura des externalités positives indéniables, encore trop mal perçues des travailleurs.

Des transformations structurelles sans destruction massive

Selon le rapport de référence « Automatisation, numérisation et emploi » du Conseil d’orientation pour l’emploi (janvier 2017), moins de 10 % des emplois existants seront menacé... Poursuivre la lecture

Par Doug French. Un article du Mises Institute

Relatant une boutade de l'économiste soviétique Nikolai Fedorenko, Yuri Maltsev a illustré le problème du socialisme dans sa préface à l'ouvrage de Ludwig von Mises intitulé Economic Calculation in the Socialist Commonwealth. Fedorenko a déclaré à l'époque, selon les mots de Maltsev, "[Un] plan économique entièrement équilibré, vérifié et détaillé pour l'année suivante serait prêt, avec l'aide des ordinateurs, dans 30 000 ans."

L'intelligence artificielle comme outil socialiste ?

Vi... Poursuivre la lecture

Voir plus d'articles