Intelligence Artificielle, complexité et cobra

OPINION : sans prétendre résoudre la crise politique et sociale, l’IA trouve néanmoins sa place dans la résolution des problèmes complexes.

Par Philippe Mösching.

Seule l’Intelligence Artificielle (IA) saura gérer la complexité des problèmes auxquels nos sociétés font face toute en évitant l’effet Cobra.

L’effet Cobra

Cet effet tire son nom d’une anecdote exotique qui se serait déroulée en Inde. Pour vaincre la prolifération des cobras à New Delhi, les autorités ont décidé d’offrir une prime pour chaque serpent tué.

Ainsi pour une somme largement inférieure à l’organisation de battues géantes, et bien plus rapidement, le nombre de cobras a ainsi chuté. Certains habitants voyant là une source de revenus additionnels se tarir avec la diminution du nombre de serpents, décidèrent d’en élever pour les tuer.

Le gouvernement ne fut pas dupe et décida à son tour de couper les subventions. Sans subvention, une partie des cobras d’élevage se retrouva rapidement en liberté. Sans incitation à les tuer, ils purent se reproduire tranquillement. Et la situation est devenue pire qu’à l’origine, et tout cela au frais du contribuable bien évidemment.

La morale de cette histoire est qu’une solution a priori efficace, juste, équitable, moralement soutenable, financièrement redistributive et acceptée par tous peut avoir des effets contre-productifs au point d’être pire que le mal.

Sans doute que cette anecdote exotique vous fera penser à un nombre infini d’exemple de décisions politiques proche de chez nous. Si l’on y réfléchit bien, chaque décision possède ses effets pervers. On espère juste qu’ils soient moins importants que les effets bénéfiques. Mais ce n’est pas si simple.

L’effet de la complexité

Généralisons l’effet cobra à toutes les mesures ayant pour objectif de provoquer une altération de comportement d’une population, qu’elles soient politique, économique, sociale, etc. Dans le cas des cobras, on espère que la prime motivera les gens à les exterminer, ce qui fut bien le cas.

Le raisonnement à la base de ce type de mesure ne dépasse généralement pas le premier effet. Et encore, est-il déjà bien difficile de l’évaluer : quelle prime donner pour que ce soit efficace sans être ruineux sachant qu’il est difficile de trouver des actions similaires pour pouvoir comparer.

Comme effet secondaire, on aurait pu se poser la question de la dangerosité pour les chasseurs ou pour la population d’un développement de comportement agressif de la part des cobras, d’une baisse de productivité économique par transfert vers cette nouvelle activité de chasse, d’un trafic d’armes illégal, d’utilisation de poisons avec risque sanitaire, etc. La liste est sans fin.

En résumé, une incitation est lancée dans un système composé de milliers de personnes prenant quotidiennement des milliers de décisions et selon des raisonnements, en partie rationnels, et en partie en fonction de leurs biais cognitifs. Ces décisions s’influencent les unes les autres, d’un individu à un autre. Le tout montre une dynamique qui évolue dans le temps. D’autres facteurs entrent dans l’équation : les médias, les réseaux sociaux, le bouche-à-oreille, etc.

Ce simple exemple suffit à montrer que la complexité d’un système empêche de prédire les effets d’une décision. Autant il est possible grâce à la science de prévoir avec une exactitude satisfaisante la position des planètes, car ces systèmes comportent finalement très peu de variables importantes (et encore, trois planètes suffisent à produire des instabilités), autant nos sociétés humaines sont beaucoup trop complexes pour être réduites à des modèles mathématiques.

La liberté comme stabilisateur

Pour être tout à fait honnête, on s’aperçoit que beaucoup de phénomènes sont antagonistes – certains sont favorables quand d’autres seront défavorables – et que si le système dérive trop fortement – par exemple le nombre de cobras dans les rues explosent – alors des mesures antagonistes se mettront en place.

Dans une société autorisant une certaine liberté, un équilibre se créera nécessairement autour d’un point d’équilibre satisfaisant pour le plus grand nombre – un nombre de cobras raisonnable, pour un coût acceptable, après quelques ajustements de politiques.

Un parallèle peut être fait avec la gestion des vélos ou trottinettes en libre partage qui a connu des dérives et a nécessité des ajustements pour trouver un équilibre qu’il était impossible de prédire à l’origine.

A contrario, les systèmes politiques autoritaires et liberticides ne permettent pas cette rétroaction de la société. Ainsi des politiques basée sur l’idéologie dominante seront imposées à la lettre, selon le Plan, menant le système à un point fatalement défavorable pour les citoyens. Je pourrais faire la liste de tous les communismes et autres dictatures dont aucun n’a tenu la promesse d’un avenir radieux, tous ayant fini par disparaître, figés dans leur dogme incapables d’ajuster leur politique.

L’argument souvent avancé par les tenants de ces systèmes est qu’ils sont bien plus efficaces si le Plan est parfait. Ils évitent ainsi toutes les dépenses d’énergie  nécessaires à la stabilisation d’un système plus libéral ; c’est-à-dire la concurrence, le marketing, les processus démocratiques, les hésitations…

Et ce n’est pas faux ! Mais pour être parfait, le Plan devrait tenir compte de toute la complexité du système – le comportement de chaque citoyen et de ses interactions avec les autres. Inutile de préciser que c’est impossible, même avec les moyens de simulation informatique les plus puissants, nous en sommes bien incapables.

L’impasse actuelle

Le système de démocratie représentative garantit un espace de liberté, permet de respecter les orientations majoritaires des citoyens et garantit que les décisions législatives, juridiques et exécutives seront prises par des personnes compétentes, du moins techniquement et du moins jusqu’à récemment.

Les dernières années montrent une dérive populiste, des dirigeants devenant inquiétants par leur inconstance, une méfiance grandissante envers les personnes porteuses de compétences ou d’autorité.

La revendication du RIC (Référendum d’Initiative Citoyenne) est un élément qui montre que le citoyen ne souhaite plus être représenté, mais souhaite décider, ce refus de la représentativité étant très présent aussi chez les Gilets jaunes. Ceci conduira inévitablement à des frustrations, voire pire, sachant qu’on ne peut pas prendre en compte l’avis de tous lorsqu’une seule décision est attendue.

Très peu de pays pratiquent la démocratie directe : la Suisse et le Liechtenstein dans un contexte politique et social à l’extrême opposé de la France et dans les villes de la Nouvelle-Angleterre de manière assez anecdotique.

En parallèle, les discours écolo-catastrophistes nous demandent de passer à un régime autoritaire qui aura toutes les bonnes réponses puisqu’il a posé, selon eux, le bon diagnostic. Retour donc à l’idée du Plan qui répond à toutes les questions sans se préoccuper de la complexité du problème. Nous sommes là clairement entre deux dangereux extrêmes qui ont déjà montré leurs effets mortifères durant le XXe siècle et ceci à plusieurs reprises.

L’Intelligence Artificielle

Sans prétendre résoudre la crise politique et sociale, l’IA trouve néanmoins sa place dans la résolution des problèmes complexes. Elle pourra proposer des décisions et des orientations en tenant compte, non pas de modèles théoriques plus complexes que ceux possibles aujourd’hui, mais en tirant parti de la richesse des données comportementales que l’on commence à collecter.

En effet, les IA les plus utilisées actuellement basent leur apprentissage sur de très grandes quantités de données collectées auprès de chaque individu. Suite à l’intégration de ces données, ces systèmes peuvent prédire l’évolution du système et ainsi les conséquences d’une décision.

Aujourd’hui, ceci se fait à des échelles très étroites, pour des cas très précis, mais on peut imaginer à moyen terme avoir des dispositifs qui collectent et intègrent des données comportementales et sociales : achats, transports, formation, habitats, activités non rémunérées, etc. Et ainsi nous aider dans les décisions affectant nos sociétés. Ces technologies sont à portée de main. Les réseaux 5G et les objets connectés viendront renforcer ce modèle.

Le champ d’application de l’IA est très étendu : optimisation des transports de personnes et de marchandises, véhicules autonomes, optimisation de la production de biens et services, optimisation des logements, des formations professionnelles selon les besoins des entreprises, les compétences et potentiel des personnes, etc.

On retrouve lointainement l’idée du Plan, mais un Plan nourri de l’expérience réelle, intégrant toute sa complexité et évoluant sans cesse. Ainsi on adressera avec beaucoup plus de pertinence et de précision les grands problèmes que sont la répartition des richesses, du travail, la dépense et la production d’énergie, les déchets, le recyclage, les transports, l’exploitation des ressources naturelles, etc.

L’anonymat est un prérequis

La question de la protection de la vie privée devra se poser dans des termes beaucoup plus restrictifs que l’actuelle réglementation européenne RGPD.

Il ne s’agira pas de simplement s’assurer que les fournisseurs de services nous informent et ne libèrent pas nos données dans la nature.

Il s’agira de garantir l’anonymat total et absolu dans toutes nos interactions avec les fournisseurs de services, banques incluses. Seules certaines fonctions de l’État pourront lever l’anonymat dans le cadre de procédures judiciaires nécessitant de recouper des informations disparates. L’anonymat sera le prérequis d’une civilisation libre fondée sur l’IA.

Cette étape doit se préparer dès aujourd’hui. Elle fera l’objet d’un prochain article.

Vous souhaitez nous signaler une erreur ? Contactez la rédaction.