L’IA Act : de l’IA générative à une superintelligence hors contrôle

L’AI Act a été adopté le 14 juin 2023 par le Parlement européen : « d’ici la fin de l’année, les négociateurs espèrent tomber sur un accord total ».

Il est à noter qu’elle est la première loi globale sur l’IA au monde. Comme je l’évoquais dans un précédent article, il faudra alors voir si des amendements à ce texte répondront aux menaces de Sam Altman de retirer l’ensemble de son activité si le texte reste en état. Pour ce qui est de la régulation européenne, la volonté exprimée du Artificial Intelligence Act est louable, son intention est de protéger la population de l’UE des risques identifiés de l’intelligence artificielle. Rien à redire. Le texte reprend à ce titre les réglementations déjà appliquées en matière de sécurité des produits, qui fixe un cadre juridique uniforme à la commercialisation et à ses usages.

Par-delà l’Europe, les régulations et les lois sont appelées à se multiplier de façon disparate : à chacun sa régulation de l’IA… ce qui, nous le verrons, pose un grave problème au regard des enjeux et sont annonciatrices de la catastrophe redoutable et redoutée.

Ainsi, le 11 avril 2023, la Chine (pays expert en capitalisme de surveillance) proposait un projet de réglementation de l’IA (Measures for Generative Artificial Intelligence Services). Aux États-Unis, pour donner suite aux nombreux appels formulés par les géants de la Tech pour réguler l’IA (cf. intervention de Sam Altman devant le Congrès américain) la Maison Blanche a convié, le 2 mai 2023, les dirigeants de Google, Microsoft, OpenAI et Anthropic à une discussion sur les enjeux de la régulation de cette technologie.

Les grands principes de la première loi au monde sur l’IA

Pour revenir à l’IA Act, la version européenne qui nous concerne, l’un des éléments les plus importants est certainement la classification des IA et les obligations afférentes pour les acteurs (fournisseurs, distributeurs, utilisateurs..) selon leur catégorie d’appartenance. Le texte propose ainsi une classification des systèmes d’IA et de leurs risques.

Les systèmes peuvent ainsi être jugés :

• À risque inadmissible.
• À très haut risque.
• À risque modéré.
• À moindre risque.

La philosophie du texte n’est pas d’émettre un jugement de valeur sur les technologies développées. Qu’elles soient bonnes ou mauvaises n’est pas le sujet. Le texte est essentiellement centré sur les usages. L’histoire est d’ailleurs là pour nous rappeler que le risque majeur de nombreuses inventions humaines aura été, non pas les inventions elles-mêmes, mais leur dévoiement à des fins nuisibles : humain trop humain !

La classification proposée fera l’objet d’une liste qui sera régulièrement remise à jour au regard des évolutions de l’IA. Comme le disait Edmonde Charles-Roux, le danger est que « l’homme ne domine plus ses inventions ». Avec la superintelligence en approche, nous nous exposons à un danger majeur, celui d’inventer une intelligence supérieure à la nôtre qui serait potentiellement capable de prendre le contrôle. Lucie Lequier, journaliste chez Numerama, a fait un état des lieux exhaustif des points les plus prégnants…

À noter que parmi les IA interdites, nous ne pouvons que nous réjouir d’une timide reconquête de certaines libertés publiques et de protection de la vie privée, qui, sans cadre législatif, ont été parfois maltraitées.

Parmi les systèmes interdits relèvés par la journaliste  :

Les systèmes établissant une note sociale : par exemple, ceux qui classifient les personnes selon leur fiabilité et peuvent conduire à « un traitement préjudiciable ou défavorable ».

Les systèmes d’identification biométrique à distance et en temps réel : « dans des espaces accessibles au public à des fins répressives », y compris par les autorités.

Les systèmes qui visent à manipuler par des techniques subliminales agissant sur l’inconscient.

Les systèmes ciblant les personnes vulnérables comme les enfants ou les personnes handicapées.

La superintelligence et ses défis…

Le phénomène ChatGPT a contribué à faire connaître l’IA et l’un de ses aspects au grand public. La régulation de l’IA est depuis plusieurs mois au cœur des préoccupations de notre monde, de ses dirigeants, de ses acteurs.

Cet engouement sur cette thématique semble faire écho aux préoccupations des dirigeants d’open AI,  qui, rejoignant la pensée de Hawking, appellent à une réglementation pour empêcher l’IA de détruire l’humanité… Rien de moins. En lanceur d’alerte pour le moins atypique, Sam Altman multiplie de par le monde ses interventions en ce sens – notons pour rappel qu’il était toutefois opposé à l’IA act en l’état – lors d’une interview en direct avec le Times of India.

Dans ce qui ressemble peu ou prou à la tournée mondiale d’une rock star évangéliste, le dirigeant d’OpenAI avait multiplié les assertions les plus alarmistes, allant jusqu’à déclarer aux journalistes qu’il était tellement stressé par la sortie de ChatGPT qu’il en avait perdu le sommeil :

« Ce pour quoi je perds le plus de sommeil, c’est que nous avons déjà fait quelque chose de vraiment mauvais… »

Le risque d’une IA hors contrôle anéantissant l’humanité estimé à 10 % !

Selon une étude réalisée en 2022, environ la moitié des chercheurs en IA estiment à 10 % ou plus le risque qu’un échec à contrôler l’intelligence artificielle cause l’extinction humaine. 10 % ou plus, autant dire que nous sommes en danger.

De quelle façon une IA autonome, et émancipée de tout contrôle humain, agirait-elle sur notre humanité ? Il n’est pas dystopique d’imaginer l’issue : devenue gouvernement mondial autonome pour réguler nos comportements, je suppose que cette superintelligence s’attellerait à résoudre les difficultés que notre humanité rencontre et n’arrive pas à résoudre…

Réfléchisssons.

Quelle serait sa position pour les 736 millions de personnes qui vivent en dessous du seuil international de pauvreté monétaire sans que notre intelligence collective ne soit capable d’endiguer cette injustice ?

Comment une superintelligence prenant le contrôle agirait-elle vis-à-vis de personnes handicapées mentales ou physiques, n’entrant pas dans une norme de conformité de nos normes productivistes ? Des gens qui d’après certains « ne sont rien ».

Sans vouloir être plus alarmiste que Stalman, si elle devait voir le jour, une telle superintelligence procéderait à mon sens à un eugénisme froid et rationnel. Elle signerait l’avènement d’un transhumanisme eugéniste.

Objets inanimés, avez-vous donc une âme qui s’attache à notre âme et la force d’aimer ? questionnait Alphonse de Lamartine. Je crains que, pour cette potentielle superintelligence, la réponse sera non.

Vers une fin de l’humain par étape ?

Je ne pense pas à l’extinction humaine au sens strict. Dans un premier temps que je ne verrai pas, je pense plutôt à l’avènement progressif d’hommes augmentés, éloignés de l’être humain.

Cette étape pourrait précéder le transhumanisme eugéniste qui est potentiellement crédible et à nos portes (cf. superintelligence). Mon credo : ce qui est concevable par l’Homme est réalisable par l’Homme. Si être un homme c’est s’empêcher, je doute fort que l’homme s’empêchera de quoi que ce soit si le marché est demandeur et porteur. Les réglementations ne pourront malheureusement rien. Un jour prochain, à l’instar de la chirurgie esthétique qui est pour ceux qui y ont recours, le fruit d’une pression sociale afin de rester « compétitifs », il y aura la possibilité d’augmenter ses capacités intellectuelles. Et il y aura des structures qui auront la capacité de répondre à cette folle demande.

Là, commencera alors le début de la fin de l’humain en tant que tel, avec ses forces, ses faiblesses, son unicité, ses doutes, ses joies immenses et ses peines insondables. Ce pourrait être la première étape qui nierait nos différences, pierre angulaire de notre humanité…

Si je délire ? Non !

À l’heure où j’écris ces lignes, la start-up Neuralink a obtenu l’aval des autorités sanitaires américaines pour tester ses implants cérébraux sur des humains. L’entreprise conçoit aujourd’hui des appareils connectés à implanter dans le cerveau pour communiquer avec les ordinateurs directement par la pensée. « Ils doivent d’abord servir à aider des personnes paralysées ou souffrant de maladies neurologiques ».

Selon Elon Musk, une première tentative devrait avoir lieu cette année pour « quelqu’un atteint d’une forme de tétraplégie ». On ne peut naturellement que se réjouir d’une telle finalité. Toutefois, sans garde-fou incontournable mondialement, qu’en sera-t-il demain ?

Par-delà pallier les déficiences liées à une maladie, et sans vouloir jouer les cassandre, un autre marché s’appuyant sur les avancées des neurosciences et de l’IA pourrait s’ouvrir s’il n’est pas totalement prohibé… Celui de l’homme augmenté.

Si ce cap était un jour franchi, il faudrait alors que les hommes se déterminent, choisissent entre leur intégrité d’humain et leur possibilité d’insertion sociale. Notons que le cerveau humain augmenté est un leurre au cœur de la pensée transhumaniste…  Dans ce sombre scénario apparaîtraient alors vraisemblablement des survivalistes. Refusant de modifier ce qu’ils sont et de sacrifier leur humanité sur l’autel de la performance, ils seraient nécessairement marginalisés.

Dans ce sombre scénario, naîtrait une société opposant des hommes contre des hommes « machines », un monde qui ferait d’Asimov un véritable has been.

Les réglementations nécessaires seront-elles suffisantes ?

Que penser des réglementations et des lois ?

De nombreuses lois internationales ont le mérite d’exister. Je nous pose alors la question : certaines armes ne sont-elles pas prohibées en temps de guerre ?

Je vous les rappelle : armes nucléaires (jusque-là tout va bien) ; armes chimiques (probablement utilisées en Syrie) ; armes biologiques (attaque chimique probable perpétrée  à Khan Cheikhoun, en Syrie) ; mines antipersonnel (usage probable par l’armée ukrainienne en 2023) ; bombes à sous-munitions (l’Observatoire des armes à sous-munition, le Cluster Munition Coalition dénonce leur utilisation dans le conflit Russie-Ukraine en 2023) ; armes à laser aveuglantes (Pékin ne l’utilisera pas… promis)

Alors, certes, il est des violations du droit international ici et là régulièrement, et les pays s’indignent…  Tout le monde s’indigne : « les plus jamais cela », les « c’est inacceptable » envahissent les médias et les réseaux sociaux… un vrai feu d’artifice d’indignation… C’est très beau pour des victimes sans visage et sans nom. Les faits sont obstinés, par-delà le droit international, par-delà les atermoiements, des crimes innommables ont été commis, en attendant les prochains. Pour être parfaitement honnête, certains pays se sont refusés à signer les textes interdisant le recours à de tels armes.

Pour se garder des risques de l’IA superintelligente qui est en approche, qui serait en mesure de faire dépendre notre humanité de sa volonté propre, Altman, Brockman et Sutskever plaident « pour une gestion proactive des risques et une réglementation ciselée » et avancent trois principes fondamentaux qui pourraient être des garde-fous :

1. Une coordination parmi les principaux efforts de développement.
2. La création d’une autorité internationale similaire à l’Agence internationale de l’énergie atomique pour superviser les projets liés à la superintelligence.
3. La nécessité d’acquérir la capacité technique de rendre sûre la superintelligence.

Pour ce qui est du troisième point, les choses vont s’annoncer inatteignables pour quiconque de réaliste. Pour se prémunir d’une superintelligence qui prendrait le contrôle, il n’existe pas d’autre solution, et en tout premier lieu, celle d’une coopération internationale totalement transparente sur le sujet.

Si l’on en juge de la situation actuelle harmonieuse (sic) de notre monde paisible, si l’on se réfère à la déclaration de Vladimir Poutine en 2017 : « le leader en intelligence artificielle dominera le monde », à défaut de ne pas dormir comme monsieur Sam Altman… nous pouvons encore rêver.

Oui, la superintelligence signera probablement la fin de notre humanité, à moins que les humains que nous sommes n’acceptent leur condition d’humains et refusent en conscience cette issue tragique ! Ce qui signifie d’accepter notre condition humaine et arrêter ces délires de multimilliardaires qui veulent dessiner un monde à leur image en méprisant les humains « normaux ».

Mes mots n’arrêteront strictement rien car on ne lutte pas avec des mots contre un marché prévisionnel de 800 milliards d’euros et des hommes qui s’en moquent et regardent ailleurs.

« L’intelligence artificielle pourrait mettre fin à l’humanité ». Hawking