Ghost in the Shell : droit naturel et risques transhumanistes

Par Jonathan Frickert.

Coïncidence ou pas, l’entrepreneur Elon Musk a récemment évoqué le projet Neuralink, consistant en une connexion du cerveau humain à une machine, afin de décupler nos capacités intellectuelles voire de contrôler à distance une machine. Une parole libérée la semaine de la sortie au cinéma du très attendu Ghost in the Shell, signé Rupert Sanders (Blanche Neige et le Chasseur) et tiré de la série de manga de Masamune Shirow.

Attendu depuis près de trois ans par de nombreux fans de la saga, le film reste proche du manga original et pousse un peu plus l’inspiration du côté de Blade Runner, influence explicite de l’œuvre cyberpunk japonaise, sans pour autant aller aussi loin dans la perfection esthétique à laquelle on pouvait légitimement s’attendre.

Le film, composé de deux parties distinctes, entre amélioration de l’homme et volonté prométhéenne, s’intéresse bien évidement à la complémentarité homme-machine et à l’équilibre très mince entre perfectionnement humain et changement radical de nature au profit d’un homme nouveau.

Élément phare de la science-fiction, la question de la nature humaine et de ses caractères propres innerve largement le film, au point qu’on peut en faire aisément une critique jusnaturaliste. En effet, la question de la nature humaine mais aussi de ses droits, et en particulier du droit de propriété et du consentement, sont au cœur du long-métrage.

Un manga au cœur de la question du dualisme cartésien

Sorti pour la première fois en 1989 dans un magazine japonais, le manga est rapidement devenu une franchise avec, à la clef, plusieurs films d’animations et une adaptation en prise de vue réelle, sortie le 29 mars dernier.

L’intrigue d’origine se déroule aux alentours des années 2030, soit, selon certains, l’année où émergeront des intelligences artificielles conscientes dans notre réalité. L’histoire est celle d’un agent de la section 9, section d’élite de lutte contre la criminalité, Motoko Kusanagi (Mira Killian à l’écran, incarné par Scarlett Johansson), dit « le Major », cyborg en quête d’identité.

La trame s’axe autour de la traque d’un cybercriminel, dénommé « Le marionnettiste », intelligence artificielle consciente capable de s’incarner dans différentes enveloppes.

Un point de divergence avec le film sorti cette semaine, puisque dans ce dernier le cyberterroriste est Hideo Kuze (joué dans le film par Michael Pitt), personnage bien connu des amateurs du manga, cyborg capable de duplication. En cela, le film n’adapte pas un, mais deux longs-métrages animés, à savoir celui de 1995 et celui de 2004, Innocence, avec un filtre hollywoodien qui désarçonnera les plus puristes.

De ce fait, si le manga s’axe sur la dualité cyborg – intelligence artificielle, le film est davantage porté par la question de l’identité.

Ces éléments aboutissent à traiter des thèmes classiques dans la science-fiction, dont la question fondamentale de ce qui définit l’être humain. Qu’est-ce que le vivant ? Le corps et l’esprit sont-ils liés ? Qu’est-ce qui distingue la conscience humaine de l’intelligence artificielle ?

Toute la question est indécrottablement posée dès lors qu’on comprend la spécificité de l’œuvre de Masamune Shirow : la distinction entre l’esprit (le ghost) et le corps (le shell). Une question qui s’est déjà posée de nombreuses fois, notamment dans Blade Runner, qui a largement inspiré le manga, et plus récemment dans le film Transcendance.

Cette idée est très proche de ce qu’a pu écrire Arthur Koestler dans The Ghost in the Machine sorti en 1967 et dont le titre a largement inspiré celui du manga.

Arthur Koestler était un intellectuel hongrois naturalisé Britannique, initialement communiste, qui finira, après un séjour en URSS, par devenir profondément anticommuniste. Un revirement qui lui attirera les foudres des intellectuels de gauche de l’époque.

C’est en 1967 qu’il écrit son opus, où il critique la réflexion de Descartes sur le dualisme entre le corps et l’esprit. Cette réflexion aboutit à une vision matérialiste que nie Koestler jusqu’à lui retirer son caractère de philosophie scientifique.

Cette critique, qu’il partage avec Gilbert Ryle et dont il tire le titre de l’ouvrage, l’amène à évoquer le concept de « holon » pour définir l’esprit, vu à la fois comme un tout et comme une partie d’un autre tout.

L’esprit s’intègre à l’ensemble tout en restant indépendant, ce qui explique sa complexité, constitué de plusieurs couches à mesure que celui-ci évolue.

Ainsi, le cerveau humain serait une suite de couches, ce qui fait qu’il ne se transforme pas, mais évolue.

Il y a donc un tout organisé et interdépendant né de l’évolution qui rendrait difficile la distinction nette entre esprit et corps. Koestler parle alors de « holarchie », qui est un système composé de systèmes, eux-mêmes composés de systèmes, ce qui permet de schématiser la complexité humaine.

Shirow et la pensée transhumaniste

Le transhumanisme est un mouvement intellectuel appelant à l’avènement d’une humanité dépassant sa propre condition et notamment les limites inhérentes à la nature humaine par l’intermédiaire de la technologie.

Popularisée par le biologiste Julien Huxler, l’expression a d’abord été le manifeste d’une marotte de l’époque : l’eugénisme.

L’évolution conjointe de la pensée transhumaniste et de la science, faite depuis bientôt deux siècles, permet aujourd’hui de définir ce courant de pensée comme une volonté d’anticipation des mécanismes humains jugés comme négatifs.

Le transhumanisme connaît des tendances, comme le transhumanisme démocratique, qui mélange transhumanisme et social-démocratie, le postsexualisme ou encore l’extropianisme.

L’objectif n’est pas ici d’engager une discussion sur le bien-fondé ou non de ces théories, n’ayant pour ma part pas la compétence d’en juger, mais de dégager des thématiques de réflexions à partir du film.

De ce fait, ce mouvement de pensée porte un coup évident à toute la question de la nature humaine et du droit naturel qui en découle, ce qui en fait une forme évidente de constructivisme, et cela pose toute la question de ce qu’est la nature humaine.

Ghost in the shell : la nature humaine en question

La question fondamentale que pose Ghost in the Shell est celle de la nature humaine.

Qu’est-ce qui fait son identité ? Si Ouest France n’hésite pas à parler d’une « humaine dans un corps complètement reconstitué », la nuance est plus ténue que cela.

Le manga, comme le film, permet de mettre en exergue la question du souvenir. Le Major n’ayant plus de souvenirs de son existence en tant qu’humain, elle ne peut savoir qui elle est. Un élément d’autant plus important que son esprit semble altéré de la même manière que son enveloppe corporelle.

De fait, après la manipulation du corps se pose la question de la manipulation de l’esprit, avec l’idée de « glitch », ces hallucinations que connaît très vite Motoko dans le film et qui montrent que son esprit est aussi altéré que son corps. On peut ici aisément revenir à l’idée de holon posé par Koestler.

Plus loin, sommes-nous notre corps ou notre esprit ? Un esprit humain dans un corps mécanique est-il toujours la même personne ? Koestler semble répondre que non.

Ainsi, le postulat de Koestler fait qu’en matière humaine, le propriétaire et la propriété sont les deux faces d’une même pièce : l’homme. L’âme, propriétaire, n’existe pas sans le corps, propriété. Cette confusion remet en cause les théories de marchandisation du corps des extropiens.

Un autre questionnement évident, primordial dans la science-fiction est ce qui distingue l’homme de la machine.

Le robot, lui, ne grandit pas. Il n’a pas de passé, hormis sa mémoire et ce qu’il peut apprendre. Ce qu’il voit constitue une suite d’informations stockées, mais ne saurait être un élément d’identité.

De plus, la dimension utilitariste du robot transcende à elle seule la condition humaine. Cette dernière nourrit la philosophie autour de la question du but. Quel est le sens de la vie ? Quel est le but de l’homme ?

Le robot, quant à lui, connaît indéniablement un but, un objectif. Il est intrinsèquement construit pour quelque chose, ce qui se voit largement dans Ghost in the Shell où le Major est vu comme une arme, à la manière de ce qui a pu être vu dans la saga Robocop.

Je précise tout de suite que ces constatations ne sont en rien des réponses à des sujets bien trop complexes et qui ont animé la pensée de nombreux philosophes depuis des siècles, mais de simples éléments de réflexion.

L’humanité est pourtant bien présente dans le film, puisqu’incarnée par le personnage du docteur Ouelet, joué par Juliette Binoche.

Ce personnage incarne l’humanité dans tous les sens du terme puisque son corps n’est en rien altéré d’une quelconque manière que ce soit, et son attitude fait d’elle un être doué d’un profond sens moral quant aux dérives soulevées dans le film.

Au final, répond le film, ce sont bien nos actes qui forgent ce que nous sommes, et ce de manière très paradoxale puisque l’héroïne a, à ce moment, retrouvé sa mémoire, et donc son identité.

Cette question de la nature humaine permet de voir des thématiques très libérales dans le film de Rupert Sanders, puisqu’il apporte une réflexion sur la notion de propriété et de consentement, et donc la liberté, ce qui renvoie au droit naturel.

Propriété et consentement : le droit naturel derrière la technique

Le droit de propriété est un élément fondamental de la pensée libérale. Il constitue un droit naturel qui de fait contribue à la nécessité d’un État limité. La propriété est définie comme l’ensemble des droits exclusifs dont dispose une personne sur des choses.

Juridiquement, elle est constituée de trois éléments : le fructus, l’usus et l’abusus, c’est-à-dire le droit d’exploiter, d’utiliser et de modifier ou de vendre un bien.

Chez certains libertariens, la question s’est posée d’une propriété de soi. L’individu disposerait d’un droit de propriété sur son propre corps et pourrait ainsi vendre ou louer des parties de son corps. Cette vision a abouti aux extropiens, transhumanistes libertariens, voyant le corps comme une marchandise comme une autre.

Une vision à laquelle s’oppose l’idée de property de John Locke, définissant le domaine réservé de l’individu, plus proche de l’idée de souveraineté individuelle également reconnue par certains libertariens.

Dans Ghost in the Shell, cette question est posée en périphérie des questions humanistes. Le corps étant presque entièrement robotique, à l’exception du cerveau, cette question a son intérêt. À qui appartient le corps du Major ?

Cette question ne trouve de réponse que dans le second élément fondamentalement libéral que pose le film : la question du consentement.

Si Motoko a consenti à cette mutation par l’intermédiaire, par exemple, d’un contrat de vente, le corps cybernétique lui appartient. Si elle a signé un contrat de travail, par exemple, on peut imaginer que le corps du cyborg est un outil de travail, propriété de son employeur, rendant l’interdépendance entre outil et ouvrier très compliquée.

Or, le problème fondamental du consentement dans Ghost in the Shell est bien celui de l’oubli. Le Major n’ayant plus de souvenir de son passé avant sa transformation, elle ne sait pas si elle a consenti ou non à devenir ce qu’elle est, et toute l’intrigue du film comme des mangas se pose ici. Un point qui le rapproche une nouvelle fois de Robocop.

Motoko est-elle un individu ou un outil ?

Le consentement est un concept central de la pensée libérale puisqu’il évoque directement la liberté, droit naturel.

Dans les théories du droit naturel le consentement entraîne tout le reste. Sans consentement, pas de liberté. Il est explicite ou n’est pas.

En droit français, on impose le consentement pour la validité d’un acte juridique. Cette idée découle de l’autonomie de la volonté des individus, tandis que le droit anglo-saxon préfère l’idée de responsabilité. Celui qui consent ne peut se prévaloir des conséquences de l’acte consenti.

Cette simple question du consentement permet de comprendre la mise en garde de Masamune Shirow : l’individu doit rester maître de la machine, et non l’inverse. L’absence de coercition étant la clef de la garantie de la liberté.

Technologie : amélioration ou homme nouveau ?

Ghost in the Shell pose donc des questions profondément libérales quant à la nature de l’évolution technique.

Après la question de ce qui fait un être humain, se pose très rapidement celle de ses droits naturels, parmi lesquels le consentement et le droit de propriété.

Dans une perspective où la technique n’est plus un instrument au service de l’homme, mais une idéologie voire une nouvelle forme de servitude en faveur d’un homme nouveau, les droits naturels sont bafoués.

Toute la question que pose le transhumanisme, au sens du droit naturel, est donc celle-ci : la technologie est-elle au service de l’amélioration de l’homme ou devient-elle petit à petit un outil vers son asservissement ? Une telle question est contenue dans la distinction entre les changements naturels des individus et le transhumanisme.

Dans une première approche, l’homme du XXIe siècle a la même nature que celui du XXe siècle, mais l’amélioration de ses conditions de vie a permis de contrebalancer des défaillances. En cela, la médecine, les prothèses, les appareils auditifs et même la nutrition constituent des progrès permettant d’améliorer notre quotidien sans pour autant changer la nature même de ce que nous sommes.

Dans une seconde approche, le transhumanisme est souvent animé par des ambitions prométhéennes de création d’une nouvelle espèce, entre l’homme et la machine.

Ghost in the Shell nous rappelle donc le danger de nier la nature humaine et ses droits les plus élémentaires, véritables garde-fou au culte de la technique sur la liberté humaine.

Le film pose également le problème de l’équilibre. Ce dernier ne saurait être évident pour les transhumanistes quant aux avantages respectifs de l’homme et du robot, souvent évoqués pour justifier ces théories. Servir l’homme en l’améliorant, et donc en cassant un rouage de l’équilibre du vivant. En cela, la frontière entre amélioration et changement de nature est ténue, puisque le risque est de cumuler les problèmes humains et robotiques, comme les émotions et l’absence de cicatrisation spontanée des structures artificielles.

À l’heure où Google, Neuralink ou encore Facebook s’ingénient à agir en faveur de la pensée transhumaniste, le travail des libéraux est d’accompagner, d’un œil pragmatique mais sévère, ces évolutions en revenant aux fondamentaux de la nature humaine et de ses droits les plus sacrés, en particulier, comme le postule Ghost in the Shell, devant le risque d’accaparement de ces théories par la connivence du complexe militaro-industriel et du pouvoir politique.

« Les idéologies qui postulent un être neuf, pour remplacer l’être tel qu’il est — on songe à l’être générique des marxiens — ne « libèrent » généralement l’homme qu’au prix de la coercition la plus étroite. » (Drieu Godefridi).