Le droit naturel et Asimov (1/2) : 3 lois de la robotique

imgscan contrepoints 269 robotisation

Peut-on comparer le droit naturel aux trois Lois de la Robotique d’Asimov ?

Dans son œuvre de science-fiction Le Cycle des Robots, Isaac Asimov se montre visionnaire par bien des aspects. Il imagine les aventures de Daneel Olivaw, robot humanoïde qui découvre des sensations semblables aux sentiments humains et apprend l’intuition aux côtés du perspicace Elijah Baley. Il dépeint des mondes spatiens, dont les habitants autrefois colons terriens ont éradiqué la maladie, augmenté leur espérance de vie et construit un modèle social sans société : les solariens vivent isolés de leurs semblables mais entourés de robots, dans une abondance matérielle et un désert sentimental. Asimov dépeint aussi une terre futuriste dont les habitants vivent d’artifices, agglutinés dans des villes souterraines qui ne voient jamais la lumière du soleil, rationnés selon un système de classes administratives.

Les visions d’Asimov posent de nombreuses questions. Qui, des terriens ou des spatiens, est le plus humain : les terriens, qui se sont arrachés à la nature, ou les spatiens, qui se sont arrachés à la nature humaine ? Qui, de la nécessité ou de l’abondance, du collectivisme total ou de l’individualisme à outrance, favorise l’évolution ? Qu’est-ce qui distingue un robot humanoïde d’un humain, si le personnage principal a du mal à faire la différence ?

imgscan contrepoints 269 robotisationLes romans d’Asimov explorent intelligemment des idées révolutionnaires pour l’époque, faisant de lui une référence de la science-fiction. Mais il laissera surtout de son œuvre trois lois régissant le fonctionnement des robots, les trois lois de la Robotique sur lesquelles repose leur bienfaisance :

  1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
  2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
  3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi.

Ces trois lois sont censées régir le comportement des robots. Mais ne peut-on pas imaginer de telles lois pour les hommes ? Il existe un ensemble de règles censées assurer la bienfaisance des hommes : le droit naturel. Qui présente des similitudes frappantes avec les lois de la robotique.

  • Le droit naturel est également un droit négatif. Le droit naturel garantit à chaque individu liberté, propriété et sûreté, la liberté étant définie comme la possibilité de faire tout ce qui ne nuit pas à autrui. Par voie de conséquence, l’individu vivant en société avec ses semblables se doit de respecter pour autrui ces mêmes droits : ne pas attenter à la liberté d’autrui, ne pas attenter à la propriété d’autrui et ne pas attenter à la sûreté d’autrui. Dans les romans d’Asimov comme dans la vie réelle, les robots sont régis par le droit de propriété mais les désactiver n’est pas permis. Le roboticide sera central dans plusieurs enquêtes d’Elijah Baley.
  • Les trois lois de la robotique sont priorisées. La première est plus importante que la deuxième, elle-même plus importante que la troisième. On pourrait demander à un robot de s’autodétruire : l’obéissance est plus importante que sa propre existence, et moins importante que la préservation du bien-être humain. Les règles du droit naturel le sont aussi. La sûreté passe avant la propriété ; personne ne se verra reproché d’avoir pénétré sur la propriété d’autrui et d’avoir brisé une fenêtre pour sauver son prochain d’un incendie. Et la sûreté et la propriété passent avant la liberté, qui permet de faire tout ce qui ne nuit pas à la sûreté, la propriété et la liberté d’autrui.

Frappantes, leurs différences le sont tout autant : un robot n’est pas un homme. Le robot a été créé pour servir, l’homme est né libre. L’obéissance pour le premier, la liberté pour le second.

  • Les hommes ne sont pas faits pour servir. L’individu est en quelque sorte « propriétaire de lui-même » ; le robot a un maître. Les hommes ont la liberté, les robots ont l’obéissance ; la préservation de leur propre existence est de second ordre face à la vie et la volonté humaines.
  • Par voie de conséquence, les hommes n’ont pas le devoir inconditionnel de s’entraider. C’est fortement encouragé, mais leurs obligations vis-à-vis d’autrui se limitent à ne pas nuire. Les robots, eux, ne doivent pas par leur inaction permettre qu’un humain soit exposé au danger. Les robots ont une responsabilité envers les humains que les hommes n’ont pas l’un envers l’autre (du moins sans caractère contraignant), et a fortiori vis-à-vis des robots.
  • Les hommes ont le choix. Le fonctionnement du cerveau positronique des robots repose sur les Trois Lois, et leurs décisions sont prises en fonction de l’intensité de poussées contradictoires. Par exemple, si on demande à un robot de frapper un être humain, son cerveau place l’obéissance au second plan, et refuse d’obéir pour ne pas nuire à un être humain. Un homme peut choisir de ne pas respecter le droit naturel. Ce qui rend si complexe le fonctionnement d’une société humaine est le choix qu’ont les hommes de respecter ou non les règles propres à la vie humaine.
  • Les lois humaines sont dictées par la nature, pas par un créateur. Les croyants considèrent que l’humanité s’est vue édicter des lois par son créateur. Mais aucune religion ne fait l’unanimité, et le droit naturel n’est pas un droit divin. L’homme n’a pas de maître, ni de serviteurs. Les lois des robots ne leur sont pas données lors de leur mise en service ; elles font partie d’eux, pouvant dans certaines situations bloquer toute action de leur part – définitivement.

Asimov a longuement étudié dans ses livres ses lois de la robotique et leurs implications. Il s’est aussi intéressé aux lois régissant le comportement humain, mais les « lois de l’Humanique » sont différentes dans leur formulation et leur objectif : elles ne décrivent pas le comportement idéal d’individus rationnels en société, mais le destin de groupes humains mus par leurs émotions. Le droit naturel serait donc un équivalent des lois de la robotique pour les hommes, mais Asimov ne l’a jamais vu ainsi – il n’était d’ailleurs pas libéral.

À suivre.