Le droit naturel et Asimov (2/2) : libéraux, les robots ?

Sans jouir du droit naturel, les robots d’Asimov en sont un formidable garant. Mais les robots ne seront pas tels qu’il les décrit.

Partager sur:
Sauvegarder cet article
Aimer cet article 0

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Le droit naturel et Asimov (2/2) : libéraux, les robots ?

Les points de vue exprimés dans les articles d’opinion sont strictement ceux de l'auteur et ne reflètent pas forcément ceux de la rédaction.
Publié le 6 juin 2015
- A +
Robby the Robot - Credits JD Hancock (CC BY 2.0)
Robby the Robot – Crédits : JD Hancock (CC BY 2.0)

 

Dans un précédent article, je montrais que les Trois Lois de la Robotique énoncées par Asimov étaient comparables au droit naturel. Elles imposent cependant l’obéissance aux robots, alors que le droit naturel aux hommes offre la liberté.

Sans en jouir eux-mêmes, la Première Loi fait des robots un formidable garant du droit naturel :

« Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger. »

Les robots, garants de la liberté

Doués d’une force incomparable, les robots sont impartiaux et protègent non seulement leur propriétaire et maître, mais également tout individu. La Deuxième Loi, qui leur impose l’obéissance, est subordonnée à la Première, qui leur impose de veiller sur chaque être humain. Dans Sous les Feux du Soleil, le propriétaire des robots Daneel Olivaw et Giskard jette pour le démontrer un objet vers son hôte. Ses propres robots l’en empêchent, le neutralisent, bloquent l’objet et s’assurent de la bonne santé de sa cible.

Ils protègent également chaque individu, sauf lorsque les seules Lois de la Robotique ne leur permettent pas de trancher, auquel cas ils privilégieront leur maître ; par exemple si leur action cause un tort égal à un parfait inconnu ou à leur maître, ils arbitreront en faveur de leur maître. Les ordres de leur maître ont également plus de poids que ceux d’un parfait inconnu, mais jamais assez pour aller à l’encontre de la Première Loi.

Dans les sociétés robotisées des mondes spatiens1, chacun possède plusieurs robots ; chaque habitation, chaque institution, chaque individu est en permanence protégé. Et force est de constater que le droit naturel y est respecté : l’inspecteur Elijah Baley est appelé sur Solaria pour résoudre le premier meurtre commis sur un monde spatien, et des années plus tard sur Aurora pour élucider un « roboticide ».

Les spatiens s’étonnent d’ailleurs de ce que les terriens et les coloniens2 se passent de robots. La vie sans robots serait sauvage, chaque individu se trouvant en permanence à la merci d’une agression. La tentation d’agir mal est d’ailleurs absente lorsque des robots veillent en permanence à éviter que du tort soit causé à quiconque.

Sur les mondes spatiens, nul besoin de police, nul besoin de prisons. Les affaires qui occupent l’État sont presque intégralement diplomatiques, et même les plus hautes autorités ne peuvent détenir un spatien contre son gré. Alors que la vie des terriens sur une planète surpeuplée est presque entièrement régie par l’administration, qui attribue à chacun une classe administrative lui donnant droit à différents niveaux de rationnement et de privilèges, les spatiens jouissent réellement de leur libre-arbitre.

Les robots tels que décrits par Asimov sont une bénédiction pour tout libéral. Les spatiens ont collectivement accepté certaines règles avec lesquelles tous semblent être en accord ; par exemple, les naissances sont contrôlées (parfois même génétiquement), l’héritage n’existe pas sur Solaria où chaque nouveau-né reçoit au hasard un domaine et ses robots. Et un individu ne supportant pas les règles de la planète sur laquelle il vit pourra cependant changer de planète.

Une abondance trop confortable ?

Outre la préservation du droit naturel, les robots apportent aux hommes l’abondance. Le travail est virtuellement inexistant, et les spatiens se consacrent à ce qui leur plait, ce qui n’empêche pas le progrès ; certains se consacrent par exemple à la robotique, réalisant de formidables avancées comme le robot humanoïde.

Les robots rendent également la vie plus simple et confortable. Pour loger l’inspecteur Baley, on lui construit une maison, qui sera rasée à son départ ; il n’existe pas de réelle contrainte matérielle. Pour communiquer avec n’importe quel spatien ou n’importe quelle planète, il lui suffit de demander à un quelconque robot de le mettre en liaison avec son interlocuteur. Et les robots communiquent entre eux par radio pour se coordonner.

Le progrès est cependant freiné par la crainte du changement associée au lent renouvellement des générations et au manque de collaboration qui résulterait pour Asimov d’une vie longue de plusieurs siècles. À l’abri de tout réel besoin, les spatiens n’ont que peu de raisons d’évoluer et de rechercher la rapidité que la brièveté de la vie humaine encourage sinon.

Les robots d’un futur révolu

Asimov était indéniablement visionnaire. Pourtant, ses robots constituent un apport principalement matériel, et leurs possibilités en dehors du confort domestique et du travail physique demeurent largement inexplorées ou sous-estimées.

Les possibilités démultipliées de communication, visibles sur Solaria, ont un impact bien plus important que les plaisantes conversations à distance imaginées par Asimov. Une intelligence connectée et une mémoire partagée ne sont jamais évoquées avant la fin du Cycle de Fondation, et sont le fait d’une planète entière, Gaïa – pas des robots alors depuis longtemps abandonnés. L’interface entre l’homme et la machine n’est pas nécessairement une commande, et la frontière sera sans doute bien plus floue que les débats les plus poussés sur le degré d’humanité que peut atteindre un robot humanoïde. L’intelligence artificielle ne peut pas seulement être améliorée par les humains ; elle peut s’améliorer elle-même, apprendre, et s’adapter. Nous en sommes encore loin, mais les questions actuelles sur les programmes et le code apprenants portent plus sur le temps qu’il faudra pour qu’ils émergent que sur la possibilité de leur existence.

Les robots de demain auront sans doute des possibilités bien plus larges qu’aucune imagination ne peut appréhender : le progrès est exponentiel, pas linéaire. La linéarité perçue du progrès explique bien souvent les craintes malthusiennes dont Asimov était empreint, au point de prôner un strict contrôle des naissances dont il va jusqu’à faire un pilier du modèle social spatien.

Quels défis pour demain ?

Asimov confronte deux modèles :

  • La terre, surpeuplée et collectivisée, où l’innovation menace en permanence un équilibre économique et social précaire, au point que les robots soient craints, haïs et rejetés ;
  • Les mondes spatiens, où les naissances sont contrôlées, les vies sont longues, et les robots assurent paix et prospérité, mais trop confortables pour réellement évoluer.

Chaque monde est relativement homogène dans son mode d’organisation. Cependant, le gouvernement terrien offre à ses habitants une égalité par classes administratives, l’élite jouissant évidemment de privilèges tels qu’une nourriture non synthétique et des transports individuels. Les spatiens, eux, ont atteint une réelle égalité en droit, et personne ne souffre des inégalités matérielles dans une société d’abondance. Le premier défi qui nous attend, c’est de transformer nos sociétés de plus en plus collectivisées et stratifiées en sociétés où règnent égalité, paix et prospérité. Notre premier défi, c’est de nous libérer. Nous libérer de l’emprise de l’État sur nos vies, qui met les citoyens au service de l’État alors que ce devrait être précisément l’inverse. Le capitalisme de connivence permet à ceux qui ont les faveurs des gouvernements de s’enrichir et appauvrit inéluctablement les citoyens ; nous devons nous en libérer, et pour cela, il faut réduire l’emprise de l’État sur nos vies et lutter contre la tentation du contrôle absolu.

Certains craignent que le progrès exponentiel creuse un fossé infranchissable entre ceux à qui l’innovation est accessible et les autres. L’histoire leur donne tort. L’ordinateur personnel, puis l’ordinateur portable, puis le téléphone portable, puis le smartphone, se sont diffusés par le haut ; ceux qui le pouvaient ont acheté très tôt des modèles peu performants dont des versions améliorées et moins chères se sont ensuite démocratisées. Ce qui est à craindre en revanche, c’est que ces innovations ne voient jamais le jour ; notre deuxième défi, c’est de libérer l’innovation. Cela suppose d’une part de lever les blocages à l’innovation qui, chez Asimov, conduisent la société terrienne à refuser les robots. L’innovation est plus créatrice que destructrice ; on voit les frictions qu’elle peut causer immédiatement, mais il est impossible d’imaginer tout ce que l’innovation permettra de bâtir. Libérer l’innovation, c’est se libérer de la peur. D’autre part, cela suppose de se réapproprier l’innovation. La propriété intellectuelle, sous prétexte de récompenser l’innovation, en empêche aussi bien souvent la diffusion. Alors que l’information est plus accessible que jamais, il est simple d’expérimenter sur un coin de table ; mais l’information est aussi de plus en plus contrôlée, et la bataille de l’innovation se transforme souvent en bataille juridique.

Les robots seront durablement limités, plus par leurs capacités physiques et cognitives que par les Lois de la Robotique. L’émergence de l’intelligence artificielle est inéluctable, mais ce qui en sera fait dépend de chacun d’entre nous. Les robots sont une bénédiction s’ils protègent chacun d’entre nous, mais une malédiction s’ils constituent des armées de tueurs implacables dénués de toute émotion. Les drones, pourtant contrôlés à distance, font de nombreuses victimes innocentes ; des robots armés de tout sauf de discernement sont au moins aussi dangereux, tout comme la possibilité que les robots domestiques puissent être contrôlés à distance par les gouvernements. Le danger, ce n’est pas la technologie, mais l’usage qui en est fait ; le défi, c’est de s’assurer qu’il sera bon. On a pu constater récemment aux États-Unis le danger que représente une agence gouvernementale exerçant des activités de surveillance dans un cadre juridique flou ; au lieu d’y mettre fin, de nombreux pays (dont la France) s’en sont inspirés.

Les défis auxquels nous serons confrontés (et il y en a d’autres) ne tiennent finalement pas tant à ce que la technologie et la marche du progrès peuvent apporter, mais à notre mode d’organisation. Nous avons de plus en plus clairement le choix entre centralisation et distribution, entre responsabilité et contrôle, entre pouvoir et liberté. Ce choix revient finalement à un choix très simple entre la peur et l’amour. Le seul vrai défi, c’est de nous libérer de nos craintes pour donner le meilleur de nous-mêmes, et permettre aux autres d’en faire autant.

  1. Mondes spatiens : colonies humaines installées depuis des décennies sur d’autres planètes habitables de la galaxie.
  2. Coloniens : immigrés récents de la Terre vers d’autres mondes.
Voir les commentaires (5)

Laisser un commentaire

Créer un compte Tous les commentaires (5)
  • « La propriété intellectuelle, sous prétexte de récompenser l’innovation, en empêche aussi bien souvent la diffusion. »

    Je suis profondément d’accord avec l’article et avec cette phrase. Cependant, je me dois d’y apporter un bémol :

    Un smartphone coute en réalité entre 50 et 100 euros suivant ses performances. Le reste du prix est justifié par le cout de la R&D, le snobisme et le problème de financement du logiciel. Ainsi, Mozilla a mis sur le marché une plateforme ouverte, libre, et protégée de la curiosité malsaine des business model en vogue. Un smartphone à 70 euros mais qui rencontre un intérêt très mitigé parce qu »il ne permet pas aux développeurs d’espérer (sinon de réaliser effectivement) un retour sur investissement du temps passé à développer une application. Conséquence : peu d’applications disponibles et intérêt limité pour la majorité des acheteurs potentiels.

    La propriété intellectuelle (qui protège l’innovation) est un frein mais aussi un moteur (dans l’état actuel des choses – mais probablement aussi dans l’absolu). C’est un vaste débat qui a été abordé maintes fois sur Contrepoints, mais il me semble qu’il faut permettre la coexistence de la propriété intellectuelle et du « libéralisme intellectuel » (limitation sur la durée par exemple) afin de garantir à la fois l’émergence ET la sélection des technologies réellement utiles et innovantes.

    • Le seul moteur de la « propriété » intellectuelle, c’est racketter des gros poissons et tuer la concurrence.

      La propriété intellectuelle est un faux concept. Une idée peut naitre dans un esprit, ou dans X esprits en meme temps. C’est le problème de l’inventeur de bénéficier de son idée, et en aucun cas il n’est justifié d’utiliser la force.

  • le monde des robots est magique…jusqu’au jour où le bug fait son apparition..ouf le robot et l’humain se retrouve a égalité . l’humain n’est il pas qu’un robot buggé , très buggé , outrageusement buggé mais c’est ce qui fait la différence car parfois le bug s’appelle l’évolution….

  • « l’héritage n’existe pas sur Solaria où chaque nouveau-né reçoit au hasard un domaine et ses robots »
    ie il y a un pouvoir central qui contrôle les naissances, ce qui n’est pas libéral.

  • Les commentaires sont fermés.

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Ce vendredi 2 février, les États membres ont unanimement approuvé le AI Act ou Loi sur l’IA, après une procédure longue et mouvementée. En tant que tout premier cadre législatif international et contraignant sur l’IA, le texte fait beaucoup parler de lui.

La commercialisation de l’IA générative a apporté son lot d’inquiétudes, notamment en matière d’atteintes aux droits fondamentaux.

Ainsi, une course à la règlementation de l’IA, dont l’issue pourrait réajuster certains rapports de force, fait rage. Parfois critiquée pour son ap... Poursuivre la lecture

Voilà maintenant quatre ans que le Royaume-Uni a officiellement quitté l'Union européenne. Depuis le Brexit, la Grande-Bretagne a connu trois Premiers ministres, et d'innombrables crises gouvernementales. Néanmoins, malgré le chaos de Westminster, nous pouvons déjà constater à quel point les régulateurs du Royaume-Uni et de l'Union européenne perçoivent différemment l'industrie technologique. Le Royaume-Uni est un pays mitigé, avec quelques signes encourageants qui émergent pour les amateurs de liberté et d'innovation. L'Union européenne, qua... Poursuivre la lecture

Il y a 120 ans, par une froide matinée d’hiver, les frères Wright font décoller l’avion sur lequel ils travaillent depuis des mois. C’est une machine très complexe à piloter. Ce jour-là, ils réussissent à effectuer quatre vols de seulement 30 à 260 mètres qui se terminent chaque fois assez brutalement. Mais la boîte de Pandore est ouverte.

On peut tirer au moins cinq leçons de cet épisode.

 

Il est difficile d’estimer la portée d’une invention sur le long terme

Le 17 décembre 1903, personne n’imagine ce que d... Poursuivre la lecture

Voir plus d'articles