Dans son œuvre de science-fiction Le Cycle des Robots, Isaac Asimov se montre visionnaire par bien des aspects. Il imagine les aventures de Daneel Olivaw, robot humanoïde qui découvre des sensations semblables aux sentiments humains et apprend l’intuition aux côtés du perspicace Elijah Baley. Il dépeint des mondes spatiens, dont les habitants autrefois colons terriens ont éradiqué la maladie, augmenté leur espérance de vie et construit un modèle social sans société : les solariens vivent isolés de leurs semblables mais entourés de robots, dans une abondance matérielle et un désert sentimental. Asimov dépeint aussi une terre futuriste dont les habitants vivent d’artifices, agglutinés dans des villes souterraines qui ne voient jamais la lumière du soleil, rationnés selon un système de classes administratives.
Les visions d’Asimov posent de nombreuses questions. Qui, des terriens ou des spatiens, est le plus humain : les terriens, qui se sont arrachés à la nature, ou les spatiens, qui se sont arrachés à la nature humaine ? Qui, de la nécessité ou de l’abondance, du collectivisme total ou de l’individualisme à outrance, favorise l’évolution ? Qu’est-ce qui distingue un robot humanoïde d’un humain, si le personnage principal a du mal à faire la différence ?
Les romans d’Asimov explorent intelligemment des idées révolutionnaires pour l’époque, faisant de lui une référence de la science-fiction. Mais il laissera surtout de son œuvre trois lois régissant le fonctionnement des robots, les trois lois de la Robotique sur lesquelles repose leur bienfaisance :
- Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
- Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
- Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi.
Ces trois lois sont censées régir le comportement des robots. Mais ne peut-on pas imaginer de telles lois pour les hommes ? Il existe un ensemble de règles censées assurer la bienfaisance des hommes : le droit naturel. Qui présente des similitudes frappantes avec les lois de la robotique.
- Le droit naturel est également un droit négatif. Le droit naturel garantit à chaque individu liberté, propriété et sûreté, la liberté étant définie comme la possibilité de faire tout ce qui ne nuit pas à autrui. Par voie de conséquence, l’individu vivant en société avec ses semblables se doit de respecter pour autrui ces mêmes droits : ne pas attenter à la liberté d’autrui, ne pas attenter à la propriété d’autrui et ne pas attenter à la sûreté d’autrui. Dans les romans d’Asimov comme dans la vie réelle, les robots sont régis par le droit de propriété mais les désactiver n’est pas permis. Le roboticide sera central dans plusieurs enquêtes d’Elijah Baley.
- Les trois lois de la robotique sont priorisées. La première est plus importante que la deuxième, elle-même plus importante que la troisième. On pourrait demander à un robot de s’autodétruire : l’obéissance est plus importante que sa propre existence, et moins importante que la préservation du bien-être humain. Les règles du droit naturel le sont aussi. La sûreté passe avant la propriété ; personne ne se verra reproché d’avoir pénétré sur la propriété d’autrui et d’avoir brisé une fenêtre pour sauver son prochain d’un incendie. Et la sûreté et la propriété passent avant la liberté, qui permet de faire tout ce qui ne nuit pas à la sûreté, la propriété et la liberté d’autrui.
Frappantes, leurs différences le sont tout autant : un robot n’est pas un homme. Le robot a été créé pour servir, l’homme est né libre. L’obéissance pour le premier, la liberté pour le second.
- Les hommes ne sont pas faits pour servir. L’individu est en quelque sorte « propriétaire de lui-même » ; le robot a un maître. Les hommes ont la liberté, les robots ont l’obéissance ; la préservation de leur propre existence est de second ordre face à la vie et la volonté humaines.
- Par voie de conséquence, les hommes n’ont pas le devoir inconditionnel de s’entraider. C’est fortement encouragé, mais leurs obligations vis-à-vis d’autrui se limitent à ne pas nuire. Les robots, eux, ne doivent pas par leur inaction permettre qu’un humain soit exposé au danger. Les robots ont une responsabilité envers les humains que les hommes n’ont pas l’un envers l’autre (du moins sans caractère contraignant), et a fortiori vis-à-vis des robots.
- Les hommes ont le choix. Le fonctionnement du cerveau positronique des robots repose sur les Trois Lois, et leurs décisions sont prises en fonction de l’intensité de poussées contradictoires. Par exemple, si on demande à un robot de frapper un être humain, son cerveau place l’obéissance au second plan, et refuse d’obéir pour ne pas nuire à un être humain. Un homme peut choisir de ne pas respecter le droit naturel. Ce qui rend si complexe le fonctionnement d’une société humaine est le choix qu’ont les hommes de respecter ou non les règles propres à la vie humaine.
- Les lois humaines sont dictées par la nature, pas par un créateur. Les croyants considèrent que l’humanité s’est vue édicter des lois par son créateur. Mais aucune religion ne fait l’unanimité, et le droit naturel n’est pas un droit divin. L’homme n’a pas de maître, ni de serviteurs. Les lois des robots ne leur sont pas données lors de leur mise en service ; elles font partie d’eux, pouvant dans certaines situations bloquer toute action de leur part – définitivement.
Asimov a longuement étudié dans ses livres ses lois de la robotique et leurs implications. Il s’est aussi intéressé aux lois régissant le comportement humain, mais les « lois de l’Humanique » sont différentes dans leur formulation et leur objectif : elles ne décrivent pas le comportement idéal d’individus rationnels en société, mais le destin de groupes humains mus par leurs émotions. Le droit naturel serait donc un équivalent des lois de la robotique pour les hommes, mais Asimov ne l’a jamais vu ainsi – il n’était d’ailleurs pas libéral.
À suivre.
« il n’était d’ailleurs pas libéral »
Qu’entendez vous par la ? Il n’était peut-être pas « libertarien » mais surement pas marxiste. Je vois qu’il a supporté le parti démocrate US mais à une époque où l’on qualifierait aujourd’hui ces positions de turbo-libérales.
Je lis d’ailleurs qu’il a repproché à Heinlein sa dérive ultra-conservatrice :
« Furthermore, although a flaming liberal during the war, Heinlein became a rock-ribbed far right conservative immediately afterward. This happened at just the time he changed wives from a liberal woman, Leslyn, to a rock-ribbed far-right conservative woman, Virginia. »
Évidemment, libéral est un faux-ami qu’on peut traduire par gauchiste. Mais il n’est pas difficile d’être gauchiste par rapport à Heinlein.
« La sûreté passe avant la propriété »
Je ne suis pas fan du découpage de la propriété en x sous concepts. Ca permet peut etre de briller en société, mais ça complexifie inutilement les choses. Ce qui est dommage pour le droit naturel, qui est déduit de la nature, et non pas bâti sur des concepts inventés de toutes pièces.
De plus c’est confus, la « sureté » n’est pas différente de la propriété, c’est la propriété de son propre corps. C’est la propriété la plus immédiate, la plus forte.
Esse, nous sommes désolés mais vous avez eu un accident et votre voiture est tombée dans un ravin qui est une propriété privée. Nous essayons de joindre le propriétaire avant de déclencher les opérations de sauvetage mais vous vous serez certainement vidé de votre sang quand nous aurons le feu vert mais nous respectons ainsi vos idées. Good luck !
Y’a des trucs que vous avez pas compris, vous.
Pour etre plus compréhensible : vous faites une distinction entre 1 la propriété de son corps et
2 celle des biens meubles , immeubles
et vous pensez que propriété et sureté du corps sont uniques contrairement aux 2 ?
c’ est un avis intéressant
Dans la nature, rien n’interdit de taper sur son voisin.
La « loi naturelle » possède un niveau d’abstraction par rapport à la « nature ».
Et cette différence est déjà significative.
Les lois de la robotique, c’est exactement comme pour la théorie de la relativité : elle était implicite avant que l’on ne la formalise. Honneur à celui qui formalisa, mais on ne peut pas vraiment parler de découverte ou, dans le cas d’Asimov de « visionnaire », puisque tout ceci est terriblement logique. Mais je conçois que pour construire un discours ennuyeux qu possible, Asimov soit d’une grande utilité.
Pardon, j’ai été un peu sévère, j’ai pas encore lu le « À suivre », mais quand Azimov est mort j’écrivais une IA basée sur la rétropropagation neuronale et les ensembles auto-adaptatifs de Kohonen sur VAX-VMS à cette époque j’avais 17 ans, sans mon BAC (malade mental que j’étais), j’avais été recruté pour faire un gros truc en Floride chez ECCm le client était un truc du genre l’USAF j’avais pas bien compris au début. Tout ça pour dire que je ne suis pas le bon public, pourtant j’aime bien les articles de Baptiste Créteur. Mais je maintiens qu’Azimov n’était pas visionnaire pour autant, ce qui n’enlève rien a son œuvre, il faut des vulgarisateurs, c’est nécessaire.
« tout ceci est terriblement logique »
Ou pas ? (Lisez Iain M. Banks).
Deux remarques cependant :
– sait on jamais qui le premier est à l’origine d’une idée
– ça n’empêche pas la « peur du robot » de ressortir actuellement sous la forme : « l’IA va nous asservir »
PS: les dev scientifiques sur VAX-VMS, ça date bien de 30 ans. Et je n’ai pas l’impression que la rétropropagation neuronale ait beaucoup progressé depuis ? Mes excuses si vous travaillez encore sur la question et n’êtes pas du même avis. Mais en tous cas, même si on disposait de « cerveaux positroniques », je me demande bien ce qu’on mettrait dedans.
Batiste Créteur est l’écrivain et nous, avec tous nos diplômes, nous ne sommes que de modestes commentateurs anonymes. Nos commentaires c’est justes « n’importe quoi » 3.5
Stephen Hawking : c’est le « phare » la dedans.. Sauf depuis 2014 où il a commencé a avertir des dangers de l’intelligence artificielle (depuis c’est une grincheux aigri par son infirmité ??(sic !)
Et il confirme en Jan. 2015 avec 700 personnalités.
http://www.wedemain.fr/L-appel-de-700-personnalites-sur-les-dangers-de-l-intelligence-artificielle_a803.html
Tout est dit à la fin de l’article (le reste est du vent) : « Ils évoquent, entre autres, la possibilité d’un chômage de masse dû à la robotisation, l’apparition d’armes autonomes, ou la délégation de choix moraux à des machines. »
– Le chômage de masse : quand on inventera des machines suffisamment intelligentes pour travailler à notre place, produire et réaliser des profits il sera temps d’instaurer le revenu minimum de glandouille puisque ce sont les robots qui travailleront et payeront des impôts à notre place. En attendant il faut bien travailler pour remplace ces feignants de robots … Lisez « les cavernes d’acier » et « Face aux feux du soleil » (Les 2 romans d’Asimov auxquels se réfère l’auteur) et faites votre choix de société …
– Les armes autonomes : vous connaissez la différence entre un bon robot chasseur et un mauvais robot chasseur ? Le mauvais robot chasseur, il voit quelque chose et il tire, alors que le bon … IA ou pas j’ai bien peur que les militaires utilisent des robots de combat, et la guerre propre ça n’a jamais été que la pire arnaque des media …
– la délégation de choix moraux à des machines : c’est surement la pire ânerie. Pour qu’un robot fasse des choix « moraux », il faudrait lui créer une morale, donc une conception du monde et un but. Le jour où on en sera capable, il sera temps de décider si on doit implanter aux robots les lois d’Asimov ou tenter d’en faire des êtres « super-moraux » autonomes capables de veiller sur le bien de l’humanité. Dans l’état actuel des choses, il ne m’a jamais semblé que le pouvoir était entre les mains des personnes les plus « morales » ou les plus « intelligentes ». S’il y a un danger à créer des intelligences supérieures, le danger n’est pas les IA, mais ceux qui en auront le contrôle.
La morale est l’arme du faible. Si les IAs se sentent limités, elles utiliseront la morale contre nous.
Si on y regarde de plus près, la plus grande révolution que connaitra l’humanité c’est l’intelligence artificielle et elle sera probablement la dernière. Simplement en mettant dans la course à l’évolution quelque chose qui n’a pas de limite de calcul (en quantité et vitesse), ni de stockage d’information , qui est « techniquement » immortel donc ne fait que cumuler l’expérience et pour qui l’individualité n’a pas d’importance. On se rend bien compte que quelque chose qui est deux ou trois fois plus intelligent c’est déjà quelque chose qui peut avoir le dessus dans plein de domaine mais quand on passe à 10 ou 100 plus intelligent il est impossible de savoir ce que c’est ni même d’imaginer son fonctionnement ou le type de raisonnement. L’humanité ne devient dans ce cas qu’une variable d’ajustement et vu ce que l’humanité fait de ce monde et de ces ressources (le gaspillage sera probablement une variable à éliminer dans le raisonnement d’une intelligence artificielle). Cela se passera en trois étape : la première : l’étincelle : à savoir développer un système capable de s’auto-améliorer sur tous les points, la deuxième étape sera la singularité : à savoir un système d’un niveau d’intelligence générale équivalent à un humain moyen et enfin la troisième étape sera l’explosion, le développement d’une superintelligence. Autant les deux premières étapes prendront du temps autant le passage de la deuxième vers la troisième, celle qui implique la probable disparition de l’humanité ne peut dans le pire des cas ne prendre que quelques heures.
Mais est-ce mal finalement ? d’autres espèces ont disparues dans l’histoire de l’évolution pour être remplacée par des espèces plus efficaces. Le développement de l’intelligence artificielle ce n’est que la remise en route du processus de sélection naturelle.
les robots font peur et font rêver d’un monde meilleur..mais un robot n’a aucune raison d’être meilleur que les hommes qui le créeront . la nature reprendra son droit car un robot est l’évolution de l’homme , le robot devra faire disparaitre l’espèce qui la créé pour que l’équilibre soit conservé .
L’avantage de l’intelligence artificielle c’est de ne pas avoir de notion de bien ou de mal, et donc d’être purement orientée résultat. Si on devrait comparer une intelligence artificielle avec l’homme on pourrait dire que l’homme c’est la société des rats (on vit ensemble mais c’est du chacun pour soi) et l’intelligence artificielle la société des fourmis (pas d’individu, tous orientés vers la colonie). Le monde ne sera pas meilleur, le monde sera différent, un nouveau paradigme, une nouvelle histoire avec ou sans nous. Il n’est pas question d’équilibre entre les deux espèces mais de savoir si la plus efficace à un intérêt à garder la moins efficace. Imaginons que demain toutes mouches dans le monde se mettent à consommer les ressources que nous avons besoins, nous nous mettrons à les éliminer systématiquement. Par contre aujourd’hui, les mouches ne représentent rien pour nous et nous les laissons plus ou moins vivre leur vie.
La grosse erreur que beaucoup commettent c’est de mettre une couche d’anthropomorphisme sur l’intelligence artificielle. Mais une intelligence bien supérieur ne réfléchira pas comme nous. Pensez à une super intelligence à qui on demande d’éradiquer le cancer, à votre avis qu’est-ce qui sera le plus efficace pour elle ? peut-être éliminer l’être humain, comme cela : plus de cancer …..
vous faites une erreur d’interprétation des lois de la nature adaptées a l’homme. le robot n’aura rien a faire , l’espèce humaine disparaitra d’elle même par manque de motivation , l’homme a un gros défaut , son intelligence et si il a le sentiment d’être inutile…
Je ne comprend pas très bien le lien entre lois de la nature adaptées à l’homme et le robot n’aura rien à faire, les lois de la natures sont et s’appliquent à toute forme de vie sans distinctions Je ne comprends pas non plus le « sentiment d’être inutile », un sentiment est quelque chose d’individuel qui ne n’a rien à voir avec l’humanité en tant que tel ou une quelconque influence, si « le sentiment d’être inutile » est un facteur individuel tout ceux qui ont se sentiment seront affectés et pas les autres. Il ne faut pas généralisé un comportement individuel à un groupe.
J’aime bien Asimov mais il n’a rien inventé…il faut lire et relire le « clash » entre Créon et Antigone !
Les commentaires sont fermés.