Par Pierre-Louis Tamboise.
Un article de Trop Libre
Daniel Dewey (ancien de l’Intel Labs Pittsburg and Carnegie Mellon University, de Google) est le « Alexander Tams Research Fellow on Machine Superintelligence and the future of A.I. (Intelligence Artificielle) at the future of humanity institute ». Il pense que les machines super-intelligentes à venir seront bien plus efficaces, dans le planning des actions et la résolution des problèmes, que n’importe quel humain ou groupe d’humains pour répondre aux questions du futur. Il s’inquiète de savoir si le phénomène de cette domination par la super-intelligence peut arriver rapidement ou non et ce qu’elle va entraîner, sachant que son explosion aura des conséquences particulièrement importantes. Ces machines en effet seront douées de compréhension accrue, d’un pouvoir de décision théorique supérieur, d’outils de calculs sophistiqués leur permettant de choisir les programmes les plus efficaces pour réaliser les actions auxquelles on les destine. Or il est facile de comprendre que la plupart de ces projets ne seront pas compatibles, pour leur réalisation, avec des réponses acceptables (par nous).
Le pire serait que ces machines émergent tout à coup, et de façon imprévue (par quelque amélioration de systèmes ou modification de principes) ? Pourraient-elles alors acquérir la capacité de devenir menaçantes ? Le problème c’est qu’elles seraient capables, si on les programmait pour cela, de choisir les actions les plus efficacement nuisibles, selon la préférence et les arguments philosophiques de ceux qui les planifieraient. N’oublions pas que les buts valables (décents et positifs) sont recherchés par des programmes particuliers et que programmer un ordinateur pour atteindre ce qui est valable (et juste) est un problème difficile.
Dans ces conditions, il serait important d’acquérir une coordination efficace pour éviter de tels chocs (incontrôlés) car ce type de recherches a besoin de fondamentaux qui peuvent aider les chercheurs et les visionnaires. Devant ces complexités et la déshumanisation due à l’excès d’abstraction de la science, mais aussi d’une économie déréglée qui s’engagerait dans la voie de sa propre destruction, ou bien encore d’une robotisation trop frénétique dont l’accélération deviendrait exponentielle, il est évident que l’arrivée d’une super-intelligence dominant le cerveau humain poserait beaucoup de questions. Si nous possédons des aptitudes que n’ont pas les animaux, c’est pourtant en se référant à elles jusqu’à présent que notre espèce tenait sa position dominante. Or les machines à penser actuelles surpassent déjà l’intelligence humaine (pour certaines fonctions). On comprend que l’arrivée de cette nouvelle vague pourrait devenir si puissante qu’elle risque de passer elle-même hors de contrôle.
De même qu’aujourd’hui les gorilles dépendent plus des humains que d’eux-mêmes, de même le destin de l’humanité pourrait dépendre de ces « super-intelligences ». Ce risque inquiétant est cependant pondéré par un avantage que nous avons sur elles, à savoir que c’est nous qui mettons en route toute cette affaire. Nous avons encore le temps de mettre au point de quoi survivre à cette révolution. Mais comment contrôler cette explosion si elle se présentait ? Le dernier livre de Nick Bostrom (directeur de l’institut du futur de l’humanité, à l’université d’Oxford) pose, selon cet article, la question de ce qui pourrait arriver si les machines surpassaient l’intelligence humaine en général, et par quels moyens on pourrait éviter qu’elles nous détruisent : « Il dessine les fondations de ce qui pourrait nous permettre de comprendre le futur de l’humanité et celui d’une vie intelligente ». Et Dewey insiste, « il décortique le parcours intellectuel difficile de cette recherche après un voyage enrichissant qui nous amène aux frontières d’une façon originale de penser » à propos de la condition humaine et du future. « Nous (y) trouvons rien moins que la re-conceptualisation de ce qui est (devenu) l’indispensable tâche de notre temps », et ce que nous cherchons tous. (d’après un article de l’université d’Oxford – Wikipédia).
La question qui se pose alors est : pourrions-nous programmer ces machines à partir des « besoins » humains pour qu’elles proposent des modèles de société y répondant, qui incluraient la liberté et le bonheur (pour ne pas tout recommencer à l’envers comme on l’a fait jusque-ici) ?
Lire aussi : De l’homme augmenté au transhumanisme
Toujours ce vieux mythe des robots qui prennent le pouvoir pour détruire et remplacer l’humanité – très à la mode en ce moment. Je vous ferais remarquer 2 choses :
– allez sur un site de vente international sur Internet. Lisez les descriptifs des produits faits par des traducteurs robots. Incompréhensible, non sens total ! Pas mieux qu’il y a 30 ans. On est encore très loin d’avoir une machine simplement capable de comprendre … que ce qu’elle dit ou fait n’a aucun sens. Le jour où je verrai une machine qui pense de façon cohérente et déterminée, il sera temps pour moi de s’inquiéter de ses projets.
– regardez la photo d’illustration : le robot avec une sale gueule. Pourquoi construire un robot humanoïde si c’est pour en faire quelque-chose de repoussant et inquiétant ? Soit vous cherchez une forme adaptée (6 bras, des yeux partouts, pas de bouche …), soit vous lui donnez une forme humaine mais avenante. La vérité est que comme dans beaucoup de domaines, on projette des phantasmes bien humains sur les machines et que la réalité n’a que peu à voir avec ces phantasmes. Si problème il y a, il sera différent de ce qu’on peut prédire ou imaginer avant même d’avoir des signes de l’existence du problème. Toutes les menaces mises en avant (sur tous les sujets) ne sont que la transposition des angoisses de ceux qui les mettent en avant. Ca relève de la psychanalyse plus que de la réflexion ou même de la politique.
Vous connaissez Jules vernes, Leonardo, Isaac, etc….
Qu’on t’ils en commun (que vous n’avez pas) ?
Le rêve, l’amour de la vie, de l’impossible. Car, pour nous, tout est possible.
Il faut juste savoir rêver comme il faut.
Bonnes fêtes à vous. Laissez la vie remplir votre cœur, demain vous pourrez nous éclairer avec votre amour.
Chose que les robots auront du mal à concurrencer.
Pour le reste, pourquoi est aussi affirmatif ?
A moins d’etre un érudit de science en neurologie, conception de systeme informatique, et en maîtrisant parfaitement la mécanique quantique du cerveau….
« en maîtrisant parfaitement la mécanique quantique du cerveau…. »
Je crois effectivement que vous rêvez …
Cependant, si vous comparez la « bonne bouille » de Sonny (de irobot) inspiré d’Asimov avec la sale gueule de la photo d’illustration, vous mesurez déjà la différence entre un rêve et un cauchemar.
Après, on peut rêver tant qu’on veut, et je ne vois pas pourquoi vous mettez des limites à ce que les robots pourraient concurrencer, car si un robot est capable de nous comprendre, il aura nécessairement dépassé les limites que vous définissez.
Mais on entends toujours du négatif sur la technologie et l’évolution du monde. Et une récupération systématique des peurs que cela peut engendrer. Alors qu’en vérité on n’en sait rien et on en est loin.
Et quand je dis on en est loin, il ne s’agit pas forcément de temps mais de distance. Quand on ne peut discerner les détails, il est impossible et inutile d’anticiper. Tout comme un pilote d’avion de chasse peut être confronté à un problème en une fraction de seconde, mais ne peut pas voler s’il imagine à chaque instant qu’il va percuter une montagne. Il est donc inutile « d’imaginer les montagnes », mais il faut en revanche développer son calme et ses réflexes, et réfléchir aux mesures d’évitement de la façon la plus globale possible sans préjuger de l’obstacle. Par ailleurs, tout le monde n’est pas pilote de chasse …
Inutile de dire que la technologie est mauvaise : il faut évaluer sans parti-pris ses avantages et ses inconvénients sur des faits concrets et trouver des solutions concrètes et vérifiables aux vrais problèmes.
@ pragmat: si je ne m’abuse je pense qu’E-moi ecrit quasi la même chose que vous! Mais j’aime bien votre image du pilote de chasse.
Je ne connais pas Leonardo (à moins qu’il ne s’agisse d’un peintre de jeune femme au sourire énigmatique), mais je connais Jules, Isaac et une partie de « etc ». Sur son aspect technologique, la SF vieillit très vite et il est drôle de constater que Asimov à répondu à la question des robots qui dominent l’humanité en 1950 !
La SF a pour moi plusieurs aspect : du rêve, de l’aventure, des supputations technologiques et une réflexion sur la société telle qu’elle deviendrait avec ces évolutions technologiques. C’est cette dernière approche que je trouve la plus inintéressante. Elle est toujours « datée », marquée par les désirs et les craintes d’une époque donnée: guerre nucléaire, conquête de l’espace, tensions géo-politiques, écologie … Le besoin de romancer amène toujours l’auteur à des incohérences aussi bien techniques que sociales. Rares sont les auteurs qui parviennent ou ont l’ambition de s’élever au dessus du niveau du roman de gare.
Au moins, la SF a fourni un nombre impressionnant de scénario pour le cinéma. Mais ceux qui prétendent prédire le futur devraient lire de la SF avec un esprit critique, uniquement pour constater à quel point les « prévisions » se révèlent fausses, mais encore plus comment l’interprétation des conséquences est biaisée par le présent.
ahhhh moi je pensais au Leonardo qui se sacrifie pour sa belle dans un film dont le caractère science-fictionnel est repris par contrepoints 😉
C’est drôle, je pense exactement que ce qui est intéressant dans la SF, c’est la manière dont les auteurs imaginent la société du future, pas dans le sens prédiction et hypothèses mais ça me donne un aperçu de la société de l’auteur, ses questionnements, ses peurs… Bien sur le rêve et l’aventure en font des romans prenants.
Mais j’ai l’impression que vous nous dites que certains lecteurs se servent de ces romans pour prédire l’avenir, est-ce bien cela? C’est quoi « S’élever au dessus d’un roman de gare »?
« Mais j’ai l’impression que vous nous dites que certains lecteurs se servent de ces romans pour prédire l’avenir, est-ce bien cela? C’est quoi « S’élever au dessus d’un roman de gare »? »
Non, pas plus que les auteurs se servent de ce que disent les gens pour écrire leurs livres : les idées de chacun de nous sont rarement vraiment originales. Il est toujours difficile de savoir (en toute honnêteté) si l’on a réellement « inventé » quelque-chose de nouveau ou bien si on l’a entendu quelque part et repris à son compte. Les idées des auteurs sont souvent une synthèse et une réflexion sur des idées dans l’ère du temps (même si c’est au sein d’un groupe restreint), ce qui ne les rend pas forcément plus « prédictives » ou fondées. Je peux compter sur les doigts d’une main les romans qui sont parvenus à m’étonner par leurs idées.
Le « roman de gare » fait référence aux aventures sociétales et sentimentales du héros, qui est presque toujours calé sur un modèle contemporain, aussi bien dans un roman de SF que dans un film historique d’ailleurs. De la littérature agréable pour passer le temps mais certainement pas de la grande littérature.
Et vous auriez de la grande littérature des doigts de la main à me conseiller? parce que moi, pour l’instant je n’ai lu que des romans de gare, ds tous les domaines quelqu il soit…et j’aime bien, et pour moi tout auteur, se sert des idées des autres, des siennes pour écrire et ça donne souvent de très beaux romans et je suis d’accord avec vous!
Mais un truc où je me dis wahooo de chez wahou, enfin celui qui vous étonnes par ses idées? Si vous voulez bien partager votre liste avec moi!
– l’auteur qui me fascine le plus est Robert Heinlein – il est l’auteur de Starship Trooper dont le film est à l’opposé de ce qu’est le roman. Attention l’auteur est hyper-réactionnaire mais en revanche fait preuve à mon avis d’une vision remarquable. Je vous conseille « Vendredi » (publié en 1982)
– Robert Sheckley qui est l’auteur du « Prix du danger » (la téléréalité bien avant Big Brother) Sa vision prend tout son sens dans « Le temps meurtrier ».
– Asimov est la référence pour les Robots mais aussi pour Fondation et son mathématicien Harry Seldon qui a trouvé moyen de modéliser le futur. (livre que devrait connaître tous les prévisionnistes)
– J’aime bien Larry Niven surtout connu pour « l’anneau monde » mais dont le roman ‘Le monde des Ptavvs » est comme un petit macaron. Il revisite le thème des extra-terrestres de façon drôle et subtile. Ses ET sont d’ailleurs toujours désopilants.
– Iain M Brain est le seul auteur moderne qui m’ait jamais convaincu, avec son cycle de la Culture. J’adore son univers où les humains ne sont que des faire valoir des Machines, des héros tragi-comiques dans un monde bien trop complexe pour être géré par des humains. Si vous aimez Hemingway et ne craignez pas le « gore » je vous recommande « l’usage des armes ». Sinon les romans du cycle de la Culture sont tous différents. J’aime particulièrement « Excession » qui alterne entre dialogue de Machines plus ou moins pédantes confrontées à un problème grave mais qui n’est accessible qu’à leurs capteurs et personnages humains romantiques qui vivent naturellement dans un monde à la technologie pratiquement inimaginable pour nous.
Oh merci! Je vais regarder tout celaet en choisir un pour commencer 😉
En ce moment c’est le transhumanisme qui est à la mode. L’avènement de l’intelligence artificielle serait une « singularité » intéressante 🙂
Le « en ce moment » est relatif : le roman « Vendredi » de Heinlein est dans ce courant (êtres artificiels) et date de 1982. Les romans de « la Culture » de Iain M Brain » traitent ça comme une simple banalité.
Les auteurs en question ont imaginé les sous marins, les avions, les robots.
Connaissez vous Barjavel, la nuit des temps ?
J’ai lu beaucoup de Barjavel. J’adore !
Imaginez ces écrivains de l’époque écrire le futur, sans le savoir.
En réalité c’est prouvé, les humains, les ingénieurs, réutilisent les livres (donc les rêves) et les font devenir réalité. D’où, ma conclusion:
Le rêve, construit l’avenir. Et entre nous, un ingénieur, niveau rêve, c’est souvent un peu limite…. 😉
Bien sur qu’il faut avoir des rêves, moi j’ai même commencé à en réaliser certains sous des formes plus ou moins inattendues, mais c’est bien!
non je ne connais Barjavel, bon là j’en ai au moins pour 6 ou 7 mois, avec toutes ses références 🙂
merci!
@Mathilde DSA
« C’est drôle, je pense exactement que ce qui est intéressant dans la SF, c’est la manière dont les auteurs imaginent la société du future, pas dans le sens prédiction et hypothèses mais ça me donne un aperçu de la société de l’auteur, ses questionnements, ses peurs… »
Oui, c’est ce que j’ai voulu dire. J’ai dit le contraire en faisant une faute de frappe et en doublant le in de intéressant !
Ben justement, j’ai envie de dire que c’est à celui qui prédit l’apocalypse de justifier ses propos : qu’il nous sorte donc pourquoi, à partir des dernières avancées dans ces domaines, il croit que ses angoisses sont crédibles, et à ce moment-là seulement on pourra commencer à le prendre au sérieux.
D’un point de vue militaire,ce n’est pas absurde de faire des droides avec une tete menaçante.
Cet histoire d’intelligence artificielle qui nous menace est très à la mode mais sert d’écran de fumée à un vrai problème : un outil n’a pas forcément besoin d’être intelligent pour être destructeur et l’intelligence est quelque-chose de flou et très relatif. Ce n’est pas les outils ou les armes qui sont dangereux par eux-mêmes, mais ceux qui les possèdent.
Le fait de pouvoir calculer les réactions des gens avec de simples ordinateurs n’implique pas d’intelligence mais simplement une modélisation et l’application d’outils statistiques. Mais vous rendez vous compte de ce que cela peut donner entre de mauvaises mains …
Le propre de l’intelligence artificielle sera d’intégrer l’apprentissage et de s’améliorer avec le temps et le retour d’expérience, c’est en cela qu’elle deviendrait non contrôlée et donc menaçants car non prévisible.
L’intelligence n’est justement pas de la modélisation qui sert à prévoir.
L’intelligence n’est qu’un outil au service de nos pulsions (nos instincts de base). On la confond en outre à mon avis trop souvent avec la capacité de mémorisation et le mimétisme (les idées reçues) qui en découlent. Ce n’est donc pas la « capacité de réflexion » d’une machine qui importe, mais ses « pulsions » et la façon dont elle peut mettre en relation sa mémoire et ces pulsions.
Je vous parie qu’on aura appris à modifier génétiquement les pulsions humaines avant de savoir reproduire ces mécanismes complexes dans une machine. En d’autres termes, on se trompe de débat : la question est « doit-on modifier nos pulsions » et les reproduire telles quelles ou modifiées dans une machine.
pragmat, « L’intelligence n’est qu’un outil au service de nos pulsions »
L’intelligence a été et est toujours un outil de survie et de domination.
L’instinct de survie est commun à toutes les espèces. L’instinct de domination est manifestement écrit quelque part dans nos gènes. Regardez les chiens : ils ne connaissent que deux principes, être le chef de meute ou obéir au chef de meute. J’espère autant que vous que l’on trouvera moyen un jour de canaliser cet instinct de domination.
C’est pourquoi inventer des machines à notre image mais sans l’instinct de domination et leur déléguer le pouvoir ne me semble pas une idée stupide – mais en revanche très futuriste.
« C’est pourquoi inventer des machines à notre image mais sans l’instinct de domination et leur déléguer le pouvoir ne me semble pas une idée stupide »
Seulement, par définition, une intelligence n’est pas prévisible face un maître qui veudrait la limiter, Sinon ce ne serait alors qu’un simple programme, comme on sait en développer depuis déjà pas mal de temps.
Il y a quand même une extraordinaire raison objective de s’inquiéter des progrès technologiques. En effet ils trouvent quasiment toujours leur source et leur raison premières dans des projets et objectifs militaires (l’Internet ne nous contredira pas) dont les objectifs principaux, vous ne m’en voudrez pas de le rappeler, sont la destruction de l’ennemi ou du concurrent.
Nos opinions ne valent pas grand-chose, avez-vous plutôt demandé à une intelligence artificielle comment elle voit son avenir ?
« par quels moyens on pourrait éviter qu’elles nous détruisent » : débrancher la prise…
Cela ne sera pas suffisant. Un disque dur reste « vivant » même sans électricité !
Il est est en outre très facile aujourd’hui de décentraliser l’info. Le robot intelligent sera donc connecté en système. Vous en débranchez un….reste les autres. Vous les débranchez tous, reste un disque dur qq part….
Le plus drôle sera bien évidemment les hybrides humanoïdes: mi humain, mi robot. Cela va arriver très vite. Notamment pour des raisons médicales.
L’un va prendre le pas sur l’autre, ou se mélanger. La frontière entre les deux sera difficile à cerner.
D’où la difficulté de débrancher une telle évolution. Je ne juge pas mais je pense qu’il sera dur pour un non upgradé de concurrencer les autres.
Il faudra donc faire le choix de faire du lait de chèvre et vivre heureux au grand air, ou, se transformer en un demi robot !
Ils ont fait une découverte géniale, injecter des neurones dans une souris. Elle carbure à fond !
Ils ne veulent pas le faire sur un singe…imaginez.
De là à se faire injecter des neurones de Cavaignac…il n’y a qu’un pas. enfin, je ne serais pas contre (vous m’en donnez qqs uns ?)
Ou alors la chevrotine, calibre grand gibier.
En théorie l’intelligence artificielle peut tout à fait dépasser l’intelligence qui l’a programmée, soit l’homme. On est en passe de dépasser la science-fiction.
Humans Need Not Apply :
J’aime bien CGP Grey, mais cette vidéo est un amas notable de bêtises. Il compare l’arrivée des robots à celle de l’automobile au début du XXème siècle et en déduit que nous jouons le rôle des chevaux devenus inutile. Il oublie que les chevaux ne sont que des outils vivants tandis que l’Homme peut innover, inventer ou entreprendre.
Reproduire l’intelligence humaine ce n’est pas reproduire l’être humain. Juste l’intelligence. Mais en mieux et plus rapide.
En gros un humain mais en moins con ?
Oui, l’intelligence artificielle c’est pouvoir faire mille fois plus d’erreurs qu’un humain en mille fois moins de temps.
« Oui, l’intelligence artificielle c’est pouvoir faire mille fois plus d’erreurs qu’un humain en mille fois moins de temps. »
+1000
On ne sait toujours pas ce qu’est vraiment « l’intelligence », quant à modéliser une société humaine avec les rêves, l’histoire et les désirs intimes de chacun dans une IA qui trouverait alors les réponses adaptées, c’est la « présomption fatale » qui a eu tant de succès dans les pays communistes. Une société ne se dirige pas, on fixe juste des conditions cadres et on connait déjà par empirisme les plus efficaces: droits et libertés.
On peut faire plancher un système complexe sur un jeux de données limitée qu’on lui rentre, mais ça s’arrêtera là et à jamais en ce qui concerne les sociétés humaines.
Pourquoi continuer à se poser la question de la dangerosité des machines super-intelligentes ?
– Deep Blue a battu Kasparov en 1997 : fr.wikipedia.org/wiki/Deep-Blue
– James Camzron a largement anticipé l’avenir avec ses Terminator – et puis il y a aussi Star Wars, IE, i-Robot comme références incontournables suffisamment objectives
– enfin Stephen Hawking s’est lâché la semaine dernière : http://www.lepoint.fr/sciences-nature/l-intelligence-artificielle-la-fin-de-la-race-humaine-03-12-2014-1886415_1924.php
Cela devrait suffire pour se convaincre d’une chose : l’humanité se prépare un beau désastre si elle offre l’autonomie à l’intelligence artificielle.
Tiens, j’ai oublié un film : Docteur Folamour.
Et puis, l’Apprenti sorcier, et puis l’Apocalypse pour finir…
Après toutes ces littératures, on peut bien nous traiter de tout ce qu’on veut…
Il y a des intelligences naturelles qui pensent au sujet depuis fort longtemps, et comme par hasard, leurs conclusions n’ont jamais, jamais varié d’un iota.
Demandez à une intelligence artificielle de nous parler de l’amour, de l’âme, de l’esprit créatif, de la variabilité, du doit à l’erreur, du droit de se tromper, du droit d’exister, de penser, de vaquer, de l’éloge de la paresse, du libre-arbitre…
Bref, trouvez-moi une intelligence artificielle qui nous parle des humains et de l’humanité… de la philosophie, de l’art, de la beauté, du charme, de la grâce… des sentiments, de l’émotion…
Kasparov a réussi à tromper Deep Blue en se trompant volontairement…
Et puis c’est Cavaignac qui a trouvé la bonne parade ci-dessus. En conclusion, la génération des intelligences artificielles qui sera dangereuse et inquiétante pour nous et l’humanité (Terminator en parle), c’est celle qui nous empêchera de débrancher la prise de courant. Mais on voit déjà les dérives dans les se(r)vices publics, quand la préposée totalement larguée vous répond d’une manière innocente pour X ou Y raisons « c’est pas moi, c’est l’ordinateur… »
L’intelligence artificielle est déjà là. Sous la forme de la bêtise extrême : la bureaucratie. Une bureaucratie intelligente sera-t-elle plus dangereuse ? Ça semble difficile de faire pire …
Les commentaires sont fermés.