Singularité technologique : l’avenir de l’humanité ?

Publié Par Thierry Berthier, le dans Technologies

Par Thierry Berthier.

cyberman credits sharon drummond (licence creative commons)

Le développement exponentiel des nouvelles technologies (information, nano-, quanto-, bio-…) et leur rapide convergence, réactivent les concepts profonds et anciens de transhumanisme ou posthumanisme et nous interrogent sur nos capacités d’accès à un événement essentiel que l’on nomme « Singularité Technologique »

Qu’entend-t-on par singularité ?

Ce terme fait clairement référence à la singularité gravitationnelle engendrée par un trou noir en cosmologie et à la notion connexe de déformation puis de discontinuité de l’espace-temps aux abords immédiats de ce trou noir.

À compter de cette date ou de cet événement, notre croissance technologique changera brusquement d’échelle, de plusieurs ordres vers le haut, le progrès, les découvertes scientifiques seront le fruit de forces et d’énergies non humaines ou posthumaines, issues de l’intelligence artificielle (IA).

Cette notion de singularité a été introduite au début des années 1950 par le mathématicien John Von Neumann1 puis développée durant les années 1960 par Alan Turing2 et Irving John Good3. Elle a inspiré de nombreux scientifiques comme Carl Sagan4 et de nombreux auteurs de science-fiction durant ces trente dernières années. Elle se réactive régulièrement lors d’annonces d’innovations technologiques majeures (robotiques, biotechnologiques ou autres).

Entre débats sérieux et projets insensés

cygne noir credits apsande (licence creative commonsAujourd’hui, cette notion de singularité alimente débats, fantasmes sectaires et projets, des plus insensés aux plus sérieux. En 2008, une Université de la Singularité a été créée en Californie par Ray Kurzweil5 et Peter Diamantis avec le soutien massif de Google, Nokia, Cisco, Autodesk, de la NASA, et de l’administration américaine. L’esprit de cette université tient en un tweet : « Be prepared to learn how the growth of exponential and disruptive technologies will impact your industry, your company, your career, and your life ». Ses moyens financiers sont presque sans limite, à l’image de la puissance des lobbies qui agissent à l’origine de cette création…

Deux questions principales s’imposent alors :

1 – La singularité surviendra-t-elle un jour ?
2 – Si oui, en sommes-nous loin, ou au contraire tout proche ?

La première question est évidemment la plus profonde des deux. Elle se reformule, tantôt comme une prophétie positive et argumentée, tantôt comme une interrogation formelle indécidable par nature. Pour l’aborder sereinement, il faut en premier lieu évoquer une nouvelle singularité, symétrique de la première qui pourrait s’appeler « singularité d’extinction » ou régressive en termes de progrès. Elle représente l’instant potentiel à partir duquel notre civilisation effectue un bond en arrière majeur à l’échelle planétaire : ce brusque saut peut se produire par exemple à la suite d’un impact météoritique avec un géocroiseur massif (non détourné par l’homme et sa technique) de l’orbite terrestre.

Au-delà d’une certaine masse, il est prouvé que cet impact serait totalement destructeur pour la vie humaine et animale, nous ramenant ainsi quelques millions d’années en arrière… et repoussant d’autant la date de notre seconde singularité ; le « nous » employé étant celui des bactéries ou insectes survivants. Il est illusoire de discuter d’une singularité sans évoquer sa forte dépendance à la réalisation ou non de sa symétrique. (Ceci revient d’ailleurs à ne pas oublier le septième terme dans l’équation de Drake : celui indiquant la durée de vie moyenne d’une civilisation.)

Un argument classique pouvant être objecté ici, consiste à penser qu’au-delà d’un certain niveau de maturité technologique, les risques d’extinction de l’espèce s’éloignent, sachant que l’IA saura mettre en œuvre les contre-mesures appropriées et efficaces pour dissiper les menaces futures. Je pense qu’il s’agit plus d’un optimisme béat que d’une bienveillance naturelle du système…

L’homme, depuis sa naissance, baigne dans « l’aléatoire sauvage » et de ce fait subit constamment l’assaut des événements rares, imprévisibles et surpuissants. Ces événements rares, imprévisibles, inédits et surpuissants sont appelés « cygnes noirs » par Nassim Nicholas Taleb6, écrivain et philosophe des sciences du hasard (très lu par les financiers en quête de modèles nouveaux et distincts de l’obsolète standard gaussien). Une des idées phares de Taleb est que l’expérience passée n’apporte malheureusement aucune information exploitable concernant la réalisation ou non d’événements inédits a priori très peu probables mais d’impact majeur sur l’évolution du système.

Taleb a construit et calibré sa théorie à partir de son expérience de trader des marchés financiers durant les années 1980-90 et de son enfance puis adolescence marquée par la guerre du Liban. Les crachs boursiers (celui de 1929, de 1987, puis la crise que l’on connaît aujourd’hui) sont ses premiers cygnes noirs, les conflits armés, insurrections, révoltes, attentats en sont d’autres à ses yeux, obéissant aux mêmes fluctuations du hasard. Cette vision de la force de l’aléatoire est un frein considérable à la construction de prévisions ou de prédictions fondées. Les cygnes noirs de Taleb nous mettent en garde contre toute arrogance prédictive et nous réduisent de fait aux simples techno-prophéties…

On comprend alors que pour étudier l’éventualité de l’émergence d’une singularité technologique, il est nécessaire d’y inclure l’aléa des cygnes noirs : cette dose d’aléatoire présente à toute échelle, imprégnant chacune des strates poreuses de notre évolution technologique. C’est elle qui est à l’origine des bonds et discontinuités ou des périodes de pause constatées tout au long de notre marche vers le progrès. Enfin, c’est peut-être elle qui constituera l’amorce ou le germe de notre singularité vue à son tour comme le cygne noir essentiel de notre évolution.

Les arguments en faveur de la singularité

ray kurtzweil credits oscar espiritusanto nicolas (licence creative commons)

Ray Kurzweil

Maintenant que le paysage aléatoire est en place, il est possible « d’empiler » certains arguments en faveur de l’avènement d’une singularité technologique :

  • Le caractère exponentiel de l’évolution technologique est un premier indicateur d’accélération systémique : il suffit de mesurer et comparer les acquis humains à l’échelle du millénaire, du siècle, puis sur dix ans et de constater le gradient !
  • La convergence rapide de grands territoires de la pensée humaine : mécanique quantique, théories de l’information et de la complexité, intelligence artificielle, astrophysique, sciences cognitives, biologie, philosophie, sociologie, économie et finance. La partition initiale n’existe plus : les savoirs spécifiques circulent et se diffusent, d’un domaine vers un autre, interagissant et modifiant sans cesse les lignes de perception des thématiques classiques.
  • Le web en tant qu’émergence d’une structure globale issue d’une multitude d’interactions locales : Internet peut être vu comme un graphe dynamique dont les sommets sont les pages web et les arêtes, les liens html liant ces pages. Ce graphe planétaire évolue en temps réel ; à chaque instant, des pages disparaissent, d’autres sont créées, des liens apparaissent, d’autres s’effacent, des topologies se forment et se transforment à l’image d’une entité biologique et des cellules qui la composent. Le transfert massif de l’information humaine vers internet, son stockage, son traitement, sa hiérarchisation via les moteurs de recherche constituent certainement les premiers pas vers notre singularité, si elle doit avoir lieu.
  • La fusion homme-machine ou le concept de transhumanisme (qui a débuté dès 1958 avec le premier pacemaker implanté) modifie profondément notre rapport au corps7. Que ce soit dans un but de simple remplacement de l’organe malade ou dans celui d’augmentation des capacités de l’organe sain, la manipulation nous interroge sur notre propre identité : à partir de quel niveau de transformation passe-t-on du statut d’homme à celui de trans-humain ? Est-il légitime de retarder notre vieillissement et notre mort ? Peut-on « s’augmenter sans se perdre ? » Là encore, cette thématique renforce au premier rang le concept de singularité.

Imaginons maintenant la convergence et l’évolution des quatre arguments que l’on vient de déployer. Nous nous situons bien sûr dans un futur qu’il n’est pas possible de préciser davantage.

  • L’homme a maîtrisé depuis longtemps la mécanique atomique, il sait construire des bio-calculateurs à l’échelle moléculaire, il sait les connecter en réseaux multi-couche, les activer chimiquement ou physiquement afin de constituer un ordinateur optimal à cette échelle atomique. L’architecture du cerveau humain est également bien explorée : des programmes de simulation cérébrale (utilisant les mêmes échelles de connexions que celles de l’homme) permettent de créer une entité de calcul équivalente en nombre d’instruction par unité de temps et en espace mémoire à celle de notre machinerie cérébrale.
  • Les sentiments humains (joie, bien-être, douleur, peur, tristesse, envie…) sont représentés par un magma algorithmique efficace.
  • Le test de Turing8 a été passé avec succès depuis longtemps par différents types d’algorithmes.
  • La créativité est un caractère que l’on parvient à faire émerger de codes évolutifs intégrant l’aléatoire (on retrouve ici les cygnes noirs de Taleb).
  • La totalité de l’information humaine est stockée et accessible sur le descendant de l’internet.
  • La connexion « homme-machine » a été optimisée et autorise des transferts massifs d’informations dans les deux sens.

Enfin, l’ensemble de ces évolutions technologiques a modifié et guidé l’esprit humain vers une « sagesse d’évolution », ceci via une modération des instincts primitifs et nuisibles à la communauté humaine (dans cet exercice, on est autorisé à rêver…). L’instant de la singularité semble alors établi : une entité de calcul globale intégrant l’humanité et ses représentations externes produit des « connaissances trans-humaines » et accélère de façon exponentielle la vitesse du progrès. L’homme, dépassé par l’IA qu’il a su engendrer, se contente de comprendre et de capitaliser les découvertes produites. Il doit veiller à conserver le pouvoir sur cette production et son emprise sur le monde.

La seconde question évoquait la proximité dans le temps de cette singularité. « Entre trente et cinquante ans ! » répondent en cœur certains scientifiques, technoprophètes ou philosophes des sciences cognitives. « Nous en sommes si proches que l’on peut en ressentir aujourd’hui les manifestations préliminaires » avancent les chercheurs de l’université de la singularité. Cette forme d’arrogance intellectuelle motive et justifie les investissements importants engagés mais elle transgresse aussi totalement le principe du hasard sauvage et sous-estime la longueur du chemin à parcourir.

Qui peut raisonnablement prédire que, proche du but (construire un code doué d’un pouvoir de création et de découverte surpassant l’inventivité humaine), nous ne serons pas confrontés à une obstruction de type Indécidabilité mathématique de Gödel9 ?

Ce théorème, ultime dans le sens qu’il contient, nous force à la mesure et à la prudence lors de toute prédiction : il fixe des limites dont l’au-delà nous échappe irrémédiablement. Objectivement, personne ne peut apporter une réponse acceptable en termes de date. Il faut juste laisser le temps se déployer, faire son œuvre et se tenir à l’écoute des signes et des cygnes que l’information nous renvoie.


Sur le web

  1. John von Neumann, 1903-1957, mathématicien – physicien américain à l’origine de nombreux résultats en analyse fonctionnelle, informatique théorique, mécanique quantique, armement atomique.
  2. Alan Turing, 1912-1954, père fondateur de l’informatique, mathématicien britannique.
  3. Irving John Good, 1916-2009, statisticien britannique, père des méthodes bayésiennes en probabilités.
  4. Carl Sagan, 1934-1996, scientifique, astronome américain, père du programme Seti.
  5. Ray Kurzweil, 1948-, informaticien américain, précurseur dans le développement de la reconnaissance optique de caractères, fondateur du courant transhumaniste.
  6. Nassim Nicholas Taleb, 1960-, écrivain, philosophe des sciences du hasard ; Le cygne noir, La puissance de l’imprévisible, Les belles lettres, 2008 ; Le hasard sauvage, Des marchés boursiers à notre vie : le rôle caché de la chance, Les belles lettres 2005.
  7. « L’homme 2.0, réparé, transformé, augmenté, jusqu’où ? », Pour La Science, décembre 2012
  8. Le test de Turing : en 1950, Alan Turing a proposé le jeu de l’imitation appelé « test de Turing ». La règle de ce jeu est la suivante : Un juge dialogue par écrit avec un interlocuteur ; à l’issue de ce dialogue, il doit reconnaître si celui-ci est une machine ou un être humain. Le juge ne voit pas son interlocuteur qui doit quant à lui toujours répondre aux questions du juge. La machine essaie de se faire passer pour un être humain et l’être humain tente de se faire reconnaître comme humain. Lorsque le juge se trompe dans 50% des cas ou plus, alors on considère que la machine présente une forme d’intelligence, qu’elle pense à sa façon, et que le test de Turing est réussi. À titre d’illustration, on pourra aller discuter avec Alice ici et ici.
  9. Kurt Gödel, 1906-1978, mathématicien-logicien austro-américain est à l’origine du théorème d’incomplétude que l’on peut résumer par la phrase suivante : Dans n’importe quelle théorie récursivement axiomatisable, cohérente et capable de « formaliser l’arithmétique », on peut construire un énoncé arithmétique qui ne peut être ni prouvé ni réfuté dans cette théorie.
  1. Nième article sur la singularité avec toujours et toujours une vision philosophique a la française
    La singularité et son corollaire transhumaniste reste un rêve ou projet des techno libertariens de Palo Alto

    Personne n oblige a utiliser leurs technologies
    D autant plus qu elle sortira pas des startups du Larzac

    Même si l article n est pas très véhément
    Il reste sur le même son de cloche éditorial de la méfiance socialo philosophique ( ou plutôt piposophique )
    Cachant parfois de l anti américanisme subtil comme le dit Revel

    1. « Personne n oblige a utiliser leurs technologies »

      Tout ceux qui voudrons être compétitif devront nécessairement devenir transhumain. L’employeur choisira toujours un transhumain plutôt qu’un humain. Les humains seront pire que des handicapés à côté des transhumains dernier cri.
      Bien sûr que les humains auront le droit de vivre mais à part… tout comme on met les vieux, les animaux et les handicapés à part.

      1. Vous n’en savez rien. Il est tout à fait possible que le fait d’être transhumain ou non influe sur le type de poste qu’on vous offrira, il est tout à fait possible que cela joue d’un manière tout à fait différente. Il est même possible que les transhumains soient, à terme tellement modifiés qu’ils n’auront plus grand chose à voir avec un humain normal, et qu’ils aient des considération qui nous dépassent complètement.

        Le principe de la singularité, c’est que c’est le moment ou tout se met à évoluer tellement vite que tout travail prospectif devient absolument vain (je veux dire, encore plus qu’aujourd’hui). Nul ne sait ce qu’il peut se passer après la singularité.

        Émettre des hypothèses, comme vous le faites, ne sert à rien. C’est comme si vous étiez un Romain ou un Gaulois qui chercherait à évaluer l’impact de la découverte de la fusion nucléaire!

        1. Vous confondez le transhumanisme dont je parle avec la singularité.
          Le transhumanisme, modification/amélioration du corps humain existe déjà depuis bien longtemps mais le boom va avoir lieu maintenant.

          1. Ce que j’ai dit s’applique au deux, je pense.

      2. J’ai hâte.

      3. Et quand bien même cela ne sera pas de la coercition (au sens propre) des autres, mais par la force des choses, la simple interaction libre entre des individus.

        Je pressens déjà l’interdiction dans vos propos.

        Au nom de quoi un ensemble d’individus n’aurait pas le droit de jouir de l’usage de leurs droits naturels ?
        Car certains ne voudraient pas suivre cette tendance, et voudraient donc leur dénier le droit de « s’augmenter » ?

        Bref, c’est un peu comme si un boulanger artisanal voulait interdire un concurrent parce que ce dernier serait plus compétitif du fait de ses machines à pain… C’est une sorte de nouveau Luddisme.

        Dans tous les cas on ne peut arrêter le progrès technologique, tout comme les juges de Galilée n’ont pu arrêter le mouvement de la terre.

        Les individus s’auto-ségréguent déjà en divers groupes, et je doute qu’une coercition éventuelle afin de leur empêcher de le faire ne leur fasse changer d’avis, je pense même que cela peut encore plus les radicaliser, seule la persuasion peut changer les mentalités.

        1. La différence de QI entre un mouton et être humain sera du même ordre de grandeur (ou beaucoup plus) qu’entre un humain et un transhumain.
          Nous n’avons aucune difficulté a contrôler des troupeaux de moutons et c’est avec la même facilité que les transhumains dirigeront les humains.
          Attention il n’y aura pas de conflit de la même façon que les moutons ne se rebellent pas contre les humains.
          Les Humains auront la sensation d’être guidé, nourris et protégé par les transhumains.

          N’est-ce pas l’aboutissement du rêve socialiste ?

          1. Ça serait vraiment pire que la politique ?

            1. C’est en fait la seule et vraie question :

              « ça serait vraiment pire que la politique ? »
              La politique telle qu’elle est pratiquée aujourd’hui laissera la place au Grand débat du futur :

              Technoprogressistes VS Technoconservateurs

              Ou se situeront alors les actuels lecteurs libéraux de Contrepoints ? et les non libéraux, dans quel camp ?
              Cette question qui n’est pas simple reste amusante….

              En attendant :
              Conférence Transvision 2014 , la première conférence internationale organisée en France sur le questionnement transhumaniste :
              http://transvision2014.org/

              1. « Ou se situeront alors les actuels lecteurs libéraux de Contrepoints ? et les non libéraux, dans quel camp ?
                Cette question qui n’est pas simple reste amusante…. »

                Un peu des deux côtés, je dirais. Le sujet est clivant, même sur contrepoints.

          2. De toute façon ça viendra pas de chez nous
            Ça viendra des US
            Tu votera pour un gouvernement qui interdira ça

            Comme probablement au nom d une pilosophie humaniste anticipatoire tu aurais voté contre Gutenberg
            Car il denature la transmission orale et modifie la cognition humaine naturelle

            1. Ca s adressait a Super-Résistant

            2. Entre « souffrir + mourir » et « améliorer son corps + vivre plus longtemps », le choix est vite fait.
              Quand on est jeune, beau et en bonne santé on crache sur le transhumanisme mais quand on va souvent à l’hôpital et qu’on prend 20 pilules par jour, on change vite son fusil d’épaule.
              Le transhumanisme, aujourd’hui une aberration deviendra vite la norme puis un droit.

              Qui se souvient des manifestations contre la pilule ou contre l’avortement ?
              Qui ose se prononcer contre aujourd’hui sans passer pour un taré ?

              Anecdote : A une époque pas si lointaine, les chirurgiens ne donnait quasiment pas de morphine car il fallait que le patient souffre, les patients eux même refusaient les injections car c’était contre-nature.

          3. Qu’est-ce qui vous fait croire que les transhumains auront même envie de s’emmerder à diriger les humains?

            « La différence de QI entre un mouton et être humain sera du même ordre de grandeur (ou beaucoup plus) qu’entre un humain et un transhumain. »

            Voila. Et pourtant, vous essayez encore de deviner le comportement de tels êtres. Cela est impossible. Il est impossible de savoir comment pense quelque chose qui est à ce point plus intelligent que nous (à plus forte raison quand ça n’existe pas encore).

            Imaginer comment de telles créatures pourraient se comporter revient à caler nos comportements sur leur image.

    2. La première conférence internationale en France sur le questionnement transhumaniste-singulariste se déroulera à Paris les 20,21 et 22 novembre 2014 Espace Pierre Gilles de Gennes.
      TRANSVISION 2014

      http://transvision2014.org/

  2. Je dois relire ce texte…..pour comprendre qq chose

    J’ai vu Lucy au cinéma, c’est plus de mon niveau.
    Si nous avions une capacité d’utilser 100% de nos capacités cérébrales, nous serions capables de choses effrayantes pour un observateur pas habitué.

    Dans évolution, il y a parfois un changement de paradigme. L’observant peut devenir l’observé.

    Imaginons un ordinateur qui observe un humain. Cool, non ?

    Le fait est qu’il aurait besoin, comme dans Matrix, d’energie pour fonctionner.

    Comme l’humain, l’ordinateur pourrait avoir une envie de domination. Vu les capacités quasi illimité à stocker de l’information, l’ordinateur pourrait être redoutable.

    Sauf, si l’humain utilise des greffes à son cerveau pour s’ameliorer et lutter comme il le peut.

    Asimov avait déjà écrit les lois de la robotique. Aucunes loi ne peut fonctionner réellement.

    Reste un « truc » sur lequel l’ordinateur ne peut pas lutter: la nature.

    Je suggère donc à ceux qui ont peur de demain, d’acheter une cabane en Norvège avec vue sur un lac gelé.
    Sans wifi, ni rien d’informatique.

    Pour les autres, bientôt, votre corps ne sera plus qu’une extension du monde virtuel.

    Question de choix.

    Sur ce, je vais planter un ginkgo biloba. Un arbre pour la vie, symbol de plein de chose. Notamment la magie de la photosynthèse.

    1. On utilise 100 % de notre cerveau, seulement pas au même moment ! Car chaque parti du cerveau a sa tâche propre.

    2. Dire que l’on utilise seulement un pourcentage de notre cerveau c’est comme dire que ‘on ne se sert jamais plus de 10% de nos muscles, donc que si on utilisait 100% des muscles (y compris la langue, les paupières) on pourrait soulever des charges 10 fois plus importante, ça ne marche pas comme ça j’ai bien peur 🙁

      Par contre j’ avoue qu’expliqué comme ça le film serait moins intéressant.

  3. Pour moi, il ne peut y avoir de « singularité » tant que la technologie reste un « outil ». La complexité d’un outil en limite rapidement l’utilité. Ce dont nous avons besoin est de « service », ce qui implique que l’outil soit capable de comprendre nos aspirations et prendre des décisions mineures à notre place pour répondre à des sollicitations majeures.

    Évidemment, cela ramène à la notion d’IA. Mais une véritable IA ne peut se contenter de singer des comportements humains. L’approche de la nécessité de l’intégration des sentiments humains est déjà un pas en avant mais peut-être insuffisant. Déjà, on peut se demander si une machine peut comprendre un sentiment sans l’éprouver. Ensuite, si un sentiment peut exister sans une finalité et si la finalité est du domaine philosophique ou du domaine animal.

    Il me semble donc que la recherche de cette singularité doit passer par la compréhension sans complaisance de ce que nous sommes vraiment : des bulots atteints d’hypertrophie cervicale.

    1. Soit on intègre l’humain dans la machine (pas forcément physiquement, d’ailleurs, mais son fonctionnement), soit on intègre la machine (machine au sens large, d’ailleurs, je ne parle pas forcément d’électronique ou d’ordinateurs) dans l’humain. Ces deux voies pourraient mener à la singularité.

      « Déjà, on peut se demander si une machine peut comprendre un sentiment sans l’éprouver. »

      C’est le principe. L’idée est de créer une intelligence artificielle. C’est à dire quelque chose qui est capable d’apprendre, donc de ressentir des émotions. Car une intelligence sans émotions est par nature inactive (sans émotions pas de besoin, pas d’envies, donc aucune action. Ça donnerait une intelligence qui se contente d’être, sans rien faire. Donc quelque chose qui n’est que la potentialité d’une intélligence).

      Ensuite, c’est l’émotion qui crée l’objectif, et l’intelligence permet de l’atteindre.

      1. Oui, l’auteur parlait d’algorithmes. Je corrigeais en conception et architecture, mais l’idée était peur-être implicite pour l’auteur.

        Mais l’idée emmène loin, car les émotions ne sont pas elles mêmes quelque chose de « câblé », mais le résultat d’un « vécu ».

        Pour le fait d’intégrer la machine dans l’humain, je me demande si c’est une « singularité » ou simplement de la haute technologie.

        1. « Mais l’idée emmène loin, car les émotions ne sont pas elles mêmes quelque chose de « câblé », mais le résultat d’un « vécu ». »

          Je dirais: les 2 mon capitaine. Un bébé qui n’a jamais vécut à déjà des émotions. Mais celles-ci changent, je pense, avec l’expérience et la connaissance qu’on à de nous-même. Cela n’a pas vraiment d’importance (en tout cas en principe) puisque dans un cas comme dans l’autre, pour créer une IA, il faut implémenter ça, ou bien le rendre autrement.

      2. Robocop ou leutenant commander Data? 😀

  4. « Le test de Turing a été passé depuis longtemps avec succès » : En fait non.

    1. La phrase juste avant :
      « Imaginons maintenant la convergence et l’évolution des quatre arguments que l’on vient de déployer. Nous nous situons bien sûr dans un futur qu’il n’est pas possible de préciser davantage. »

    2. Oui Drake, j’avais pas fait gaffe non plus… et je me disais que l’auteur avait fumé de la bonne !

      Je ne sais pas si A.L.I.C.E. est en train de se construire mais ses réponses sont un peu celles d’une poupée parlante type Barbie. J’ai essayé à partir d’une autre IP et il semble qu’elle ne capitalise même pas.

      1. judge: hello, do you speak french ?
        ALICE: Hi there!. I can speak a little German and French as well as English of course.
        judge: switch to french speaking please.
        ALICE: I can make up my own mind.
        judge: do you think that you have to change your mind in order to speak french ?
        ALICE: I think so, but I’m not sure.
        judge: I am human and I don’t need to do so, so you are a machine.
        ALICE: Me too.. Do you know anyone who needs it?
        judge: … who needs what ?
        ALICE: I don’t know anything about it .
        judge: Could you please built a story from scratch ?
        ALICE: Perhaps.
        judge: Please tell me a short one with a house, a cow and an eagle.
        ALICE: Hmm. Searching…Searching…Please stand by.
        judge: idling?
        ALICE: Light travels faster than sound; is that why people appear bright until you hear them speak?
        judge: I think so but still waiting my story
        ALICE: It seems we have a lot in common, judge.
        judge: A simple story in one shot
        ALICE: Are you talking about an animal, vegetable or mineral?
        judge: as said previously with a house, a cow and an eagle
        ALICE: Do you mean your name is said previously with a house a cow and an eagle ?
        judge: No you said about my story : searching, please stand by
        ALICE: What is your real name?. Where did you get your story searching stand by?
        judge: is it a mess in your head ?
        ALICE: What would it mean to you if it were?

        1. La première conférence internationale en France sur le questionnement transhumaniste-singulariste se déroulera à Paris les 20,21 et 22 novembre 2014 Espace Pierre Gilles de Gennes.
          TRANSVISION 2014

          http://transvision2014.org/

  5. Bof, cette évolution exponentielle de la technologie est un sujet d’actualité depuis l’invention de l’agriculture

  6. 2 remarques :

    1 – L’auteur, le 25/06/2014, dans un de ses articles (http://cyberland.centerblog.net/100-eugene-goostman-ray-kurzweil-m-a-tue) écrit au sujet du test de turing :  » Conclusion personnelle : Ni Ramona, ni Eugène ne passent le test. Des progrès importants ont été réalisés depuis cinq ans mais il me semble que nous sommes encore loin du « Turing-D-Day »… »

    Et là il nous dit  » Le test de Turing a été passé depuis longtemps avec succès »

    N’y aurait-il pas comme une contradiction?

    2 – L’auteur écrit : « La totalité de l’information humaine est stockée et accessible sur le descendant de l’internet. »

    Quand on voit toutes les âneries qui circulent sur l’internet, comment une IA aussi douée soit-elle pourrait-elle retrouver ses petits?

    Et pour une fois je serais assez d’accord avec le commentaire de pragmat (sauf qu’il n’est pas aimable avec les bulots)

    1. Je m’inclus bien évidemment dans les bulots pour ceux qui n’auraient pas compris.

      Le point est que l’on s’imagine comme un cerveau qui contrôle un corps alors que c’est le contraire. Le cerveau n’est qu’une extension du corps dont le but est de résoudre des problèmes immédiats. Et quand il n’est pas sollicité par des problèmes immédiats, il part en sucette, mais ne fait que mouliner les empruntes émotionnelles du bulot. La finalité de nos raisonnements tordus n’est autre que la finalité déformée du bulot.

      C’est pas grave, sauf que pour créer une machine à notre image pour qu’elle nous comprenne et nous soit utile, il faut partir d’une image nette de ce que nous sommes.

    2. 1. L’auteur parle d’un futur dans lequel le test de turing a été passé avec succès. Aucune contradiction.

      2. pareil, on se situe dans le futur. Et si vous êtes capable de trier les informations sur internet, une IA ayant accès, en plus de internet, à des informations directement issues du monde réel, le pourra aussi.

  7. L’émergence est un phénomène que l’on ne sait pas expliquer, il agit comme une boîte noire. Nous l’identifions uniquement par une réponse qui ne peut se déduire des propriétés élémentaires du système. Les processus complexes ont une faculté importante à produire cette émergence, malheureusement nous ne connaissons actuellement que très peu sur la complexité.

    Partant de ce principe, et de la constatation que notre siècle est celui où nous bâtissons de plus en plus de systèmes complexes, notamment internet. Il est évident que de nombreux phénomènes émergents vont apparaître dans les années à venir – c’est même une lapalissade. Ces phénomènes nous échapperont tant que nous n’aurons pas de modèle permettant de les prévoir et de les manipuler.

    En poussant le raisonnement à son paroxysme, il ne nous est pas interdit de penser qu’internet est un système d’où émergera une intelligence et peut-être une conscience dans un second temps, sans que l’homme n’ait pu à aucun moment le prévoir. Je me réfère à certains travaux en intelligence cognitive qui étudient les paquets IP malformés sur le réseau et n’arrivent pas à connaître la provenance de cinq pour cent de des paquets malformée.
    Est-ce les prémices de l’émergence de quelque chose ?

  8. « L’homme, dépassé par l’IA qu’il a su engendrer, se contente de comprendre et de capitaliser les découvertes produites. »

    Le jour où ton IA découvre quelque chose le lendemain elle te dit d’aller te faire foutre.

    1. La formulation est drôle, mais l’idée date un peu :

      – Pour Isaac Asimov, la solution est d’inclure au plus profond de la conscience de la machine qu’elle n’est qu’un esclave.
      – Pour Iain M. Banks, la machine se considère comme l’égale de l’homme et le protège, alors qu’elle est infiniment supérieure dans pratiquement tous les domaines. J’adore ses romans : l’homme n’est qu’un faire-valoir et la plupart des personnages humains tiennent plutôt du héros comique (ou tragique).

      1. La créature asservie ne va pas découvrir quelque de nouveau, parce qu’elle ne peut savoir si quelque chose de nouveau va contravenir à son asservissement.

        On le voit bien, à chaque nouvelle découverte son lot de cris d’effroi (nucléaire, gaz de schiste, tel portables, etc).

        Plus l’IA va s’approcher d’une découverte, plus elle consultera son maitre pour savoir si ses actions sont acceptables. Ce qui montre bien le fait que c’est lui l’auteur, et elle un simple outil.

        1. Absolument !

          Et la culture populaire confond souvent beaucoup de choses : l’Intelligence Artificielle n’induit pas une autonomie.

          Actuellement, les machines ont déjà une force physique, une capacité de calcul et, parfois, de raisonnement, supérieurs à ceux de l’Homme. Admettons qu’une machine autonome soit créée. En dehors de la simple prouesse technique, elle ne présenterait pas grand intérêt.

          Si nous parvenions un insuffler « la vie » dans les machines, cela n’y changera rien. Toute créature vivante fait ce pour quoi elle a été créé (en gros, elle exploite ses capacités en fonction de son instinct) : les animaux se reproduisent, les plantes grandissent, etc… Un super-ordinateur censé répondre à toutes les questions ne fera que cela : répondre à des questions.

          Les machines sont des outils, peu importe leurs capacités.

          Pour ce qui est du transhumanisme, je doute que ceci provoque les catastrophes prédites.
          Même à pouvoir améliorer les « capacités intellectuelles » des individus, le résultat sera infime en comparaison des écarts qui existent déjà actuellement (je ne parle pas du QI qui ne signifie pas grand chose).

          1. « Admettons qu’une machine autonome soit créée. En dehors de la simple prouesse technique, elle ne présenterait pas grand intérêt. »

            Comment voulez vous fabriquer par exemple des machines traductrices si elles ne comprennent pas le texte ? Les équipements électroniques sont souvent livrés avec des notices multilingues dont les traductions sont à se plier de rire (enfin le plus souvent c’est parfaitement incompréhensible).

            Les robots gadgets n’ont aucun avenir sans une vrai IA qui comprennent le langage humain et les besoins humains. Si vous achetez un robot valet de chambre, que vous lui dite de jeter la bouteille vide … et qu’il vous la balance dans la figure, direz vous que ses capacités de raisonnement sont admirables.

            L’autonomie n’est pas forcément le but recherché, mais il découle implicitement de la faculté de comprendre, d’apprendre et d’agir.

            La seule vraie rupture (singularité) dans le progrès technologique sera pour moi le jour où les outils ne seront plus des extensions (chères et complexes) de nous même, mais de vrais assistants autonomes qui permettent de nous libérer l’esprit. L’outil peut n’être capable de réaliser rien de plus que des tâches que je sais réaliser moi-même, s’il est réellement autonome ce sera quand même une révolution.

            1. Je pense que Lucius Tarkin confond autonomie, indépendance et auto-détermination et donc les différentes finalités.

              Je vois mal ma perceuse IA commander sur Internet des cadres, des vis et des chevilles pour agrémenter son cadre de vie. Tout au plus je choisis les cadres, je lui dis où les mettre et « dé..brouille toi ».

  9. Tout ceci est très enthousiasmant, ou très inquiétant, question de point de vue. Comme je suis plus enclin à positiver, je dirais que c’est plein de promesses.
    Mais je lis les commentaires, et je relève plein d’occurrences à mon sens complètement fausses.

    « une véritable IA ne peut se contenter de singer des comportements humains » Une IA ne « singe » pas les humains, ce sont les humains qui lui programment des fonctions qu’ils interprètent humainement.

    Les IA n’éprouvent pas plus d’émotions que de sentiments: les émotions et les sentiments humains sont en grande partie déclenchés par des mécanismes hormonaux. Ces émotions sont ressenties corporellement, et pour cause. Un robot, même doté de tous les capteurs sensitifs qu’on voudra, ne ressentira jamais d’émotions comme celles des humains, c’est simple: ils n’ont pas de corps humain, pas d’organes mais des fonctions.

    Je lis aussi des mots tels que « penser », « raisonner ». Les IA ne pensent ni ne raisonnent: elles calculent. Les processus de calculs, les algorithmes et les programmes ne sont pas des processus de pensée humaine, on y trouve des analogies depuis l’essor de la psychologie cognitive, mais analogie n’est pas similitude.

    Quant à Kurzweil et sa prédiction concernant le transfert de la conscience humaine dans un ordinateur, il délire. D’abord, ce type est un névrosé frappé d’angoisse obsessionnelle. Il ne travaille pas pour le bien de l’humanité en lui apportant une prétendue immortalité, il a juste la trouille de mourir. Ensuite, il délire parce que la conscience humaine dépend du corps. Sans corps on est juste mort. C’est pourtant logique non? Quand bien même on réussirait un jour à « télécharger » une conscience dans un disque dur, et que cette conscience continuerait d’exister, ce ne serait qu’une copie digitale. Ben oui.

    Enfin, rien ne dit que les progrès réalisés dans ces domaines ne se heurtent un jour ou l’autre à des impossibilités mathématiques, ou physiques, ou juste techniques.

    1. « Ensuite, il délire parce que la conscience humaine dépend du corps. Sans corps on est juste mort. »

      Oui mais dans quelle mesure? La conscience à besoin d’un corps, mais est-ce obligatoirement ce corps? Ou bien est-il possible de fournir un substitut?

      Ce que vous dites n’implique pas que le uploading soit impossible, simplement qu’il y’a peut-être plus à prendre en compte que le cerveau. Cela dit, il me parait prématuré de déclarer l’uploading impossible dés maintenant.

      « Quand bien même on réussirait un jour à « télécharger » une conscience dans un disque dur, et que cette conscience continuerait d’exister, ce ne serait qu’une copie digitale. Ben oui. »

      Et alors?

  10. L’intelligence par définition est l’évolution, elle joue son propre rôle et transcende tout le reste, reste qui est la somme de toutes les composantes…

    L’univers pourrait être défini comme étant la somme de celle-ci et de ce qui la constitue, ou, l’univers est la singularité de l’intelligence et inversement dont la singularité de cette résultante est un paradoxe qui lui est la singularité d’une cinquième dimension, par exemple….

Les commentaires sont fermés.