Le mythe de la singularité : faut-il craindre l’intelligence artificielle ?

Siri, la voiture autonome et les algorithmes. Faut-il avoir peur du développement de l’intelligence artificielle ?

Partager sur:
Sauvegarder cet article
Aimer cet article 0
Hommes robots

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Le mythe de la singularité : faut-il craindre l’intelligence artificielle ?

Publié le 9 août 2019
- A +

Par Farid Gueham.

Un article de Trop Libre
« L’intelligence artificielle va-t-elle bientôt dépasser celle des humains ? Ce moment critique, baptisé « singularité technologique », fait partie des nouveaux buzzwords de la futurologie contemporaine et son imminence est proclamée à grand renfort d’annonces mirobolantes par des technologourous comme Ray Kurzweil (chef de projet chez Google) ou Nick Bostrom (de la vénérable université d’Oxford) ». Jean-Gabriel Ganascia, professeur à l’université Pierre-et-Marie-Curie, mène des recherches sur l’intelligence artificielle au sein du laboratoire informatique de Paris 6. Dans son essai, l’auteur analyse cette évolution qui nous angoisse : nos machines vont-elles devenir plus intelligentes et surtout, plus puissantes que nous ?

 

L’imminence

« Dans une tribune publiée par le journal The Independent, Stephen Hawking nous met en garde contre les conséquences irréversibles de l’intelligence artificielle. D’après lui, les technologies se développent à un tel rythme, qu’elles deviendront vite incontrôlables, au point de mettre l’humanité en péril ». Cette inquiétude est partagée par d’autres spécialistes reconnus, parmi lesquels Max Tegmark, professeur de physique théorique au MIT, Stuart Russell, professeur d’intelligence artificielle à Berkeley, Frank Wilczek, professeur au MIT et prix Nobel de physique. La machine semble peu à peu s’affranchir de l’homme : la voiture autonome de Google, le logiciel de reconnaissance de la parole Siri d’Apple, la machine Watson d’IBM qui remporte des parties du jeu télévisé Jeopardyface à des humains, en sont autant d’illustrations. L’intelligence artificielle porte dans son sillage des angoisses, dont la principale est qu’elle pourrait un jour nous échapper. « A côté des scientifiques et des ingénieurs, les philosophes ne demeurent pas en reste. A titre d’exemple, Nick Bostrom, physicien de formation, puis spécialiste de neurosciences computationnelles et maintenant professeur de philosophie dans la très ancienne et vénérable université d’Oxford, prophétise dans ses nombreux écrits, en particulier dans son best-seller au titre évocateur, Superintelligence : Paths, Dangers, Strategies ».Dans le cadre de ces réflexions, une idée commune émerge, celle de l’avènement d’une transhumanité, d’un genre supérieure, doté de pouvoirs nouveaux, qui l’autoriseront à aller au-delà de ses limites actuelles.

La singularité technologique

 Le concept de singularité technologique recouvre toutes les angoisses liées à une innovation dont on perdrait le contrôle. « Le scénario originaire vient de la science-fiction. Vernor Vinge l’a popularisé dans ses romans, au cours des années 1990, avant de le théoriser dans un essai intitulé The coming technological Singularity, paru en 1993 ». Cet auteur ne fut pas le seul à imaginer une autonomisation de la technologie, s’affranchissant de la tutelle humaine. D’autres évoque le mathématicien polonais Stanislaw Ulam qui évoquait déjà cette accélération du progrès technologique. Isaac Assimov lui emboite le pas, dans sa nouvelle « The last question », parue en 1956, est considérée comme l’une des meilleures de l’auteur.

Autonomie : les machines auto-reproductives

« Il était une fois, un courrier assez banal, diffusé à toute une liste de destinataires dont je faisais partie. Tôt après l’avoir reçu, me parvint la réponse automatique d’un de mes co-récipiendaires : absent de son bureau, il avait programmé un renvoi automatique à l’envoyeur avec copie à tous ses colistiers. Puis arrivèrent une seconde et une troisième réponse automatique de deux autres destinataires qui avaient procédé identiquement ». Jean-Gabriel Ganascia décrit ici le phénomène de boule de neige à l’origine du décrochement d’une plaque puis d’une avalanche. Sauf l’exploitation et les protocoles de transmission, rien n’aurait pu arrêter la multiplication des petits messages, à la différence d’une véritable avalanche. Si ce déferlement apparaît anodin lorsqu’il concerne des messages, il peut avoir des répercussions catastrophiques lorsqu’il s’agit d’un virus, propagé par un algorithme auto-reproductif. Et si au lieu de dupliquer un programme, un algorithme permettrait de l’améliorer, dans une dynamique d’évolution vertueuse ? C’est sur ce principe que reposent les théories de l’amorçage ou de l’autoapprentissage en intelligence artificielle, telles que celles développées par les chercheurs Jaques Pitrat en France, et plus anciennement, par Saul Amarel et Herbert Gelertner aux Etats-Unis. Mais en l’état actuel des techniques d’intelligence artificielle, il reste peu probable que les techniques permettent aux ordinateurs de se perfectionner indéfiniment sans le concours des hommes, jusqu’à s’emballer, nous dépasser et enfin, acquérir leur autonomie propre.

Économie du partage et du désastre

« Une seconde hypothèse pourrait être envisagée, selon laquelle l’intérêt que porte les géants du web à la singularité proviendrait non de l’hubris seule, mais aussi d’un sentiment mêlé d’enthousiasme et de fragilité, d’absence de contrôle et de perte d’autonomie, auquel la singularité ferait elle-même écho ». A l’extrême opposé des grands capitaines d’industrie du XIXe et XXe siècle qui veillaient à apposer leur sceau sur leurs réalisations, les dirigeants des GAFA font preuve d’une humilité inédite. Ils se déclarent attentifs aux besoins de leurs usagers, sollicitant même ces derniers, afin de recueillir leurs goûts et leurs inclinations. Cet intérêt passe par l’exploitation de grandes masses de données. Mais inversement, les empires du numérique se rendent par ailleurs vulnérables face aux humeurs de l’opinion publique, et dès lors qu’il ne la maîtrise plus ou qu’ils ne peuvent plus l’anticiper, ils se contentent de l’observer et de traduire ce qu’ils comprennent de ses aspirations, ses désirs et ses besoins : « qui se souvient des premiers moteurs de recherche comme Lycos ou Altavista ? Comme le suggère Luc Ferry dans La révolution transhumaniste, l’économie collaborative engendre une rivalité et une compétition féroces jamais observées auparavant »,ajoute Jean-Gabriel Ganascia, rappelant que l’accélération et l’amplification du temps numérique est implacable, pour le meilleur et pour le pire.

Pour aller plus loin :

 

–      « Stephen Hawking: transcendence looks at the implications of artificial intelligence, but are we taking AI seriously enough? », theindependent.co.uk

–      « Nick Bostrom Superintelligence Paths, dangers, strategies OUP Oxford (3 juillet 2014) », blogs.mediapart.fr

__

Sur le web

Voir les commentaires (17)

Laisser un commentaire

Créer un compte Tous les commentaires (17)
  • la bêtise naturelle qu’on peut constater tous les jours dans les effets délétères quelle produit est bien plus dangereuse pou l’individu

  • Ca craint , l’intelligence artificielle alors qu’on est incapable de faire un programme non beugué ,va t on produire que des Greta ?

  • Si l’AI se base sur la notre, alors peut-être faut il s’inquiéter ! D’ailleurs en lâchant une AI 1 jour sur un média social ne devient elle pas aggressive ? Rassurons nous l’intelligence quantique arrivera un jour, elle sera beaucoup plus subtile que nous. Lol

  • Il manquera toujours quelque chose aux robots intelligents, la reconnaissance comme humain (Blade Runner).

    • l’IA n’a pas pour objectif de recopier nos faiblesses..

      • En effet le but est de faire de nos faiblesses une force….imaginons un de nos illustre enarque mettant la main sur une telle intelligence et decuplant ainsi ses faiblesses …et oui l’intelligence artificielle imite et depassera son maitre transformant ainsi un dupont en superdupont

    • Non pas certain. Au Japon ils font des animaux humains pour fabriquer des organes. L’on peut imaginer n’importe quoi en mélangeant nos connaissances. Déjà l’on trouve des augmentations pour le cerveaux et des prothèses bioniques. L’on ne pourra bientôt plus trop savoir qui est quoi. Du reste nous sommes déjà un peu virtualisé dans notre vie. Absorbé par des bots de Google ou de la propagande Étatique. Nos actions sont désormais induites par les espions de nos appareils électroniques qui vont nous influencer en permanence. L’AI est déjà plus forte que nous. C’est peut-être notre force de le savoir pour arriver à couper.

      • La présence de tissus humain ne donne pas de caractère ontologique à cette chose.
        Dans Blade Runner la légimité d’accéder au statut d’humain réside dans l’accouplement (surtout charnel) réussi entre un robot et un humain. Et encore ce dernier ne l’accepte pas. Je parie que le statut d’humain sera toujours indépassable aussi intelligent et puissant puissent être le robot.
        En outre je ne vois pas comment nous pourrions créer dans un avenir proche des robots supérieures à l’humain alors qu’il reste bon nombre de mystères sur nous-mêmes. Et des machines qui deviennent des surhumains par auto-apprentissage je n’y crois pas un instant. On se prend pour Dieu !

        • L’humain, par peur de mourir, par déni ou rejet de sa condition temporaire, essaye déjà de s’augmenter pour dépasser/vaincre cela; ou du moins ça le rassure. (mais comme c’est lui même qui créé sa peur, c’est pas gagné).
          Ma crainte, c’est une humanité divisée entre les humains de chair, et ceux qui auront choisi la cyborgisation. Ces derniers seront plus forts, plus rapides, plus « augmentés » et donc plus à même de trouver un emploi. Les charnels seront obligés de s’augmenter pour rester dans cette société de moins en moins humaine.
          Ce qui pose la question de la liberté. Quand la société impose quelque chose aux gens pour que ces gens fassent partie de la société, ya discrimination et perte d’autonomie.
          Cela est le cas par exemple pour l’informatique; c’est une avancée technologique certes, mais vivre sans adresse mail, sans « identité numérique », sans connaissances, et sans équipements (qui ont un coût non négligeable), c’est être considéré comme hors-société.
          L’humanité est déjà aliénée par le productivisme, la course désespérée et illusoire à la croissance, le rêve d’accumulation d’argent (seule source d’émancipation et de liberté dans le capitalisme); les gens (dont moi j’avoue) ont déjà des prothèses techno-numériques avec smartphones, tablettes, etc, alors demain sera fort différent.
          Perso je voudrais rester humain.

          • Concernant votre crainte, qui m’inquiète également, ces tendances permettront peut-être, enfin je l’espère, de définir clairement ce qu’est un être humain et donc son statut universel. Un contact extraterrestre nous aiderait bien sur ce point. lol ! Car moi aussi je voudrais rester humain de chair.

            • J’avoue que je fantasme un peu sur le contact E.T. comme élément rassembleur de l’humanité. Comme projet commun. Vu que quelque chose se définit par ce qu’il est et donc parce ce qu’il n’est pas, ça serait intéressant 🙂

        • @indivisible

          il est indéniable que la conscience,la personnalité,l’empathie et les sentiments en général sont en relation étroite avec un traitement de l’information au niveau neuronal.

          Pour autant,comment laisser entendre,voire affirmer,que le génie de la cybernétique pourrait un jour permettre aux machines de s’approprier jusqu’à notre représentation du monde et nous dominer ?

          L’état de conscience et les sentiments représentent encore une parfaite abstraction, même s’ils sont en corrélation avec la circulation dans notre univers « connu », d’une information omniprésente.

          C’est bien la raison pour laquelle l’ambition développée par la cybernétique
          ne permet toujours pas de résoudre le problème de la duplication de la conscience par l’intermédiaire d’un P.C., fût il de dernière génération « quantique ».

          L’ordinateur « Hall »de l’excellent film » 2001 l’odyssée de l’espace » de Stanley Kubrick, éprouvant des sentiments complexes tels que: la colère,la jalousie,le calcul machiavélique,relève toujours de la pure science fiction, et montre bien les limites de cette supposées « intelligence » nommée à juste raison « artificielle »,dont l’intérêt considérable, dans tous les domaines, ne peut qu’être néanmoins limité.

          Les applications de la physique quantique sont désormais connus en permettant une diffusion ultra rapide de l’information.

          Le paradoxe essentiel reste notre méconnaissance de l’origine exacte et de la nature même de ces mystérieux phénomènes quantiques, que l’on peut considérer comme « le grand secret » de la représentation de notre « réalité » si familière,et qui restent néanmoins un défi pour l’entendement humain.

          En dépit des progrès impressionnants de la science,aucune découverte ne permet actuellement d’indiquer le sens de notre monde complexe dont l’abstraction est impossible à modéliser.
          L’intelligence dite » artificielle « ne pourra montrer sa pleine efficacité que sous réserve d’être strictement contrôlée par l’intelligence humaine et il serait irréaliste de penser qu’elle puisse prochainement s’en affranchir.

  • Bof bof. L’article parle des risques et craintes, citant un certain nombre de têtes bien pleines et/ou bien faites, avant de les balayer d’un revers de manche « dans l’état actuel de la tech, tout baigne ».
    Quant au paragraphe sur les géants du web et leur supposée humilité je suis en fort désaccord. On assiste à de gros efforts de censure et manipulation de la part de ces acteurs, aux antipodes de « attentifs aux besoins des utilisateurs ».

  • « Un jour les ordinateurs sauront régler tous les problèmes, mais jamais un seul d’entre eux ne saura en poser un » Albert Einstein.

  • Peur de l’intelligence ? À part si c’est l’intelligence de l’ennemi oui. Peur de l’obscurantisme populaire qui projette les angoisses de quelques fictions à la Matrix ou la Isaac Isamov sur des technologies actuelles, oui. En réponse à l’effet boule de neige de mails en réponse auto : un programme qui bug n’est pas un programme « intelligent », c’est un programme mal fait.

  • comme tout nouveau domaine, certains prennent peur.
    « les livres étaient interdits ,il n’y a pas si longtemps… »

  • Les commentaires sont fermés.

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

La réalité rattrape parfois la fiction et c’est sûrement de plus en plus vrai ces dernières années. Avec l’évolution de certaines technologies comme le Métavers, la réalité virtuelle et bien évidemment  l'Intelligence Artificielle (IA), on sent que le monde est en train de changer. Certains avancent plus vite que d’autres, comme la Chine, où un robot vient d’être nommé à la tête d’une multinationale.

Une IA va donc gérer NetDragon Websoft, une entreprise de jeux vidéo comptant plusieurs milliers de salariés. Cette IA se nomme Tang Yu. ... Poursuivre la lecture

IA
4
Sauvegarder cet article

Pour celui qui se tient (même vaguement) au courant des progrès de l'informatique, il est évident que l'intelligence artificielle a beaucoup évolué en 20 ans. L'actualité récente montre que nous sommes à présent bien loin des pathétiques essais de l'époque, qui permettaient péniblement d'obtenir de ces programmes un peu plus qu'une reconnaissance approximative des caractères, des systèmes experts un peu déséquilibrés ou des analyses d'images qui ne se trompaient pas la moitié du temps.

Ces dernières années ont notamment vu apparaître d... Poursuivre la lecture

intelligence artificielle
2
Sauvegarder cet article

La présentation du livre 101 mots de l’intelligence artificielle[1. Paris, le 22 septembre 2022 : Présentation du livre 101 mots de l’intelligence artificielle sur le vocabulaire français de cette discipline par Gérard Pelletier, président de Datafranca qui y a largement participé] sur le vocabulaire français de cette discipline me donne l’occasion de revenir sur la signification du terme intelligence artificielle.

Prenons successivement chacun des deux mots le composant : intelligence et artificielle.

 

L’intelligence ... Poursuivre la lecture
Voir plus d'articles