Par Farid Gueham.
L’imminence
« Dans une tribune publiée par le journal The Independent, Stephen Hawking nous met en garde contre les conséquences irréversibles de l’intelligence artificielle. D’après lui, les technologies se développent à un tel rythme, qu’elles deviendront vite incontrôlables, au point de mettre l’humanité en péril ». Cette inquiétude est partagée par d’autres spécialistes reconnus, parmi lesquels Max Tegmark, professeur de physique théorique au MIT, Stuart Russell, professeur d’intelligence artificielle à Berkeley, Frank Wilczek, professeur au MIT et prix Nobel de physique. La machine semble peu à peu s’affranchir de l’homme : la voiture autonome de Google, le logiciel de reconnaissance de la parole Siri d’Apple, la machine Watson d’IBM qui remporte des parties du jeu télévisé Jeopardyface à des humains, en sont autant d’illustrations. L’intelligence artificielle porte dans son sillage des angoisses, dont la principale est qu’elle pourrait un jour nous échapper. « A côté des scientifiques et des ingénieurs, les philosophes ne demeurent pas en reste. A titre d’exemple, Nick Bostrom, physicien de formation, puis spécialiste de neurosciences computationnelles et maintenant professeur de philosophie dans la très ancienne et vénérable université d’Oxford, prophétise dans ses nombreux écrits, en particulier dans son best-seller au titre évocateur, Superintelligence : Paths, Dangers, Strategies ».Dans le cadre de ces réflexions, une idée commune émerge, celle de l’avènement d’une transhumanité, d’un genre supérieure, doté de pouvoirs nouveaux, qui l’autoriseront à aller au-delà de ses limites actuelles.
La singularité technologique
Le concept de singularité technologique recouvre toutes les angoisses liées à une innovation dont on perdrait le contrôle. « Le scénario originaire vient de la science-fiction. Vernor Vinge l’a popularisé dans ses romans, au cours des années 1990, avant de le théoriser dans un essai intitulé The coming technological Singularity, paru en 1993 ». Cet auteur ne fut pas le seul à imaginer une autonomisation de la technologie, s’affranchissant de la tutelle humaine. D’autres évoque le mathématicien polonais Stanislaw Ulam qui évoquait déjà cette accélération du progrès technologique. Isaac Assimov lui emboite le pas, dans sa nouvelle « The last question », parue en 1956, est considérée comme l’une des meilleures de l’auteur.
Autonomie : les machines auto-reproductives
« Il était une fois, un courrier assez banal, diffusé à toute une liste de destinataires dont je faisais partie. Tôt après l’avoir reçu, me parvint la réponse automatique d’un de mes co-récipiendaires : absent de son bureau, il avait programmé un renvoi automatique à l’envoyeur avec copie à tous ses colistiers. Puis arrivèrent une seconde et une troisième réponse automatique de deux autres destinataires qui avaient procédé identiquement ». Jean-Gabriel Ganascia décrit ici le phénomène de boule de neige à l’origine du décrochement d’une plaque puis d’une avalanche. Sauf l’exploitation et les protocoles de transmission, rien n’aurait pu arrêter la multiplication des petits messages, à la différence d’une véritable avalanche. Si ce déferlement apparaît anodin lorsqu’il concerne des messages, il peut avoir des répercussions catastrophiques lorsqu’il s’agit d’un virus, propagé par un algorithme auto-reproductif. Et si au lieu de dupliquer un programme, un algorithme permettrait de l’améliorer, dans une dynamique d’évolution vertueuse ? C’est sur ce principe que reposent les théories de l’amorçage ou de l’autoapprentissage en intelligence artificielle, telles que celles développées par les chercheurs Jaques Pitrat en France, et plus anciennement, par Saul Amarel et Herbert Gelertner aux Etats-Unis. Mais en l’état actuel des techniques d’intelligence artificielle, il reste peu probable que les techniques permettent aux ordinateurs de se perfectionner indéfiniment sans le concours des hommes, jusqu’à s’emballer, nous dépasser et enfin, acquérir leur autonomie propre.
Économie du partage et du désastre
« Une seconde hypothèse pourrait être envisagée, selon laquelle l’intérêt que porte les géants du web à la singularité proviendrait non de l’hubris seule, mais aussi d’un sentiment mêlé d’enthousiasme et de fragilité, d’absence de contrôle et de perte d’autonomie, auquel la singularité ferait elle-même écho ». A l’extrême opposé des grands capitaines d’industrie du XIXe et XXe siècle qui veillaient à apposer leur sceau sur leurs réalisations, les dirigeants des GAFA font preuve d’une humilité inédite. Ils se déclarent attentifs aux besoins de leurs usagers, sollicitant même ces derniers, afin de recueillir leurs goûts et leurs inclinations. Cet intérêt passe par l’exploitation de grandes masses de données. Mais inversement, les empires du numérique se rendent par ailleurs vulnérables face aux humeurs de l’opinion publique, et dès lors qu’il ne la maîtrise plus ou qu’ils ne peuvent plus l’anticiper, ils se contentent de l’observer et de traduire ce qu’ils comprennent de ses aspirations, ses désirs et ses besoins : « qui se souvient des premiers moteurs de recherche comme Lycos ou Altavista ? Comme le suggère Luc Ferry dans La révolution transhumaniste, l’économie collaborative engendre une rivalité et une compétition féroces jamais observées auparavant »,ajoute Jean-Gabriel Ganascia, rappelant que l’accélération et l’amplification du temps numérique est implacable, pour le meilleur et pour le pire.
Pour aller plus loin :
– « Stephen Hawking: transcendence looks at the implications of artificial intelligence, but are we taking AI seriously enough? », theindependent.co.uk
– « Nick Bostrom Superintelligence Paths, dangers, strategies OUP Oxford (3 juillet 2014) », blogs.mediapart.fr
__
la bêtise naturelle qu’on peut constater tous les jours dans les effets délétères quelle produit est bien plus dangereuse pou l’individu
Ca craint , l’intelligence artificielle alors qu’on est incapable de faire un programme non beugué ,va t on produire que des Greta ?
Si l’AI se base sur la notre, alors peut-être faut il s’inquiéter ! D’ailleurs en lâchant une AI 1 jour sur un média social ne devient elle pas aggressive ? Rassurons nous l’intelligence quantique arrivera un jour, elle sera beaucoup plus subtile que nous. Lol
Il manquera toujours quelque chose aux robots intelligents, la reconnaissance comme humain (Blade Runner).
l’IA n’a pas pour objectif de recopier nos faiblesses..
En effet le but est de faire de nos faiblesses une force….imaginons un de nos illustre enarque mettant la main sur une telle intelligence et decuplant ainsi ses faiblesses …et oui l’intelligence artificielle imite et depassera son maitre transformant ainsi un dupont en superdupont
Non pas certain. Au Japon ils font des animaux humains pour fabriquer des organes. L’on peut imaginer n’importe quoi en mélangeant nos connaissances. Déjà l’on trouve des augmentations pour le cerveaux et des prothèses bioniques. L’on ne pourra bientôt plus trop savoir qui est quoi. Du reste nous sommes déjà un peu virtualisé dans notre vie. Absorbé par des bots de Google ou de la propagande Étatique. Nos actions sont désormais induites par les espions de nos appareils électroniques qui vont nous influencer en permanence. L’AI est déjà plus forte que nous. C’est peut-être notre force de le savoir pour arriver à couper.
La présence de tissus humain ne donne pas de caractère ontologique à cette chose.
Dans Blade Runner la légimité d’accéder au statut d’humain réside dans l’accouplement (surtout charnel) réussi entre un robot et un humain. Et encore ce dernier ne l’accepte pas. Je parie que le statut d’humain sera toujours indépassable aussi intelligent et puissant puissent être le robot.
En outre je ne vois pas comment nous pourrions créer dans un avenir proche des robots supérieures à l’humain alors qu’il reste bon nombre de mystères sur nous-mêmes. Et des machines qui deviennent des surhumains par auto-apprentissage je n’y crois pas un instant. On se prend pour Dieu !
L’humain, par peur de mourir, par déni ou rejet de sa condition temporaire, essaye déjà de s’augmenter pour dépasser/vaincre cela; ou du moins ça le rassure. (mais comme c’est lui même qui créé sa peur, c’est pas gagné).
Ma crainte, c’est une humanité divisée entre les humains de chair, et ceux qui auront choisi la cyborgisation. Ces derniers seront plus forts, plus rapides, plus « augmentés » et donc plus à même de trouver un emploi. Les charnels seront obligés de s’augmenter pour rester dans cette société de moins en moins humaine.
Ce qui pose la question de la liberté. Quand la société impose quelque chose aux gens pour que ces gens fassent partie de la société, ya discrimination et perte d’autonomie.
Cela est le cas par exemple pour l’informatique; c’est une avancée technologique certes, mais vivre sans adresse mail, sans « identité numérique », sans connaissances, et sans équipements (qui ont un coût non négligeable), c’est être considéré comme hors-société.
L’humanité est déjà aliénée par le productivisme, la course désespérée et illusoire à la croissance, le rêve d’accumulation d’argent (seule source d’émancipation et de liberté dans le capitalisme); les gens (dont moi j’avoue) ont déjà des prothèses techno-numériques avec smartphones, tablettes, etc, alors demain sera fort différent.
Perso je voudrais rester humain.
Concernant votre crainte, qui m’inquiète également, ces tendances permettront peut-être, enfin je l’espère, de définir clairement ce qu’est un être humain et donc son statut universel. Un contact extraterrestre nous aiderait bien sur ce point. lol ! Car moi aussi je voudrais rester humain de chair.
J’avoue que je fantasme un peu sur le contact E.T. comme élément rassembleur de l’humanité. Comme projet commun. Vu que quelque chose se définit par ce qu’il est et donc parce ce qu’il n’est pas, ça serait intéressant 🙂
@indivisible
il est indéniable que la conscience,la personnalité,l’empathie et les sentiments en général sont en relation étroite avec un traitement de l’information au niveau neuronal.
Pour autant,comment laisser entendre,voire affirmer,que le génie de la cybernétique pourrait un jour permettre aux machines de s’approprier jusqu’à notre représentation du monde et nous dominer ?
L’état de conscience et les sentiments représentent encore une parfaite abstraction, même s’ils sont en corrélation avec la circulation dans notre univers « connu », d’une information omniprésente.
C’est bien la raison pour laquelle l’ambition développée par la cybernétique
ne permet toujours pas de résoudre le problème de la duplication de la conscience par l’intermédiaire d’un P.C., fût il de dernière génération « quantique ».
L’ordinateur « Hall »de l’excellent film » 2001 l’odyssée de l’espace » de Stanley Kubrick, éprouvant des sentiments complexes tels que: la colère,la jalousie,le calcul machiavélique,relève toujours de la pure science fiction, et montre bien les limites de cette supposées « intelligence » nommée à juste raison « artificielle »,dont l’intérêt considérable, dans tous les domaines, ne peut qu’être néanmoins limité.
Les applications de la physique quantique sont désormais connus en permettant une diffusion ultra rapide de l’information.
Le paradoxe essentiel reste notre méconnaissance de l’origine exacte et de la nature même de ces mystérieux phénomènes quantiques, que l’on peut considérer comme « le grand secret » de la représentation de notre « réalité » si familière,et qui restent néanmoins un défi pour l’entendement humain.
En dépit des progrès impressionnants de la science,aucune découverte ne permet actuellement d’indiquer le sens de notre monde complexe dont l’abstraction est impossible à modéliser.
L’intelligence dite » artificielle « ne pourra montrer sa pleine efficacité que sous réserve d’être strictement contrôlée par l’intelligence humaine et il serait irréaliste de penser qu’elle puisse prochainement s’en affranchir.
Bof bof. L’article parle des risques et craintes, citant un certain nombre de têtes bien pleines et/ou bien faites, avant de les balayer d’un revers de manche « dans l’état actuel de la tech, tout baigne ».
Quant au paragraphe sur les géants du web et leur supposée humilité je suis en fort désaccord. On assiste à de gros efforts de censure et manipulation de la part de ces acteurs, aux antipodes de « attentifs aux besoins des utilisateurs ».
« Un jour les ordinateurs sauront régler tous les problèmes, mais jamais un seul d’entre eux ne saura en poser un » Albert Einstein.
Vous n’avez jamais eu un ordinateur qui posait problème ? 🙂
Peur de l’intelligence ? À part si c’est l’intelligence de l’ennemi oui. Peur de l’obscurantisme populaire qui projette les angoisses de quelques fictions à la Matrix ou la Isaac Isamov sur des technologies actuelles, oui. En réponse à l’effet boule de neige de mails en réponse auto : un programme qui bug n’est pas un programme « intelligent », c’est un programme mal fait.
comme tout nouveau domaine, certains prennent peur.
« les livres étaient interdits ,il n’y a pas si longtemps… »
Les commentaires sont fermés.