Le mythe de la singularité : faut-il craindre l’intelligence artificielle ?

Hommes robots

Siri, la voiture autonome et les algorithmes. Faut-il avoir peur du développement de l’intelligence artificielle ?

Par Farid Gueham.

Un article de Trop Libre
« L’intelligence artificielle va-t-elle bientôt dépasser celle des humains ? Ce moment critique, baptisé « singularité technologique », fait partie des nouveaux buzzwords de la futurologie contemporaine et son imminence est proclamée à grand renfort d’annonces mirobolantes par des technologourous comme Ray Kurzweil (chef de projet chez Google) ou Nick Bostrom (de la vénérable université d’Oxford) ». Jean-Gabriel Ganascia, professeur à l’université Pierre-et-Marie-Curie, mène des recherches sur l’intelligence artificielle au sein du laboratoire informatique de Paris 6. Dans son essai, l’auteur analyse cette évolution qui nous angoisse : nos machines vont-elles devenir plus intelligentes et surtout, plus puissantes que nous ?

 

L’imminence

« Dans une tribune publiée par le journal The Independent, Stephen Hawking nous met en garde contre les conséquences irréversibles de l’intelligence artificielle. D’après lui, les technologies se développent à un tel rythme, qu’elles deviendront vite incontrôlables, au point de mettre l’humanité en péril ». Cette inquiétude est partagée par d’autres spécialistes reconnus, parmi lesquels Max Tegmark, professeur de physique théorique au MIT, Stuart Russell, professeur d’intelligence artificielle à Berkeley, Frank Wilczek, professeur au MIT et prix Nobel de physique. La machine semble peu à peu s’affranchir de l’homme : la voiture autonome de Google, le logiciel de reconnaissance de la parole Siri d’Apple, la machine Watson d’IBM qui remporte des parties du jeu télévisé Jeopardyface à des humains, en sont autant d’illustrations. L’intelligence artificielle porte dans son sillage des angoisses, dont la principale est qu’elle pourrait un jour nous échapper. « A côté des scientifiques et des ingénieurs, les philosophes ne demeurent pas en reste. A titre d’exemple, Nick Bostrom, physicien de formation, puis spécialiste de neurosciences computationnelles et maintenant professeur de philosophie dans la très ancienne et vénérable université d’Oxford, prophétise dans ses nombreux écrits, en particulier dans son best-seller au titre évocateur, Superintelligence : Paths, Dangers, Strategies ».Dans le cadre de ces réflexions, une idée commune émerge, celle de l’avènement d’une transhumanité, d’un genre supérieure, doté de pouvoirs nouveaux, qui l’autoriseront à aller au-delà de ses limites actuelles.

La singularité technologique

 Le concept de singularité technologique recouvre toutes les angoisses liées à une innovation dont on perdrait le contrôle. « Le scénario originaire vient de la science-fiction. Vernor Vinge l’a popularisé dans ses romans, au cours des années 1990, avant de le théoriser dans un essai intitulé The coming technological Singularity, paru en 1993 ». Cet auteur ne fut pas le seul à imaginer une autonomisation de la technologie, s’affranchissant de la tutelle humaine. D’autres évoque le mathématicien polonais Stanislaw Ulam qui évoquait déjà cette accélération du progrès technologique. Isaac Assimov lui emboite le pas, dans sa nouvelle « The last question », parue en 1956, est considérée comme l’une des meilleures de l’auteur.

Autonomie : les machines auto-reproductives

« Il était une fois, un courrier assez banal, diffusé à toute une liste de destinataires dont je faisais partie. Tôt après l’avoir reçu, me parvint la réponse automatique d’un de mes co-récipiendaires : absent de son bureau, il avait programmé un renvoi automatique à l’envoyeur avec copie à tous ses colistiers. Puis arrivèrent une seconde et une troisième réponse automatique de deux autres destinataires qui avaient procédé identiquement ». Jean-Gabriel Ganascia décrit ici le phénomène de boule de neige à l’origine du décrochement d’une plaque puis d’une avalanche. Sauf l’exploitation et les protocoles de transmission, rien n’aurait pu arrêter la multiplication des petits messages, à la différence d’une véritable avalanche. Si ce déferlement apparaît anodin lorsqu’il concerne des messages, il peut avoir des répercussions catastrophiques lorsqu’il s’agit d’un virus, propagé par un algorithme auto-reproductif. Et si au lieu de dupliquer un programme, un algorithme permettrait de l’améliorer, dans une dynamique d’évolution vertueuse ? C’est sur ce principe que reposent les théories de l’amorçage ou de l’autoapprentissage en intelligence artificielle, telles que celles développées par les chercheurs Jaques Pitrat en France, et plus anciennement, par Saul Amarel et Herbert Gelertner aux Etats-Unis. Mais en l’état actuel des techniques d’intelligence artificielle, il reste peu probable que les techniques permettent aux ordinateurs de se perfectionner indéfiniment sans le concours des hommes, jusqu’à s’emballer, nous dépasser et enfin, acquérir leur autonomie propre.

Économie du partage et du désastre

« Une seconde hypothèse pourrait être envisagée, selon laquelle l’intérêt que porte les géants du web à la singularité proviendrait non de l’hubris seule, mais aussi d’un sentiment mêlé d’enthousiasme et de fragilité, d’absence de contrôle et de perte d’autonomie, auquel la singularité ferait elle-même écho ». A l’extrême opposé des grands capitaines d’industrie du XIXe et XXe siècle qui veillaient à apposer leur sceau sur leurs réalisations, les dirigeants des GAFA font preuve d’une humilité inédite. Ils se déclarent attentifs aux besoins de leurs usagers, sollicitant même ces derniers, afin de recueillir leurs goûts et leurs inclinations. Cet intérêt passe par l’exploitation de grandes masses de données. Mais inversement, les empires du numérique se rendent par ailleurs vulnérables face aux humeurs de l’opinion publique, et dès lors qu’il ne la maîtrise plus ou qu’ils ne peuvent plus l’anticiper, ils se contentent de l’observer et de traduire ce qu’ils comprennent de ses aspirations, ses désirs et ses besoins : « qui se souvient des premiers moteurs de recherche comme Lycos ou Altavista ? Comme le suggère Luc Ferry dans La révolution transhumaniste, l’économie collaborative engendre une rivalité et une compétition féroces jamais observées auparavant »,ajoute Jean-Gabriel Ganascia, rappelant que l’accélération et l’amplification du temps numérique est implacable, pour le meilleur et pour le pire.

Pour aller plus loin :

 

–      « Stephen Hawking: transcendence looks at the implications of artificial intelligence, but are we taking AI seriously enough? », theindependent.co.uk

–      « Nick Bostrom Superintelligence Paths, dangers, strategies OUP Oxford (3 juillet 2014) », blogs.mediapart.fr

__

Sur le web

Vous souhaitez nous signaler une erreur ? Contactez la rédaction.