Par Thierry Berthier.
« Je voudrais que l’intelligence fût reprise au démon et rendue à Dieu » – Jean Cocteau
Cinq acteurs majeurs du numérique viennent de s’unir pour créer l’organisation (à but non lucratif) « Partnership on AI » dédiée à une réflexion commune sur le développement de l’intelligence artificielle et ses conséquences sur la société. Quelle orientation souhaite-t-on donner à l’IA ? C’est la question centrale qui a amené Amazon, Google et sa filiale DeepMind, Facebook, IBM et Microsoft a s’asseoir à une même table pour promouvoir l’AI et procéder à une introspection prospective.
Un objectif : faire avancer la compréhension du public
L’objectif de PartnershipOnIA est de « faire avancer la compréhension du public sur l’intelligence artificielle et de définir les meilleures pratiques sur les défis et les opportunités dans ce domaine ». L’organisation publiera régulièrement des articles de recherche sur l’interopérabilité de l’IA, la sécurité, la confidentialité des systèmes et l’éthique. La structure se veut ouverte au monde académique et annonce qu’elle associera les réflexions de scientifiques reconnus en IA, de chercheurs, d’avocats, d’experts indépendants, le tout sous licence ouverte.
Amazon, Google DeepMind, Facebook, IBM, Microsoft unis pour l’intelligence artificielle
Les cinq membres fondateurs s’engagent à financer l’ensemble des recherches et des études produites sous l’égide de l’organisation. Siégeront au conseil d’administration de Partnership on AI : Ralf Herbrich, Directeur du Machine Learning chez Amazon, Mustafa Suleyman, cofondateur de Google DeepMind, Yann Le Cun, Directeur de la R&D (FAIR) chez Facebook, Francesca Rossi (universitaire) chez IBM et Eric Horvitz, Directeur R&D chez Microsoft.
Ces cinq profils de très haut niveau seront rejoints par cinq autres membres cooptés pour faire vivre l’organisation et la rendre utile à la communauté internationale. On notera l’absence ou le retard (?) de deux autres poids lourds du domaine, Apple et Tesla- Space X, qui auraient pourtant toute leur place au sein de cette structure naissante.
On doit d’abord saluer la création de PartnershipOnAI dans un contexte de développement et de diffusion ultrarapide de l’IA sur l’ensemble des activités et des pratiques humaines. Les enjeux et les défis sont réellement immenses et l’absence d’une telle organisation, jusqu’à présent, pouvait laisser penser que les acteurs majeurs de l’IA ne se souciaient que peu des questions stratégiques et éthiques sous-jacentes.
Intelligence artificielle : la menace des robots ?
Si cette création répond bien à une attente et à un besoin, il faut y voir également une contre-mesure des cinq géants du numérique pour concurrencer l’initiative qui avait amené Elon Musk et Stephen Hawking à publier une mise en garde contre les dérives potentielles d’une IA non maîtrisée. Une lettre ouverte avait été signée par de nombreux scientifiques dénonçant les menaces des robots tueurs et celles d’une technologie de puissance aux pouvoirs destructeurs. Google et d’autres n’avaient pas pris part à cette mise en garde, étant par ailleurs indirectement accusés d’insouciance coupable face à ces menaces…
Le Future of Humanity Institute de l’Université d’Oxford s’est fortement engagé dans une réflexion sur les effets de la montée en puissance de l’IA. Il a produit de nombreux articles de recherche sur le sujet sans pour autant sombrer dans une stérile diabolisation de la technologie. Pourtant, l’hypothèse d’une dérive malveillante de l’IA reste présente notamment au sein d’une population française qui apparait dans les sondages comme la plus craintive en la matière.
Anticiper les mouvements de contestation
L’organisation PartnershipOnAI souhaite « évangéliser » et promouvoir l’IA au sein des populations. Elle anticipe en cela les futurs mouvements de contestation et de rejets qui pourraient bien animer ces mêmes populations lorsqu’elle seront inévitablement « socialement impactées » par un grand nombre de destructions d’emplois. Il ne fait aucun doute aujourd’hui que la diffusion systématique de l’IA sur toutes les sphères d’activités humaines supprimera la totalité des emplois « automatisables ».
Cette destruction faiblement créatrice produira de nouveaux emplois mais pas en nombre suffisant pour compenser la perte des premiers… Les turbulences risquent donc d’être violentes avec une attribution logique des responsabilités aux grands artisans de l’IA. Les GAFA ne peuvent prospérer qu’en présence d’un consentement global de la population à l’IA et de celui de l’usager en particulier. Chaque grand acteur du numérique est pleinement conscient de ce principe systémique qui constitue le socle d’une diffusion réussie de ses technologies.
Cela dit, la création de PartnershipOnAI devra nécessairement s’inscrire dans un mouvement plus large associant l’utilisateur en tant que cyber-citoyen dans les grands choix stratégiques de déploiement de l’IA. Il faudra par exemple créer un secrétariat d’État à l’intelligence artificielle au sein de chaque gouvernement et un Conseil de Sécurité de l’IA au niveau mondial. Ces entités auront la lourde tâche d’amortir les turbulences sociales, religieuses ou géopolitiques engendrées par l’IA et la convergence NBIC (Nanotechnologies, Biotechnologies, Informatique, sciences Cognitives).
« Si l’intelligence menace de rompre sur certains points la cohésion sociale, et si la société doit subsister, il faut que, sur ces points, il y ait à l’intelligence un contre poids. Ainsi s’expliquerait la fonction fabulatrice. » Henri Bergson
J’imagine que venant de moi, ce commentaire ne surprendra personne ici, mais quand je vois ces GAFIM se mettre d’accord pour évangéliser et promouvoir l’intelligence artificielle au sein des populations, j’ai surtout envie que les libéraux aillent mener une contre-campagne pour le développement au sein des mêmes populations du sens critique et de l’intelligence naturelle !
Si ce lobbying reste tourné vers les IA dites « soft », alors pourquoi pas, cela pourrait rendre de grands services à l’humanité. (IA qui se concentrent sur des taches précises à effectuer, et ne cherche pas à faire autre chose que cela).
Par contre si ça englobe aussi des IA « hard », alors là il y a quand même un besoin vital de contrôler ce qui se passe, ou au moins d’être transparent sur le développement de ces monstres de Frankenstein cybernétiques…(créer un ordinateur doté d’une capacité de réflexion totale et sans entraves, à un moment donné, c’est lui donné les clés pour qu’il devienne « conscient » de lui même. Pas sur que l’humanité soit prête à cela, ni même que la machine ne soit prête à se rendre compte de ce qu’est son créateur…) On est encore aux aurores de la « Uncanny Valley ».
Ce partenariat montre surtout que les sociétés qui font du développement dans l’IA ne savent absolument pas où ils vont et donc sont incapables de répondre à des critiques. On va donc créer un sous-comité et lui refiler le bébé pour être tranquille.
Etrangement, je n’ai pas entendu parler de comité de réflexion sur des cas concrets comme la conduite automobile robotisée. Alors que le patron de Renault dit que c’est incompatible avec les pratiques existantes dans la plupart des pays.
Sinon, il n’y a qu’à créer aussi des secrétariats d’état au Futur, aux E.T. et au sexe des anges dans chaque pays et à l’ONU.
Quand je lis que l’automatisation et le progrès technologique va détruire plus que produire d’emploi, je me méfie.
Il y aura beaucoup d’emplois détruits ou réformés, mais une quantité inconnue d’emploi créés (dont une bonne partie de métiers qui n’existent pas encore).
Comptable, médecin, boulanger, avocat, banquier, caissières, chauffeurs routiers…
Plus de 90% des gens exercent des métiers qui existaient il y a déjà un siècle…
Les métiers réellement nouveaux comme les développeurs informatiques ne sont accessible qu’à une fraction de la population.
En 1900, les chevaux aussi auraient pu se dire qu’en sortant des secteur du transport, du travail agricole, des emplois pénibles au fond des mines, pourraient se recyclé dans des métier qui n’existait pas encore. Eco tourisme, cirque, cinéma, police montée, des taches plus sympa avec des conditions de vie moins pénible. Mais ce qu’on a observé c’est qu’en dépit de ces taches nouvelles, les chevaux ont vu leur nombre et leur utilité économique jusqu’à atteindre le niveau anecdotique d’aujourd’hui.
Des « métiers qui n’existent pas encore »… comme c’est commode… à défaut de permettre de gagner sa vie cela permet aux bonimenteurs de gagner du temps…
In The Past Year, The U.S. Added 360,000 Waiters And Only 12,000 Manufacturing Workers
L’année passée c’est 2015… cela se passe au US, pays de cocagne qui fait rêver les tenants du « libéralisme »… Et comme vous pouvez le remarquer, il s’agit là d’un métier très ancien: LARBIN…
Vous n’aurez aucun mal a retrouver l’article original grâce à un machin qui s’appelle Google Search…
Très intéressant, merci à Thierry Berthier. C’est très prometteur et les enjeux sont considérables.
Les personnes présentées sont toutes des scientifiques de haut niveau dans les technologies de l’nifirmation. J’espère qu’ils vont aussi accueillir des spécialistes d’autres disciplines: philosophes, psychologues, linguistes, artistes…
« … organisation à but non lucratif Partnership on AI »:
Non lucratif…? au regard de la loi sans doute…
On constate dans les faits que le but de cette sinistre entente cordiale est double:
I. Museler autant que faire se peut toute opposition aux dérives à venir de ces vendeurs d’automation (pompeusement qualifiée d’intelligence artificielle)… afin d’endormir les populations… ce qui permettra de faire en sorte que les membres du consortium qui contrôle cette organisation puissent remplir leurs poches et celles de leurs actionnaires en toute quiétude…
II. Fournir des munitions aux armées de lobbyistes qui seront chargés de faire pression sur les représentants élus de Washington afin de s’assurer qu’ils mettent en place le cadre législatif nécessaire à leur politique de développement… sur le même modèle que ce qui s’est passé pour la soi-disant « propriété intellectuelle » où l’on a vu au final les avocats de Walt Disney et consorts se substituer au rôle traditionnel du Congress… législation dont on a pu constater qu’une fois mise en place aux États Unis elle a quasi-automatiquement été « adoptée » par le reste de la planète…
La mise en place de cette organisation poursuit donc en réalité un but purement lucratif, chose que l’on comprend aisément à la lecture de récentes déclarations de S. Pichai… M. Zuckerberg… etc. que l’on peut résumer en ces termes: tous les 10-15 ans en matière de « computing » le marché s’essoufle, stagne, entre en récession… il est donc impératif de tout mettre en œuvre pour garantir le succès de l’exploitation de cette nouvelle mine d’or… sans bien entendu… comme pour toute mine d’or qui se respecte… se soucier des dommages immenses encourus par les populations…
Faites leur confiance… Quoi qu’il arrive, ces pollueurs d’un nouveau type ne seront pas les payeurs…