Intelligence Artificielle et éthique : le contresens navrant de Cédric Villani

Le titre-même du rapport de Cédric Villani « Donner un sens à l’IA » est problématique. Quand on regarde l’histoire de l’innovation, le sens a toujours été donné a posteriori.

Partager sur:
Sauvegarder cet article
Aimer cet article 0

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Intelligence Artificielle et éthique : le contresens navrant de Cédric Villani

Publié le 4 avril 2018
- A +

Par Philippe Silberzahn.

Ainsi donc avec le rapport Villani sur l’intelligence artificielle, la France a renoué avec une vieille tradition : demander à quelqu’un d’intelligent d’écrire un rapport idiot. Enfin idiot, on se comprendra : le rapport que notre Médaille Fields vient de rédiger n’est pas tant idiot que convenu.

[related-post id=310995 mode=ModeLarge]

Nous sommes en retard sur l’IA, vite un plan national. Des subventions, des initiatives, une agence, tout plein de petits fours et de pique-assiettes, la routine française, quoi. La montagne a accouché d’une souris, les Chinois se marrent bien. Mais les faiblesses de ce rapport ont été soulignées avec talent par d’autres, inutile d’y revenir. Ce qui me semble important cependant, c’est le lien que le rapport fait avec l’éthique.

Le titre-même du rapport « Donner un sens à l’IA » est problématique. Quand on regarde l’histoire de l’innovation, le sens a toujours été donné a posteriori. Et ce pour une raison très simple : les ruptures technologiques présentent toujours des situations inédites sur le plan légal, social et éthique. Il est très difficile, voire impossible, de penser ces ruptures avant qu’elles ne se produisent, et avant que les effets ne soient visibles.

Penser dans le vide

On risque de penser dans le vide. Lorsque McKinsey conduit une étude de marché pour AT&T en 1989 pour évaluer le potentiel de la téléphonie mobile, les résultats sont désastreux : personne ne voit l’intérêt d’avoir un téléphone mobile. Personne ne peut simplement imaginer ce qu’on ferait avec. Seule l’utilisation effective a révélé les possibilités de la technologie, de même qu’aujourd’hui seule l’utilisation de Facebook en révèle les dangers pour la vie privée.

Plus généralement, les applications d’une nouvelle technologie sont impossibles à anticiper. Lorsque les ingénieurs français et autrichien découvrent les ultra-sons en 1911, ils s’en servent pour détecter les sous-marins. Quarante ans après, cette technologie est utilisée en médecine, c’est l’échographie.

Cette utilisation est totalement imprévue et d’ailleurs, il était initialement question que ce soit pour la détection des cancers. Aujourd’hui, l’échographie est devenue banale et peu chère, à tel point qu’elle est utilisée dans les pays pauvres, en particulier en Chine et en Inde.

Utilisée pour l’avortement sélectif, elle est directement responsable du fait notamment qu’environ 25 millions de femmes ne sont pas nées en Chine, causant un déséquilibre des sexes qui entraîne de lourds problèmes sociaux et donc politiques. Qui aurait pu penser qu’une technologie mise au point en Europe pour la lutte anti sous-marine soit la cause, un siècle plus tard, d’un bouleversement social en Asie ? Penser les conséquences de l’échographie a priori aurait été totalement vain.

La dualité de la technologie

Mais il y a pire. Toute technologie est duale, au sens où elle peut servir à faire le bien comme le mal. Imaginez que vous soyez ministre de l’Environnement dans un pays éthique qui a mis le principe de précaution dans sa constitution (exemple fictif bien-sûr). Un groupe d’industriels vient vous voir pour obtenir l’autorisation préalable nécessaire à la commercialisation de leur nouvelle technologie.

Elle apportera de toute évidence des bienfaits immenses, facilitant la vie de nombreux habitants. Son seul défaut : elle tuera environ un million de personnes par an dans le monde. Que faites-vous ? Vous l’interdirez probablement et mettrez un comité d’éthique sur le dossier. Cette technologie ? C’est l’automobile.

En plaçant l’IA au service de l’éthique, le rapport commet donc deux erreurs : d’une part il ne se donne aucune chance de penser l’éthique de l’IA correctement, car nous penserons dans le vide – nous ne pourrons penser qu’en faisant, et d’autre part il condamne la France à regarder les autres danser depuis le balcon. Antoine Petit, le patron du CNRS lors de la conférence AI For Humanity où était présenté le rapport Villani, nous invitait ainsi à éviter un écueil :

Ne pas devenir les spécialistes de l’éthique tandis que les Chinois et les Américains deviennent des spécialistes du business.

C’est tout l’enjeu, et à vouloir mettre l’IA d’entrée de jeu au service de la diversité, de l’égalité homme-femme, du bien commun et des services publics, c’est sacrifier aux modes du moment en se trompant de combat. On demandait à Cédric Villani de nous dire comment la France pouvait rattraper son retard en IA, c’est-à-dire de poser un raisonnement industriel, pas de signaler sa vertu à l’intelligentsia post-moderniste qui gouverne la pensée de ce pays.

Sans compter que comme souvent dans ces cas-là, le sens que l’on donne à éthique est bien restreint. Il peut être éthique de ne pas vouloir développer une IA aux conséquences négatives, mais il peut être également éthique d’essayer pour voir, car ce n’est qu’en agissant que nous saurons.

Les entrepreneurs savent cela depuis longtemps, nos savants intelligents et ceux qui nous gouvernent l’ignorent, et se condamnent peu à peu à la paralysie par excès de prudence et, au fond, par peur du futur. Nous devenons un vieux pays, et laissons progressivement les autres développer l’avenir. Au fond, le rapport Villani est un rapport de vieux, la hype de notre ami Cédric en plus.

Pour une bonne analyse critique du rapport Villani, voir l’article d’Olivier Ezratty ici : Ce que révèle le Rapport Villani.

Sur le web

Voir les commentaires (29)

Laisser un commentaire

Créer un compte Tous les commentaires (29)
  • C’est le contresens habituel : confondre une certaine capacité de raisonnement et de conceptualisation avec de l’intelligence . Et voila en France nous pondons des Macron Villani comme des saucisses et nous méprisons les Forrest Gump.

    • Un vieux financier disait qu’il y a 2 grandes erreurs intellectuelles en France :

      1. Croire que les plus intelligents font les meilleures études.
      2. Croire que les plus intelligents prennent les bonnes décisions.

      • Oh que c’est vrai! Je ne pense pas que Villani soit quelqu’un de pragmatique, il est plus dans la théorie que la pratique. Comme disait Coluche, on a plus besoin de « trouveurs » que de chercheurs. Là, on est parti pour monter des comités Théodule avec ses affidés, donc en fin de compte rien de bien probant.
        Il faut des entrepreneurs avec des libertés d’action, il faut promouvoir l’intelligence même artificielle mais au service de nos industries, de notre croissance, de notre développement…et ne pas laisser au simple politique dont Villani fait partie maintenant le choix de notre nation.

      • je ne crois pas , on pourrait tout aussi bien penser que les gens intelligents font les meilleures études si ils le désirent , et les gens intelligents prennent les bonnes décisions… dont la première est : dois je faire des études?
        et c’est ce qui révèle les gens » intelligents » dans une société donnée.

        Le vrai problème est que des tas de gens apparemment intelligents ou avec de hauts niveaux d’étude pensent toujours qu’être élu ou être désigné par un élu vous rend compétent …orgueil…

        • peut on être intelligent dans une culture primitive sans enseignement supérieur? dès lors…
          mais la pertinence des décisions et le succès est sans doute un bon marqueur de l’intelligence.

          mais la france à un problème, et comme disait un très vieux financier elle adore les phrases chocs…

          malheureusement la france est foutue, du moins pour un temps semble assez correct quoique m^me le vénézuela respire encore.

        • vous avez raison.
          Il y a plusieurs formes d’intelligence, l’intelligence intellectuelle, l’intelligence du coeur, l’intelligence pratique, l’intelligence du bon sens, etc..
          On pourrait penser que ceux qui ont l’intelligence intellectuelle ont toutes les autres intelligences mais c’est faux dans la plupart des cas comme j’ai pu m’en rendre compte dans la réalité.

        • Les études demandent de la mémoire pour emmagasiner, pas de l’intelligence! Voir nos brillants énarques… qui ne font que des conneries! Dont ce plan est un bel exemple et qui se terminera comme le plan calcul par un énorme bide.

  • Qui (pas moi!) lit tous ces rapports demandés par la politique et surtout par des politiciens pour se « couvrir », dans des domaines où ils ne touchent pas leur bille?

    Sans doute le « spécialiste » du cabinet ministériel concerné qui fait un « digest » pour son patron!

    De plus, un rapport est une « commande » dont les objectifs sont déjà un peu définis! (Ici, remettre la France à niveau, dans la mal appelée A.I. sans trop devoir s’engager trop précisément dans des dépenses budgétaires faramineuses).

    C.Villani, très au courant de la question (et d’ailleurs passionnant sur le sujet)

    ne pouvait pas ignorer la mise en garde récente des patrons des GAFAM!

    Nous imaginons, majoritairement, plus facilement les avantages de l’ A.I. sans explorer son côté plus sombre, évidemment!

    Pour une fois qu’un ministre est aussi brillant (avec du « répondant »), il n’est pas très élégant de le critiquer comme dans l’article et de parler de « contresens ».

    Je sais: il est ministre d’E.Macron, bon! (Mais il n’est pas professionnellement « politicien ».)

    Mais qui sait ce que deviendra l’A.I., extraordinaire, et donc sans doute redoutable, mieux que lui, en France, et ses « collègues », ailleurs?

    • celui qui sait fait …qu’est ce qui empêche villani…de monter un projet privé..
      dans ce pays..on nous explique toujours qu’il faut changer de modèle ou de méthode..comme si il allait de soi qu’il faille avoir une méthode autre que de laisser l’économie tranquille.

  • Ne pas devenir les spécialistes de l’éthique tandis que les Chinois et les Américains deviennent des spécialistes du business

    Tout est là. Et comme d’habitude notre Gouvernement rêve du bonheur universel et de l’inévitable « principe de précaution », frein au progrès.

  • Personne ne sait! Par contre comme le décrit l’article, les présages légiférant s’avèrent souvent (toujours) contre productif…
    Villani prospère sur son prestige légitime, il en tire certainement plaisir et satisfaction. C’est humain, je le comprend.

  • Dans ce cas, comme dans mille autres, la réponse à la question: « comment faire pour que la France ratrappe son retard en matière d’AI? » est simple.
    Elle se résume dans la phrase de Pompidou « Arrêtez d’emmerder les français ». Laissez les énergies se développer sans contrainte ou du moins avec un minimum (et non un maximum comme en France) de contraintes. Ne taxer rien ou du moins fort peu. Et que l’état ne s’occupe que de ses fonctions régaliennes, ce qu’il fait fort mal actuellement.
    En chiffres: passer de 57% du PIB aux mains de la sphère publique à 37%, soit 440 milliards redonnés aux français qui inventent ou qui entreprennent.

    • Vous posez la bonne question. Car je redoute bien moins le rapport Villani qui me semble, contrairement à ce que dit cet article, poser les bonnes questions, que ce que la technostructure à la française est (in)capable de faire de notre R&D, de nos industries et de notre économie…

  • Une médaille Fields, ça n’est pas rien ! Je me souviens de mon professeur Laurent Schwartz qui était en effet un mathématicien de génie. Mais en dehors des mathématiques, ça ne devrait pas valoir plus qu’un jeton de plastique à 0.02 centimes, et ceux qui leur donnent des responsabilités ou croient leurs avis dans d’autres domaines en n’osant pas les critiquer au prétexte de la médaille Fields sont des imbéciles, voire des escrocs manipulateurs.

    • « approuvé par bill gates. ».pas mal non plus…

    • Ah, Laurent Schwartz! Quels souvenirs! Je n’ai jamais entendu un prof de maths (de niveau doctorat, je précise) vous donner l’impression d’être très intelligent et de tout comprendre sur le coup, mais le lendemain, vous repreniez vos notes et là, cela devenait beaucoup, beaucoup moins clair.

  • merci pour ce bref article, pourtant fort à propos.

  • Je crois que trop obnubilé par la question du principe de précaution, Philippe Silberzahn a lui-même commis un contresens sur le rapport Villani.
    Il ne s’agit pas de tuer dans l’oeuf l’IA. Celle-ci est déjà là et incontournable. Mais au contraire d’essayer de ne pas rater le coche, comme on le comprend à la lecture des 4 premiers chapitres : Une politique économique… / Pour une recherche agile et diffusante / Anticiper et maïtriser les impacts sur le travail et l’emploi / L’intelligence artificielle au service d’une économie plus écologique.
    Le mot « sens » du titre du rapport a plus à avoir avec la notion de « direction » que de « morale ».
    D’ailleurs la question éthique n’est abordée qu’à l’avant-dernier chapitre. Et il ne s’agit pas de partir dans de grandes tirades philosophiques sur le sujet, mais de mettre en lumière certains aspects pratiques dans l’élaboration des algorithmes de décision.
    Prenons par exemple le cas de la voiture autonome. Personne ne songe à l’interdire, au nom de Dieu sait quoi. En revanche, il va être nécessaire de se pencher sur l' »éthique » du fonctionnement de cette voiture. Exemple : face à un piéton qui traverse la route à l’improviste, faut-il précipiter la voiture dans le décor pour sauver le piéton au risque de tuer le conducteur ? Quid s’il s’agit d’enfants ou de personnes âgées ? Tient-on compte du nombre respectif piétons/passagers voiture ?… La boîte noire d’un conducteur normal faisait « au mieux ». En revanche, la voiture autonome disposera d’un logiciel écrit par des techniciens. Que devront-ils écrire ? Auront-ils le choix de ce genre de décisions ou l’Etat imposera-t-il une norme, sachant que cela impactera inévitablement l’essor de la voiture autonome (qui voudrait acheter un produit susceptible de le tuer au premier problème ?) et occasionnera des développements juridiques à n’en plus finir…

    • Certes, ces questions sont importantes (votre exemple de la voiture autonome). Cependant, il n’est utile et constructif de se les poser qu’une fois cette voiture en phase d’aboutissement, qu’une fois les principales difficultés techniques en voie de résolution et qu’on commence à en cerner les contraintes non techniques d’utilisation et les applications éventuelles.
      Brasser de l’air sur « l’éthique » du fonctionnement d’une telle voiture (ou d’une future éventuelle avancée technologique) avant d’avoir commencé quoique ce soit dans la résolution du problème technique, équivaut à chercher des solutions à des problèmes qui n’existeront peut-être pas ou se poseront de manière complètement différente. C’est le meilleur moyen de perdre du temps et de l’argent. Mais comme, en France, c’est l’argent des autres, cela n’a jamais posé problème dans ce pays.
      De plus, réfléchir à « l’éthique », c’est noble, cela en jette et donne l’impression qu’on s’occupe du problème… à peu de frais sauf à nourrir quelques sous-commissions d’étude.
      Pendant ce temps là, les autres pays progressent en technologie…

      • Ces questions se posent déjà… Que ce soit sur la voiture autonome ou sur d’autres technologies issues de l’IA.
        Déjà plusieurs millions de kms pour la voiture autonome… avec des accidents et quelques morts. Qui nécessitent une étude poussée des responsabilités. Mettre une voiture autonome sur la route nécessite au préalable de deroger à la Convention de Vienne de 1968. Et vu qu’il y a deja accidents et morts dans un domaine où le droit est deja plus épais que le code du travail, le législateur est obligé de mettre son nez dans les questions technojuridiques posées par ce nouveau produit.

  • Mieux vaut une taxe au présent qu’un gain hypothétique dans le futur. Nos sachants sont de vrais épicuriens.

  • Et puis si l’on remplaçait les politiciens par une AI…le gain engendré ne serait même plus éthique mais épic.

  • Il faudrait demander à villani d’évaluer les plans qui furent faits par des comités de gens très intelligents dans le passé en France…peut être serait ce le moyen de le réveiller .

  • Monsieur Philippe Silberzahn, votre article est d’une clarté et d’une clairvoyance remarquable. Merci.
    Seul bémol, la reprise du concept d’intelligentsia pour caractériser ce qui relève plutôt, selon moi, de la médiocratie.

  • Les commentaires sont fermés.

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Par Scott Shackford. Un article de Reason

Un document de travail récemment publié prétend montrer que les vastes lois sur la confidentialité des technologies mises en œuvre par l'Union européenne en 2018 ont considérablement étouffé l'innovation des apps et potentiellement privé les consommateurs de produits utiles.

Le rapport a été publié par le National Bureau of Economic Research, et il tente de calculer les effets sur les consommateurs du Règlement général sur la protection des données (RGPD), une loi de l'Union européenn... Poursuivre la lecture

Par Alexander Hammond. Un article de HumanProgress

Voici le trente-troisième épisode d’une série d’articles intitulée « Les Héros du progrès ». Cette rubrique est une courte présentation des héros qui ont apporté une contribution extraordinaire au bien-être de l’humanité.

Nos héros de la semaine sont George Hitchings et Gertrude Elion, les deux scientifiques américains qui ont initié le développement de la conception rationnelle des médicaments.

Jusqu’alors, la méthode classique employée pour les découvrir reposait sur un... Poursuivre la lecture

Nous sommes à l’aube d’une nouvelle rupture technologique qui pourrait, à terme, bouleverser le marché de l’emploi. Le développement des solutions d’intelligence artificielle sur des pans entiers du marché de l’emploi aura des externalités positives indéniables, encore trop mal perçues des travailleurs.

Des transformations structurelles sans destruction massive

Selon le rapport de référence « Automatisation, numérisation et emploi » du Conseil d’orientation pour l’emploi (janvier 2017), moins de 10 % des emplois existants seront menacé... Poursuivre la lecture

Voir plus d'articles