Par Philippe Silberzahn.
La Commission européenne vient de dévoiler un projet très ambitieux de réglementation des usages de l’intelligence artificielle (IA). Les plus de cent pages (!) de règles proposées couvrent un large éventail de sujets.
Si les risques liés à des utilisations non éthiques de l’IA existent réellement, cette volonté de réglementation repose cependant sur une conception erronée de l’innovation technologique et pose un grave danger à l’industrie européenne en compromettant les chances que nous disposions d’acteurs majeurs dans le domaine. Si ce projet était adopté, il constituerait un formidable cadeau à la Chine et aux États-Unis.
Un spectre hante l’Europe, le spectre du principe de précaution. Hier berceau de l’innovation et du progrès, l’Europe est désormais paralysée par la peur du risque. C’est cette peur du risque qui motive le funeste projet de réglementation de l’IA. Sans même parler du fait que le terme « intelligence artificielle » est très contesté et mal choisi, le projet repose sur une conception erronée de l’innovation technologique.
En effet, une innovation technologique n’est pas un objet parfaitement identifiable et stable dans le temps. C’est un processus émergent étalé dans le temps. L’innovation Internet débute dans les années 1960 et se poursuit aujourd’hui.
De fait, ce processus est enveloppé d’incertitude sur les implications et les possibilités de la technologie. Toute l’histoire humaine montre ainsi qu’on ne peut pas juger aujourd’hui de l’impact qu’aura une technologie demain car il est impossible d’en anticiper les développements.
En 1911, des ingénieurs découvrent qu’on peut utiliser des ultrasons pour détecter des sous-marins. En 1951, la technologie est promue par un médecin et un électronicien pour lutter contre le cancer. Leurs efforts ne mènent à rien mais à partir des années 1970 l’échographie commence à être utilisée dans l’obstétrique. À partir des années 1990, elle est largement utilisée en Asie pour les avortements sélectifs, usage qui sera responsable d’un fort déséquilibre hommes/femmes.
Question : qu’aurait pu dire un régulateur aux ingénieurs de 1911 ? Il aurait été tout à fait incapable d’anticiper les utilisations de cette technologie. Autrement dit, une réglementation précoce sur des applications qui n’existent pas encore se fera de façon tout à fait aveugle, et reposera donc sur des croyances, voire sur des fantasmes, plutôt que sur des faits. Pour réglementer il faut comprendre, et pour comprendre une technologie émergente il faut faire. Réglementer trop tôt empêche de faire et donc de comprendre.
Une réglementation précoce est d’autant plus dommageable que toute technologie est duale : elle peut servir à faire le bien comme le mal, et la nuance entre les deux est circonstancielle. Un couteau me sert à découper mon steak, mais il peut aussi me servir à tuer quelqu’un. Faut-il interdire le couteau ? Mais tuer, est-ce toujours mal ? Non, si je suis en situation de légitime défense.
Une charge de preuve en défaveur de l’innovation
Le problème du principe de précaution est que les risques peuvent être facilement imaginés, il n’y a aucune limite, tandis que les bénéfices doivent être prouvés. Le principe considère les dangers potentiels, mais pas les bénéfices probables d’une innovation, et déplace ainsi la charge de la preuve vers l’innovateur à qui il incombe de prouver que son produit ne va pas nuire, sans lui permettre de démontrer qu’il sera bénéficiaire, ou qu’il remplacera un produit actuel nuisible.
Par exemple, en suivant ce principe de précaution, on interdira très certainement l’utilisation de l’IA dans la prise de décision de justice. Après tout, qui voudrait être jugé par une machine aux algorithmes probablement biaisés ? C’est oublier que les juges le sont beaucoup plus.
Dans une célèbre étude, des scientifiques ont montré que les peines étaient plus lourdes lorsque les juges avaient faim que lorsqu’ils étaient repus ! Quand on pointe les dangers de l’IA, on la compare souvent à une situation idéalisée qui est loin, très loin de la réalité.
Quelque biaisée qu’elle soit, une IA sera sans doute plus objective et moins biaisée par des circonstances ou des états physiologiques. Une technologie ne doit donc pas être évaluée ex nihilo ou par rapport à un idéal, mais par rapport à la technologie actuelle et à ses insuffisances et ses nuisances.
Un énorme risque de se priver des avantages de la technologie
Aucune technologie, quelle qu’elle soit, n’est sans risque. Imaginez que vous soyez le ministre de l’Industrie d’un grand pays au début du siècle dernier. Un ingénieur vient vous voir avec une toute nouvelle technologie qui va révolutionner la vie de tous les habitants du pays. Seul bémol : cette technologie causera directement la mort de 30 000 personnes par an en moyenne, ainsi que de nombreux accidents.
Autoriserez-vous cette technologie ? Avec le principe de précaution, probablement pas : 30 000 morts ! Et pourtant, cette technologie s’appelle l’automobile, et elle tue effectivement 30 000 personnes par an aux États-Unis et environ un million dans le monde. Le grave danger du principe de précaution a été particulièrement avéré ces dernières semaines avec la désastreuse affaire du vaccin AstraZeneca.
Parce que l’on soupçonnait que dans certaines situations, une personne vaccinée pouvait développer une thrombose, la vaccination a été interrompue, suscitant une forte inquiétude dans l’opinion et ceci alors que le risque de thrombose était infime, en tout cas inférieur à celui, par exemple, de la prise d’une pilule contraceptive.
Pour peut-être éviter quelques thromboses dont la plupart ne sont pas mortelles, on s’est privé de vacciner des centaines de milliers de personnes, ce qui entraînera des morts, mais aussi un prolongement de l’épidémie, augmentant ainsi le risque d’apparition de variants non couverts par les vaccins actuels. En résumé : le principe de précaution tue. Il tue les humains mais aussi les industries.
Une logique de mort industrielle
La démarche de la Commission européenne s’inscrit dans une longue série visant à brider l’innovation européenne. Sous couvert de concilier éthique et compétitivité, elle reflète une peur de l’avenir conçu exclusivement comme dangereux.
Au final elle n’aura guère d’impact sur l’éthique : l’industrie européenne étant bridée, l’innovation se fera ailleurs, avec les emplois et la richesse afférents, et on viendra pleurer sur notre souveraineté perdue.
Sans acteur de poids dans le domaine, l’éthique nous sera finalement dictée par nos concurrents américains et chinois. Il est grandement temps d’inverser complètement la logique de mort industrielle qui prévaut dans cette instance
—
notre souveraineté perdue ….elle est déjà bien enclenchée , l’UE va la finaliser ;
La commission européenne n’a qu’une voix consultative, c’est le parlement qui décide et la commission qui exécute sous le contrôle du parlement, non ?
On ne peut pas tuer qqch qui n’est pas né… Mais ne vous inquiétez pas, l’IA viendra en Europe car il y a un besoin, surveiller/taxer les citoyens par exemple. Là le risque de débordement sera considéré comme vraiment faible…
Sur les restrictions appliquées au vaccin Astra Zeneca : Je ne pense pas qu’il s’agisse du principe de précaution, mais d’une analyse risques – bénéfices. Le vaccin n’est plus recommandé en dessous d’un certain âge, pour lequel le risque vaccinal est donc considéré comme inacceptable par rapport au bénéfice potentiel. Ce qui signifie, en utilisant les normes usuelles de l’industrie, non pas qu’il y a égalité entre les décès liés à la vaccination et ceux dus au virus évités potentiellement, mais qu’il y a plusieurs ordres de grandeurs entre ces deux valeurs (ici, il me semble de l’ordre de 1000 : En dessous de 55 ans, le risque de décès CoVid est autour de 1/1000 en supposant tout le monde infecté, et le risque de thrombose mortel est de l’ordre de 1/1000000 un par million). Ce n’est pas le principe de précaution. Ensuite, que cette analyse (qui n’est pas expliquée au public) soit insuffisante pour qu’il ne préfère pas aller vers Pfizer ou Moderna, c’est un autre sujet, mais dans un monde libéral, c’est quand même bien de pouvoir choisir.
De toute façon, il est clair que le principe de précaution n’a pas été pris en compte pour la vaccination CoVid, sinon il est évident qu’elle n’aurait pas été mise en œuvre si vite.
l’Europe vieillit, ses dirigeants n’ont pas d’enfant : difficile d’avoir confiance dans l’avenir.
donc peur de cet avenir, de l’innovation…
il est temps que quitter cette union européenne mortifère.
« Il est grandement temps d’inverser complètement la logique de mort industrielle qui prévaut dans cette instance »
Cela est-il réaliste ? J’en doute. Du moins pas avant que la mort ne soit effective. J’ai toujours été pro-europe, mais désormais avec les délires comme le green new deal, la neutralité carbone, le développement outrancier des moulins à vent tueurs d’oiseaux et des panneaux solaires, je me rends compte que l’Europe nous emmène dans le mur. Il me semble préférable de faire ce qu’on fait les anglais.
dans le même style, on peut aussi parler de la mort de l’industrie automobile :
https://www.transitionsenergies.com/tesla-ne-gagne-pas-argent-avec-voitures-electriques/
Et de l’aéronautique!
Bis repetita: la mise en avance des risques « éthiques » dès le début des années 2000 (Cf Chirac, qui nous aura tout fait) vis à vis des biotechnologies, la France et l’Europe sont désormais à la ramasse.
Tant que les pays européens ne seront pas des petites étoiles supplémentaires sur le drapeau américain il en sera ainsi.
« le terme « intelligence artificielle » est très contesté et mal choisi, le projet repose sur une conception erronée de l’innovation technologique. »
L’innovation n’est pas monolithique. Elle est une synergie. Les « ultrasons » ne sont rien en eux-mêmes sans l’électronique, le traitement du signal, l’informatique et la science du domaine d’application : médecine, physique, acoustique, résistance des matériaux, thermodynamique …
Si on bloque arbitrairement et administrativement (100 pages de règlements pour un premier jet) un – et en fait de nombreux – domaines techniques pour cause d’éthique, de verditude, de « plans industriel », de choix de société, de moraline socio-économique, de distorsion économique … c’est toute l’innovation qui est impactée. Et il y a fort à parier que l’impact sur l’innovation soit total et non limité.
En l’état actuel des choses, l’IA n’est qu’un outil. Les impacts négatifs ne résident pas dans l’outil comme un marteau qui peut servir à fracasser le crâne d’autrui, mais dans la volonté de fracasser le dit crâne. Bien sur, en revanche, on trouve toujours des circonstances atténuantes ou des justifications à la volonté de fracasser le crâne d’autrui.
Dans « Tintin, l’affaire Tournesol », le brave professeur cherche désespérément son parapluie afin de détruire les microfilms qui contiennent les résultats de ses recherches. (Mais ouf ! il y parvient à la fin).
Dommage : il avait trouvé moyen de concentrer et focaliser une puissance colossale dans les ultrasons. Ultrasons qui servent surtout aujourd’hui dans la détection, la télémétrie, l’imagerie médicale, l’analyse des fissures dans le métal, le nettoyage ou même les micro-moteurs … Tous ces domaines ne pourront bénéficier de ces recherches.
En revanche les méchants « Bordures » qui voulaient en faire des armes de destruction massive ne seront pas inquiétés et trouveront d’autres solutions.
Beau rappel : les bases des délires actuels qui nous heurtent continuellement sont notamment exprimée dans cette bien-pensance…
Fake-intelligence ou encore ersatz-intelligence seraient plus appropriées.
La commission européenne est constituée de fake-intelligence à l’état cacochyme avancé
Article magistral. Bravo, et merci.
Que c’est dommage de ne le voir dans la presse mainstream
Les commentaires sont fermés.