Tech for good : et si c’était une très mauvaise idée ?

tech source https://unsplash.com/photos/SYTO3xs06fU

Dans une société de la prudence, le métier à tisser Jacquard aurait été interdit au nom de la sauvegarde de l’emploi, le textile serait resté l’apanage de quelques riches, et la société plus pauvre.

Par Philippe Silberzahn.

Au cours d’une conférence, quelqu’un m’a interrogé sur la façon de développer le Tech for Good (sic). J’ai été surpris de la question ; j’ai répondu que, de toute évidence la tech a contribué, encore aujourd’hui, à un impact incroyablement positif sur l’humanité, que ce soit en termes de richesse et de santé, mais c’était un peu facile ; surtout, ce n’était pas vraiment la question.

La vraie question, est de savoir ce qu’on entend par good ? Et c’est une question fondamentale parce qu’y répondre montre que derrière la noblesse de l’intention, Tech for Good est en fait une très mauvaise idée.

« Il n’y a pas de grande invention, depuis le feu jusqu’à l’aviation, qui n’ait été accusée d’être une insulte à quelque dieu. » (J. Haldane)

Le monde de la technologie est sur la défensive ; ses abus sont largement exposés dans les médias (Facebook), ses contributions à peine évoquées comme évidentes, négligeables ou pire, contre-productives. Ses bénéfices sont questionnés (à quoi bon la 5G ?) et ses dangers potentiels mis en avant (OGM). Des voix s’élèvent pour qu’elle soit mieux contrôlée et qu’elle contribue au bien commun, ce que traduit l’expression Tech for good (la technologie pour le bien).

Pourtant Tech for Good est très problématique à la fois en ce qu’il suppose et par ce qu’il induit et ce pour cinq raisons :

  1. L’indétermination : on ne peut pas savoir à l’avance comment une technologie va être utilisée.
  2. La dualité : toute technologie peut être utilisée à la fois pour le bien et le mal.
  3. La subjectivité : nous n’avons pas tous la même définition du bien et du mal
  4. La nécessité : les plus grands changements ont été apportés par des gens qui se fichaient du good.
  5. Le risque : il impose un standard inatteignable pour toute nouvelle technologie et menace donc le progrès.

L’indétermination d’une nouvelle technologie

Un des enseignements de l’histoire de la technologie est qu’on ne sait jamais à l’avance l’utilisation qui en sera faite lorsqu’elle est inventée. La plupart des inventeurs étaient à cent lieues de s’imaginer ce qui serait fait de leur invention, en bien ou en mal. On ne le découvre que progressivement par les possibles qu’elle ouvre, rarement imaginables a priori.

Un exemple entre mille suffit pour illustrer cela, celui de la technologie ultrason : inventée pour détecter des sous-marins en 1911, elle fut récupérée par la médecine dans les années 1950 avec d’immenses bénéfices pour la santé humaine, par exemple l’échographie, mais aussi utilisée à partir des années 1980 en Asie pour les avortement sélectifs de fœtus féminins. Alors l’échographie, tech for good ou for bad ? Les deux, comme toutes les technologies !

Dualité : toute technologie peut être utilisée pour le bien comme pour le mal

Toute technologie peut en effet être utilisée à la fois pour le bien et pour le mal. Imposer qu’une technologie ne puisse être développée qu’à condition qu’elle fasse le bien, et seulement le bien, c’est s’interdire tout progrès technologique.

En empêchant un mal possible, souvent fantasmé, on empêche également un bien possible. Le métier à tisser de jacquard fut unanimement détesté par les ouvriers du textile lors de son introduction au début du XIXe siècle. Il permettait en effet de remplacer quatre personnes sur cinq pour la même production.

Tech for good ? Difficile à défendre ! Et pourtant, on ignore souvent que l’intention initiale de Joseph Marie Jacquard était… de supprimer le travail des enfants. En substance il disait aux familles : maintenant avec ma machine, pour la même production, vous n’avez plus besoin de faire travailler vos enfants.

Alors, Tech for good ? hum… Mais surtout, en réduisant le nombre nécessaire d’ouvriers, le métier à tisser réduisait le coût du tissu de 80 %, ce qui le rendait accessible à un nombre croissant de personnes, notamment les plus modestes.

Résultat ? Une explosion de la consommation, qui poussait la production à la hausse et donc… l’emploi. Vingt ans après l’introduction du métier Jacquard, il y avait davantage d’ouvriers qui travaillaient dans le textile.

Alors, Tech for good ? Gageons que dans une société de la prudence Tech for good, le métier Jacquard aurait été interdit au nom de la sauvegarde de l’emploi, le textile serait resté l’apanage de quelques riches, et la société plus pauvre. Comme le métier Jacquard, pratiquement toutes les technologies à leurs débuts ont été violemment attaquées au nom du bien ou d’une morale quelconque avant que leurs effets positifs ne fassent oublier leurs débuts difficiles.

Subjectivité : nous n’avons pas tous la même définition du bien et du mal

Distinguer le bien du mal et nous accorder sur ce que chacun entend par l’un et par l’autre est loin d’être facile. Les philosophes s’y essaient depuis environ 2500 ans.

L’avortement est considéré comme un droit fondamental de la femme par beaucoup, mais comme une abomination par d’autres. Dans quelle catégorie du bien ou du mal devra donc être classée une technologie facilitant l’avortement ? Chacun peut avoir son opinion et sa préférence, mais pas penser qu’on peut facilement répondre à cette question.

Le good ou le bad d’une technologie n’est donc pas un problème de technologie, mais un problème d’humain. Le slogan Tech for good est donc dangereux parce qu’il nie l’ambiguïté propre à chaque situation, le bien et le mal n’étant définissable qu’en fonction du contexte. C’est un slogan totalitaire qui veut organiser le monde en deux, le camp du bien d’un côté, celui du mal de l’autre, en feignant de croire que la distinction est simple à faire.

Nécessité : il n’est pas nécessaire de vouloir le bien pour le faire

Le Tech for Good suppose que l’atteinte du bien nécessite une intention préalable : nous ne pouvons créer le bien que si nous le voulons explicitement. Cette croyance est démentie par des siècles d’histoire.

Inversement, la sagesse populaire a reconnu depuis longtemps que l’enfer est pavé de bonnes intentions : celles-ci conduisent souvent au pire, tandis que l’absence d’intention sociétale a historiquement eu des répercussions incroyablement positives.

Ainsi, James Watt a joué un rôle crucial dans le développement de la machine à vapeur. Sa contribution sociétale fut tellement importante que cinq ans après sa mort en 1819, il y eut une souscription publique pour construire un monument à sa mémoire à une époque où les monuments étaient construits principalement pour ceux qui avaient gagné une guerre.

L’éditeur d’une revue célèbre de l’époque écrivait pourtant : « Il se distingue d’autres bienfaiteurs du public par le fait qu’il n’a jamais fait, ni prétendu faire l’objet de son action au bénéfice du public… Cet homme sans prétentions en réalité a apporté plus au grand public que tous ceux qui depuis des siècles ont fait de leur activité principale le souci du bien public. »

En bref, vouloir le for good a priori n’est en rien indispensable à une contribution majeure à la société.

Risque : imposer la condition du bien a priori, c’est risquer d’écarter des technologies utiles

Avec Tech for good, l’innovation doit prouver qu’elle ne sera pas nocive avant même que ses bénéfices puissent être découverts. Pour diminuer le risque, largement illusoire, de la technologie, on augmente donc le risque d’écarter celle-ci et de se passer de ses avantages.

Par exemple, les organisations écologiques comme Greenpeace ont réussi à bloquer l’introduction du fameux golden rice, une variété de riz riche en vitamines A obtenue par modification génétique. Les scientifiques estiment que cette interdiction a coûté la vie à des millions d’individus et rendu des milliers d’enfants aveugles.

Le plus étonnant est qu’à ce jour, il n’existe aucune étude crédible suggérant un danger de ce riz. Et pourtant, la crainte du risque OGM, inexistant, l’a emporté face au risque, certain, de faire mourir des gens et de rendre des enfants aveugles. Good or bad ?

En outre, en interdisant les OGM en Europe, on les laisse aux Chinois et aux Américains qui créeront emplois et richesses qui les accompagnent et viendront bientôt concurrencer nos agriculteurs avec des produits moins chers. Good or bad ?

Tech for Good souligne donc les dangers potentiels toujours facilement imaginables, voire peuvent être exagérés ou même inventés, mais pas les avantages probables d’une innovation, qui eux doivent être prouvés, ce qui prend souvent du temps, en déplaçant en quelque sorte la charge de la preuve sur l’innovateur pour qu’il prouve que ses produits ne causeront pas de dommages, alors qu’il lui est en pratique impossible de démontrer qu’ils pourraient causer du bien.

Tech for Good impose donc un standard inatteignable pour toute nouvelle technologie, sans la moindre base puisque les dangers sont hypothétiques, voire fantasmés, et menace donc d’empêcher le progrès.

Une approche alternative : vouloir le bien ou empêcher le mal ?

Il ne s’agit bien sûr pas de condamner ceux qui souhaitent que la technologie ait un impact positif. Nous le voulons tous naturellement. Nous sommes tous pour les gentils et contre les méchants. Mais dire cela ne nous avance pas beaucoup, car cela n’indique aucune direction pratique et ne conduit qu’à des logiques de moratoires et d’interdictions.

Vouloir le bien nécessite l’unanimité sur ce que l’on entend par bien, ce qui est impossible, comme l’attestent les millions de cadavres des guerres de religions. Entre 1618 et 1648, l’Europe n’est noyée dans un bain de sang pour définir ce qu’était le bien.

La paix de Westphalie en 1648 signe la reconnaissance de cette impasse entre nations épuisées. Ce qui émerge à cette époque est un principe nouveau : nous ne pouvons pas nous accorder sur ce qu’est le bien, mais nous pouvons nous accorder sur les moyens, sur les règles à suivre pour vivre ensemble malgré nos différences d’opinion sur le bien et le mal ; c’est cette reconnaissance qui donnera progressivement naissance au principe du parlementarisme.

Derrière ce principe s’en cache un autre, celui de la confiance a priori. On définit un cadre de liberté, on laisse faire les entrepreneurs et les innovateurs, et on corrige après coup les excès qui ne manquent pas de se produire, qui sont même la condition de l’exercice.

Reconnaître que laisser l’expérience prendre place est la meilleure approche possible, parce que ce n’est qu’après cette expérience que l’on dispose de suffisamment de connaissances pour réguler de façon à équilibrer le progrès et la sécurité. On laisse l’expérience faire, même si elle est coûteuse et si elle cause des dégâts, car on reconnaît que l’absence d’expérience bloque l’innovation, ce qui est encore plus coûteux et qu’une régulation a priori menace le progrès et n’améliore pas nécessairement la sécurité.

Cette approche contre-intuitive et éminemment pragmatique est issue de l’empirisme millénaire et d’un long chemin intellectuel de l’humanité. Elle insupporte les idéalistes du Tech for Good, mais c’est elle qui a permis le développement de notre civilisation. Nous ne l’abandonnerons qu’à nos dépens.

Sur le web

Vous souhaitez nous signaler une erreur ? Contactez la rédaction.