ChatGPT, l’outil d’intelligence artificielle controversé

L’histoire de l’innovation est complexe et il est difficile, voire impossible, de prédire l’impact d’une technologie sur la société.

Partager sur:
Sauvegarder cet article
Aimer cet article 1
Photo de Adi Goldstein sur Unsplash

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

ChatGPT, l’outil d’intelligence artificielle controversé

Publié le 21 décembre 2022
- A +

À moins d’avoir vécu sur Mars ces dernières semaines, vous n’avez pas pu échapper à ChatGPT, l’outil d’intelligence artificielle qui répond à toutes vos questions : résumer un article, faire une synthèse sur la crise économique, écrire un poème, etc.

Comme pour toute nouvelle technologie, elle est présentée comme révolutionnaire par certains et futile, inutile, voire dangereuse par d’autres. S’il faudra du temps pour que la lumière se fasse, on peut néanmoins éviter quelques écueils, et surtout des positions tranchées, en s’appuyant sur l’histoire de l’innovation qui offre au moins sept leçons pour une approche plus nuancée du débat.

 

L’histoire de l’innovation est compliquée

Elle est parsemée de technologies promises à un grand avenir mais qui n’ont rien donné. D’autres ont mis des années avant de réussir : la première automobile naît en 1765 mais il faut attendre la fin des années 1880 pour qu’on puisse en acheter. D’autres, enfin, sont nées dans l’indifférence, totalement sous-estimées à leurs débuts. Le premier vol des frères Wright en 1903, un événement historique, a fait trois lignes dans le journal local et il a fallu très longtemps pour voir l’aviation comme autre chose qu’un caprice de riches. Les plus grands esprits se sont trompés dans leur estimation du potentiel et de l’impact d’une nouvelle technologie et l’auteur de ces lignes n’a pas l’intention d’ajouter son nom à cette liste.

Voici toutefois sept leçons historiques pour mieux réfléchir au potentiel de ChatGPT.

1) La réussite d’une nouvelle technologie résulte rarement de ses seules performances techniques

La diffusion est en effet un processus social : le corps social accepte la technologie mais son utilisation conduit généralement à une modification. C’est donc un processus complexe. Une très bonne technologie peut donc être rejetée en raison de critères sociaux liés aux modèles mentaux dominants. Par exemple, les OGM sont rejetés en France parce qu’il existe un modèle mental « OGM = danger » qui s’est opposé avec succès au modèle « OGM= excellente solution ».

Les conséquences économiques, sociales et politiques d’une nouvelle technologie sont donc impossibles à prévoir. Ce qu’il advient d’une technologie est le produit d’un processus à la fois technique (son invention et son amélioration) et social (son adoption, son rejet, son adaptation pour des usages parfois inattendus). Quand on pense au potentiel de ChatGPT, on ne peut donc se limiter à une discussion sur ses performances techniques. On sait par exemple que certaines de ses réponses iront nécessairement à l’encontre des croyances de certains groupes, ce qui pourra entraîner des réactions hostiles. ChatGPT va donc être « modéré » (c’est-à-dire censuré) ce qui va entraîner d’autres réactions hostiles.

2) Comme tout outil toute technologie a ses limites

Ce n’est par sur celles-ci qu’il faut la juger. Aucune n’est universelle. Ainsi, les limites de ChatGPT ont très rapidement été pointées : manque de références, positions discutables, résultats parfois bizarres, manque de créativité, faiblesses dans certaines tâches, etc.

Il est essentiel de comprendre ces limites pour déterminer où la technologie sera pertinente et où elle ne le sera pas. Pointer ces limites pour la rejeter en bloc est une erreur. Un logiciel de dessin ne peut pas vous transformer en artiste, ce n’est pas pour ça qu’il n’a pas d’utilité. Ce qu’il faut, ce n’est pas rejeter une technologie à cause de ses limites mais se focaliser sur son potentiel pour comprendre ce qu’elle nous permet de faire de nouveau.

3) On tend à juger une nouvelle technologie à l’aune de la technologie actuelle

Or, une nouvelle technologie introduit de nouveaux critères de performance et c’est sur eux qu’il faut la juger. Les imprimantes 3D n’offrent pas la qualité d’une fabrication traditionnelle en usine et elles sont donc comparées défavorablement à cette dernière. Mais ce n’est pas ce qu’elles essaient de faire. Dans les domaines où la qualité qu’elles offrent est suffisante, elles apportent une souplesse et une personnalisation très utiles. Elles sont donc pertinentes pour certains usages et pas pour d’autres.

Le fait que la performance d’une nouvelle technologie soit inférieure sur certains critères et supérieure sur d’autres à la technologie existante explique ainsi pourquoi elle remplace rarement complètement cette dernière. Nous continuons à utiliser des fours traditionnels en plus des fours à micro-ondes, des avions à hélice et pas seulement des avions à réaction, des agendas papier et pas seulement électroniques, etc. Parfois, elle va rester inférieure sur les critères historiques (un téléphone mobile peut être à court de batterie ou perdre le réseau au contraire d’un téléphone fixe) et parfois elle va finir par dépasser la technologie actuelle sur tous les critères comme ce fut le cas pour la photographie numérique à partir des années 2000, auquel cas le basculement devient total et l’ancienne technologie disparaît.

4) Une nouvelle technologie améliore ses performances au cours du temps

Pour l’évaluer, il faut donc regarder non pas où elle est à ses débuts mais où elle peut aller, ce qui est évidemment difficile voire impossible. Le service de traduction automatique en ligne Google translate a été lancé en 2006. Quelle magie de soumettre un texte qui revenait traduit en anglais en quelques secondes ! Bien sûr, celui-ci nécessitait un retravail important. Disons que Google translate faisait environ 50 % du travail mais le gain de temps était considérable. Puis la qualité s’est progressivement améliorée. En 2017 est apparu DeepL, qui a marqué un progrès notable. Un texte traduit ne nécessitait plus que quelques minutes de finition, on arrivait à environ 80 %. Aujourd’hui, la qualité est devenue remarquable. Il n’y a pratiquement plus besoin de retravailler le texte. Si on avait jugé la traduction automatique en 2006 à l’aune de la traduction humaine, on l’aurait définitivement rejeté.

 

Adoption et rejet de la nouvelle technologie

5) Une nouvelle technologie tend à être adoptée d’abord par des non-consommateurs

La qualité de la traduction automatique à partir de 2006 était très inférieure à celle d’un traducteur professionnel sauf que je n’avais ni le temps ni les moyens de m’en payer un sans compter qu’aucun d’entre eux ne travaillerait pour traduire trois paragraphes par-ci, par-là.

Malgré sa performance médiocre, la traduction automatique me rendait déjà un service immense. Pour moi, l’alternative c’était Google translate ou rien. Or, quelle que soit sa médiocrité, Google translate était mieux que rien ; sa performance était donc suffisante pour le non-consommateur que j’étais. C’est pour cela qu’une nouvelle technologie est adoptée par les non-consommateurs malgré sa performance limitée. Elle leur apporte quelque chose qu’ils ne pouvaient pas avoir avant.

6) Les utilisateurs de la technologie existante tendent à rejeter la nouvelle technologie

C’est le corollaire du point précédent. Cela est dû au fait que cette dernière n’est généralement pas assez performante pour eux. J’ai commencé à utiliser la téléphonie sur Internet à partir de 1998. La qualité était exécrable mais je pouvais appeler à l’étranger pour le prix d’une communication locale. Autrement dit, la performance de la téléphonie Internet était suffisante pour moi au regard de son coût. En revanche, pour une entreprise il était hors de question de l’utiliser, la performance étant insuffisante au regard de ses exigences. Pour elle, « ça ne marchait pas », ce qu’il faut entendre par « au regard de mes exigences, ses performances sont insuffisantes, donc je ne peux pas l’utiliser ». Fort logiquement, les entreprises ont initialement rejeté la téléphonie par Internet, qui a donc décollé par les usages individuels.

7) On tend à mettre en avant les inconvénients d’une nouvelle technologie plutôt que ses avantages

Parlez robots, on vous répond chômage. Parlez biotech et génétique, on vous répond Frankenstein. Parlez IA, on vous répond Skynet et domination des machines. Ce n’est pas nouveau. L’apparition de la photo a fait craindre la disparition des artistes et de la radio celle des musiciens.

On se focalise sur ce qui va disparaître ou risque de disparaître, sans imaginer ce qui peut naître : le livre imprimé de Gutenberg a fait disparaître les magnifiques manuscrits enluminés, véritables ouvrages d’art, privant les moines copistes d’une source de revenu, mais il a ouvert la lecture et l’écriture à tous. Avec les livres, un érudit n’avait plus besoin d’apprendre les textes par cœur ; il pouvait donc utiliser la capacité de son cerveau ainsi libérée pour des tâches bien plus créatives. Impossible de ne pas penser à un possible effet similaire pour ChatGPT, qui va nous libérer de certaines tâches pour nous permettre d’en effectuer d’autres.

 

Homo ludens

L’histoire de l’innovation est complexe et il est difficile, voire impossible, de prédire l’impact d’une technologie sur la société.

Son succès dépend souvent de facteurs sociaux et de modèles mentaux sociétaux et son potentiel ne doit pas être jugé uniquement sur ses limites ou ses performances techniques. Son succès dépend de ce qu’on en fera et donc d’une danse étrange entre ses promoteurs et ses utilisateurs.

Et donc, si vous voulez vous forger une idée sur chatGPT, commencez à l’utiliser pour en découvrir les forces et les faiblesses. Tirez parti des premières et soyez indulgents pour les secondes ; regardez-le évoluer comme pour la traduction automatique. En bref, ignorez les professeurs de morale et les experts trop sûrs d’eux-mêmes et jouez avec. Amusez-vous bien !

Sur le web

Voir le commentaire (1)

Laisser un commentaire

Créer un compte Tous les commentaires (1)
  • Ca n’est quand même pas très élégant d’appeler son chat GPT !
    Sérieusement, autant il est commode et utile d’avoir des béquilles pour ses capacités intellectuelles, autant la tendance à laisser les béquilles marcher toutes seules est néfaste. Les traductions, en particulier, perdent une grande partie de leur intérêt quand les subtilités de la différence entre un passé et un conditionnel ou autres sont perdues. La « traduction Contrepoints » ne serait-elle pas un chat ?

  • Les commentaires sont fermés.

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Le robot conversationnel ChatGPT, un moteur de recherche « intelligent », représente une rupture majeure. On aurait pu s’attendre à ce que ce soit Google, le leader des moteurs de recherche depuis vingt ans, et qui depuis des années investit dans l’intelligence artificielle, qui en soit à l’origine, mais il n’en a rien été.

Google est-il la nouvelle victime du dilemme de l’innovateur, un syndrome souvent observé qui voit un leader se faire dépasser par un nouvel entrant ?

Interpellé par des employés qui l’in... Poursuivre la lecture

Tokyo
0
Sauvegarder cet article

Un article de Human Progress

 

Notre trentième Centre du progrès est Tokyo, qui, après avoir été presque détruite pendant la Seconde Guerre mondiale, a été rapidement reconstruite et s'est réinventée en tant que leader mondial de l'industrie et de la technologie.

Aujourd'hui, Tokyo est le centre économique du pays et le siège du gouvernement japonais. La ville est réputée sûre et prospère. Elle est réputée pour son glamour et son cosmopolitisme. La région du Grand Tokyo est actuellement la zone métropolitaine la plus... Poursuivre la lecture

Que fait un riche quand il s’ennuie ?

Il se lance dans un projet d’innovation. Conquérir Mars, traverser l’Atlantique, prolonger la vie humaine, inventer une intelligence artificielle fondamentale, créer un robot, etc. Expression de l’ego de leurs promoteurs, ces projets sont souvent jugés inutiles et qualifiés de lubies, c’est-à-dire d’envie capricieuse et déraisonnable.

Mais est-ce si sûr ? Et si les lubies d’aujourd’hui étaient les innovations utiles de demain ? Et s’il fallait se garder de porter un jugement moral à la fois ... Poursuivre la lecture

Voir plus d'articles