On l’annonce comme une révolution supérieure à Internet. En effet, Chat GPT, créé grâce à l’intelligence artificielle, est devenu le sujet numéro un à la mode des publications scientifiques.
Comme toute « révolution » dans le domaine économique, Chat GPT est autant adulé par les inconditionnels que décrié par des apôtres de l’apocalypse, comme ce fût le cas par le passé avec l’invention de la machine à vapeur, ou l’arrivée de l’électricité, etc.
Certes, dans les révolutions technologiques et industrielles, il y a toujours une part de positif et une autre, pas toujours anticipée, de négatif, voire d’inquiétant.
En l’état actuel de nos connaissances, faisons en donc l’inventaire.
Les avantages de Chat GPT
Ce qui apparaît en premier, c’est le gain de productivité important que l’on peut en attendre dans de nombreux domaines, telle la production industrielle, la gestion administrative, mais également une fiabilité accrue des diagnostics.
En ce qui concerne notre pays, à condition de ne pas déclencher des mouvements de grève parfois violents tels qu’actuellement, Chat GPT pourrait enfin permettre une réduction significative du nombre de fonctionnaires, principalement à l’origine de la dérive des finances publiques qui, sans cela, nous mènera à une faillite programmée.
L’IA a déjà fait faire des progrès considérables dans le diagnostic des maladies, principalement avec l’interprétation beaucoup plus rapide et fiable des examens radiologiques et IRM.
D’autres avantages vont apparaître dans les prochains mois, car les domaines d’utilisations de cette technologie sont sans limites, d’autant plus que sont annoncés très rapidement des systèmes encore plus fiables, plus rapides et plus précis.
Les inconvénients de Chat GPT
Comme toute nouvelle technologie, et c’est actuellement le cas avec le nucléaire qui permet une production d’énergie bon marché et non émettrice de CO2, mais également la fabrication de bombes nucléaires qui ne sont pas sans risque pour la survie de notre planète, Chat GPT aura également ses inconvénients.
En premier lieu l’affaiblissement ou même la disparition de certains métiers. Mais c’est souvent un faux problème, car d’autres apparaîtront qui compenseront les destructions d’emplois, voire permettront d’en créer encore plus.
Cela a été vérifié maintes fois et moi-même, je peux en témoigner, ayant été le premier en France à acquérir un banc de perçage à commande numérique qui m’a fait économiser dix postes à la production. Nous sommes passés de 15 salariés en 1992 à une quarantaine aujourd’hui, et je peux affirmer que si je n’avais pas investi dans cette machine, mon entreprise n’aurait pas passé le cap des années 2000.
Le second risque est l’anonymat des sources d’informations qui engendrera la prolifération de fake news manuscrites, mais surtout, comme on peut le constater maintenant, par vidéos manipulées.
Les risques à terme
Hormis ces inconvénients, il y a un risque majeur qui, jusqu’à présent, n’a pas été soulevé.
En effet, le principe même de Chat GPT est de faire la synthèse de tous les documents qu’il a pu récupérer parmi les articles, revues, études et diffusions d’experts dans tous les domaines, ce qui représente des centaines de milliards d’informations.
Un journaliste ou tout autre individu qui voudra présenter un nouvel article ou document dans un « standard politiquement correct » sera tenté de faire appel à Chat GPT qui, avec la rapidité de son évolution, lui proposera un texte parfait dans la forme, un peu moins peut-être dans le fond.
En se projetant dans un avenir plus ou moins proche, Chat GPT va inclure dans ses mémoires les propres textes qu’il a proposés et qui se retrouveront donc dans sa nouvelle base de données.
Vu l’engouement constaté, il est évident que celles-ci risquent de devenir de plus en plus majoritaires dans leur base. Nous nous dirigerions alors vers une « pensée unique » qui exclura une grande partie des tendances d’avenir : à l’inverse de la « destruction créatrice » chère à Schumpeter, et qui a permis l’évolution constante de notre société.
Conclusion
Dans la recherche d’une réglementation de cette nouvelle technologie que de nombreux pays souhaitent mettre en place, il y en a une qui doit être prioritaire et faire consensus, c’est l’obligation de préciser en tête de chaque document créé ou ayant fait appel à une intelligence artificielle une information claire telle : « Document réalisé (totalement ou partiellement) par Chat GPT (ou tout autre AI) ».
L’algorithme utilisé par ces générateurs de texte ou de vidéo devant obligatoirement écarter ces documents de leurs futures données.
Nous garantirons alors la primauté du fond sur la forme.
je vais le répéter mais le danger est la croyance..
si vous ne pouvez pas verifier…il faut croire..
or on ne peut pas sanctionner un logiciel..
Réduire le nombre de fonctionnaires ? ChatGPT va permettre à chaque fonctionnaire de créer dix fois plus de contraintes administratives absurdes tout en (télé-)travaillant deux fois moins. C’était déjà le résultat obtenu avec l’informatique. Où avez-vous vu que ça conduirait à réduire le nombre de fonctionnaires ?
ChapGPT n’est qu’un outil. Ce n’est pas l’outil qui décide de changer l’organisation ou les méthodes de production. Pour réduire le nombre de fonctionnaires il faut avant tout une volonté politique.
Cet article est touchant de naïveté…
Le risque (majeur) d’auto-référencement par ChatGPT (mais surtout d’autres robots conversationnels comme Bard, plus directement lié à la recherche en ligne) a déjà été largement soulevé, à commencer par Gaspard Koenig. C’est en effet un problème.
Mais le pire problème de ces technologies c’est qu’elles utilisent l’apprentissage statistique Bayésien en grande part et donc mettent peu de temps à apprendre des bêtises, et beaauuuuuuucoup de temps à se corriger (comme les humains, donc, mais en bien pire). Et aussi elles “maximisent la vraisemblance” des réponses en continu, donc font parfois un “mélange de deux trucs à peu près vrais”, sauf que deux demi vérités font, en vrai, le plus souvent une grosse erreur.