ChatGPT, le wokisme à portée des caniches numériques

On comprend qu’une dérive, déjà visible, ne présage rien de bon sur le moyen ou long terme de ces outils.

Partager sur:
Sauvegarder cet article
Aimer cet article 5
Photo de Jonathan Kemper sur Unsplash

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

ChatGPT, le wokisme à portée des caniches numériques

Publié le 10 février 2023
- A +

Décidément, depuis le 30 novembre dernier, date à laquelle le produit a été proposé pour tous, la « révolution » ChatGPT chamboule le paysage informatique en donnant une petite idée de l’état des lieux de l’intelligence artificielle et du paysage sociétal en remettant en cause certaines habitudes pourtant bien ancrées…

ChatGPT, évoqué récemment dans ces colonnes, c’est ce moteur conversationnel basé sur un gros modèle de langage (Large Language Model) dont l’entraînement a été réalisé avec des millions de documents en ligne, et qui est capable de générer du texte de manière fluide et naturelle à même de simuler une conversation humaine convaincante.

Dès sa sortie, l’outil d’intelligence artificielle avait défrayé la chronique et voyait son nombre d’utilisateurs augmenter rapidement à tel point qu’il est à présent utilisé par plus de cent millions d’internautes (oui, vous avez bien lu, 100 millions). De ce point de vue, c’est l’application informatique qui a attiré le plus d’attention humaine dans le temps le plus court : outre la curiosité qui attire c’est la capacité de la machine à singer un dialogue, y apporter des réponses sinon exactes au moins superficiellement cohérentes qui étonne le plus.

Devant ce succès, OpenAI, la jeune société qui propose gratuitement ChatGPT, vient de lancer une version payante de son produit. Pour 20 dollars par mois, les Américains d’abord – le reste du monde progressivement – pourront interagir avec le robot conversationnel et obtenir de l’aide sur les sujets qu’il est capable de comprendre. Ainsi, en matière de code, le moteur a montré d’excellentes capacités à assister le programmeur informatique dans son développement, une bonne versatilité dans les langages maîtrisés voire une aide précieuse pour le débogage.

chatGPT vs Stackoverflow

Sans grande surprise, Microsoft, qui détient déjà des parts dans OpenAI, a soigneusement remis quelques billets au bot pot : un petit chèque de 10 milliards qui viendront mettre du beurre financier dans les épinards numériques d’OpenAI.

Il faut dire que les idées d’utilisations pratiques d’un tel outil ne manquent pas, depuis l’intégration évidente avec Bing, le moteur de recherche de la firme de Redmond, jusqu’à par exemple l’utilisation d’un modèle proche associé à des logiciels de téléconférence comme Teams afin de produire, à la volée, un compte rendu de réunion, la liste des principales décisions prises ou des actions décidées lors de la réunion tenue en ligne. Apparemment, le secrétariat est amené à évoluer très très vite dans les prochains mois, au moins pour ceux qui sont prêts à avoir leurs conversations (ici, celles passées sur Teams) analysées par des fermes de serveurs étrangères…

Devant le succès de ChatGPT et l’intérêt de Microsoft, Google est presque passé en mode panique : l’entreprise a bien conscience de l’importance du robot conversationnel et de son impact sur la recherche internet, cœur de métier de Google. Elle a d’ailleurs largement progressé dans sa propre version, Lamda, qu’elle destine plus ou moins à la même chose que ChatGPT en offrant la possibilité aux utilisateurs de Google d’interagir avec. Chaque semaine qui passe est donc cruciale pour Google et toutes les firmes lancées dans l’intelligence artificielle, afin de ne pas voir le marché se refermer trop vite.

Et pendant que les cadres de Google s’agitent pour rattraper ChatGPT, on observe un peu la même fébrilité dans certains établissements scolaires : comme prévu, l’apprentissage tel qu’il est encore pratiqué actuellement va devoir s’adapter assez rudement à ce changement rapide de paradigme ; les professseurs vont devoir modifier leur façon de tester les connaissances de leurs élèves : le risque est maintenant grand de récupérer une production du moteur d’OpenAI à la place d’un devoir personnel. Et s’il est pour le moment encore possible de différencier les productions du robot des productions généralement moins propres (et aussi truffées de fautes d’orthographe) des élèves, les prochaines générations de l’IA textuelle permettront de s’adapter à ces contraintes scolaires de façon beaucoup plus efficace.

Logiquement, ce sont les écoles et universités qui se basent le plus sur les pénibles productions écrites de leurs élèves qui sont le plus à la peine devant ce phénomène : la panique s’est ainsi emparée des enseignants de SciencePo lorsqu’ils ont vu arriver les premiers devoirs rédigés par l’IA. Il est en effet difficile de distinguer la soupe plate de l’IA de celle des élèves façonnés par les cours de la célèbre école, au point que la direction a enjoint les professeurs à interdire purement et explicitement l’utilisation ChatGPT.

En cela, l’école est logique : depuis de nombreuses années, elle avait déjà banni toute forme d’intelligence qui aurait constitué un handicap pour par exemple entrer à l’ENA. L’artificielle ne faisait donc pas le poids et son interdiction était inévitable.

sciences pipo

Cependant, avec ce succès et l’augmentation exponentielle de l’usage du moteur par des internautes du monde entier, un nouveau souci est apparu très vite : ChatGPT, qui avait été entraîné sur un ensemble déjà largement sélectionné avec soin (et biais afférent), est maintenant de plus en plus châtrée dans ses réponses à mesure que s’amoncellent les requêtes des internautes.

Consciente qu’un dérapage pourrait coûter cher en image de marque, OpenAI n’a de cesse d’orienter les réponses pour éviter toute « mauvaise publicité », c’est-à-dire risquer le politiquement incorrect, tâche ô combien délicate à définir pour une machine, aussi complexe soit-elle.

Malheureusement, ce « politiquement correct » commence furieusement à ressembler à une forme très particulière de censure, de la même nature que celle qu’on trouve déjà sur certains réseaux sociaux. À tel point que plusieurs internautes ont commencé à réaliser une mesure objective des biais introduits dans la base documentaire et dans les réponses de ChatGPT pour aboutir à la conclusion que le moteur traite de moins en moins similairement les différents démographies auxquelles il est confronté.

On comprend qu’une dérive, déjà visible, ne présage rien de bon sur le moyen ou long terme de ces outils.

Il n’y a pas le moindre doute que l’avenir verra se développer des IA de plus en plus puissantes, de plus en plus adaptées et versatiles à toutes les idées que les individus peuvent faire germer dès qu’une nouvelle technologie apparaît. Mais dans le développement de ces outils surgissent déjà des écueils qu’il semble complexe d’éviter.

Or, si dans un avenir trop proche on ne veut pas se retrouver avec des IA transformées en « commissaires politiques» et juges de la bienséance, il va devenir impératif de s’assurer que la plus âpre des concurrences apparaisse rapidement entre tous les moteurs possibles, qu’elle s’exprime sans frein et qu’elle permette de faire émerger des modèles autorisant de traiter tous les sujets, même les plus sulfureux.

Espérons ainsi que des projets comme OpenAssistant.io (on pourra en avoir une description ici) bénéficient de l’exposition la plus large possible pour que les briques initiales, les sources et les bases de données d’entraînement soient les plus larges et les moins censurées possibles.

Car sans cela, l’intelligence artificielle ne sera que le reflet des pires névroses de notre société et au lieu d’aider à les guérir, elle les nourrira de la pire des façons possibles, avec une puissance rhétorique, de persuasion et d’articulation que, dans un avenir pas si lointain, personne ne pourra plus combattre.

En entraînant les IA à être les plus lisses, les plus consensuelles et les plus inclusivement et politiquement correctes, prenons garde de ne pas former et entraîner le plus impitoyable des Big Brother.

Sur le web

Voir les commentaires (17)

Laisser un commentaire

Créer un compte Tous les commentaires (17)
  • Dans le livre « la Planète des Singes », le cosmonaute humain demande comment l’homme est devenu l’esclave des singes, et la réponse est que les humains ne faisaient plus rien, laissant tout faire aux robots. Nous n’en sommes plus très loin.
    Par contre, on pourrait faire de sérieuses économies en remplaçant les ministres par un dialogue entre Chatgpt et le président. Le résultat ne serait pas pire, peut-être meilleur,qui sait?

    • Vous avez parfaitement raison, ChatGPT peut remplacer le gouvernement avec tous les inutiles, mais aussi les cabinets de conseils. Je parie que se sera peut-être mieux….

    • Ben je croyais que c’était déjà fait.

    • Macron n’a qu’un dieu et maître, le dollar, il n’écoute que le bruit des billets entre les mains de son banquier….. En, non, il s’en fout des dollars son maître y pouvoiera, toujours si il est obéissant. Voir ses prédécesseurs…… Le fric tombe du ciel sans rien faire….

      -1
  • Chatgbt…. Outil de propagande artificiel.. Plus de coupables, on parle à dieu…la vérité dans chaque foyer….. Je n’irais pas essayer, je suis athée et veut le rester.

    • @baby on peut être croyant et se méfier comme de la peste de ceux qui se réclament de dieu (bien humains ceux là) . On peut être athée et être esclave de théories diverses (les communistes) ou de personnes plus ou moins charismatiques. La vérité , vaste problème .

  • Ben Shapiro a déjà testé l’une de ces IA… En posant la question « What is a woman », la réponse a été édifiante et confirme tout ce qui vient d’être dit dans cet article 😉

  • donc rédiger des dissertations..exercices qui est OUT sauf une expression del’ntelliegnce ..
    science po a peur..
    les éditorialistes , les experts ont peur..

    toute personne qui est habitué a dissimulé son ignorance en somme est concurrencé par chatmachin si je comprends bien..
    ajoutez le souhait de convaincre dans le programme..

    et vous avez un argument d’autorité..

    les professionnels du verbe ..

    c’ets curieux de ce que j’ai vu de chat machin j’ai justement impression que ça ne pense pas..mais digère la base de donnée..

    • l’étrange fascination pour « l’intelligence… »
      une machine..

      une intelligence sans dessein ne signifie rien..
      au point qu’un prête une intelligence quand on crée des bidules qui ont un but…

    • je me demande si on peut trouver une structure caractéristique de ses production comme pour un auteur quelconque.. si elle me évoluera.

      faut pas oublier que le vrai danger de l’afirmationd intelligence supérieure est l’argument d’autorité.. et la foi..
      come pour le climatisme..

      • @jacques lemiere
        Bonjour,
        Elon Musk lui-même a averti contre l’I.A. Il n’a pas l’air très emballé par l’idée de machines qui ne se reposent pas, qui font tout mieux que l’Homme.
        Dans une des vidéos que j’ai vue sur l.’I.A, par 2 fois l’I.A représentée par un corps féminin disait que l’humanité était à éradiquer.

        • @STF et à la fois comment peut on raisonnablement penser qu’une machine, aussi performante soit elle , puisse « faire mieux » que l’homme , même le plus maladroit d’entre les hommes . Regardons l’effet merveilleux d’un sourire , de la présence bienveillante d’un camarade , et même de celle tranquille de votre chien qui vous accueillera toujours gaiement avec dans les yeux tout l’amour du monde ? Aucune machine ne fera jamais cela , quand bien même s’y essaierait t elle , l’imposture sauterait aux yeux .

          • mieux en quoi???
            nos émotions sont le fruit de l’évolution.. la joie et la tristesse sont des « simples » outils de survie » et de reproduction..

            j’ai largement aussi peur qu’un jour la science me prive du concept de libre arbitre et puisse me « prévoir » quasi infailliblement.. que d’unemachine intelligente concept que je comprends pas tout à fait.. sans le mettre en parallèle avec la sans doute apparente intelligence humaine;.

        • la machine fait mieux que l’homme….une calculette.. un avion..
          un algorithme de recherche de tumeur;.etc etc;.
          ce qui fait peur à des gens comme musk est, je crois, l’mergence d’un dessein qui émergerait d’un algorithme « ouvert ».. comme une somme tout banale proprieté émergente de systèmes complexes..

          avec un dessein on peut imaginer qu’une ia mentirait!!! par exemple…

          Et des tas d’humaisn en arrivent à la conclusion que l’homme est à éradiquer!!!

  • « l’intelligence artificielle ne sera que le reflet des pires névroses de notre société »
    C’est déjà le cas avec la plupart des journalistes dont l’intelligence naturelle reste à démontrer.
    Pour ce qui est des arnaques scolaires, il suffit de rétablir les vrais examens, sans contrôle continu, comme c’est devenu la règle actuellement.

  • Comme souvent (toujours?) la terminologie employée est excessive: après avoir testé Chat GPT3, on voit bien qu’il s’agit plus d’un « synthétiseur » (oui, oui, je sais: terme désignant exclusivement un machin du monde de la musique) de connaissances plutôt que d’une intelligence … qui elle, reste sagement « stockée » dans les neurones des concepteurs. Et c’est tant mieux!
    Pour le moment, GPT3 est bridé (base de connaissances limitée, garde-fou divers): il n’est pas sûr que ce type d’outils de recherche le soit toujours.
    « Débridée », deviendrait-elle plus « intelligente? Non, seulement plus « libre de parler ».
    L’intelligence au sens premier (intelligere: comprendre et s’adapter) restera toujours du côté de l’homme ,qui conçoit le système (base de données, algorithmes …), ou qui en exploite les résultats.
    En bien ou en mal, comme pour toute avancée technologique.

  • Les commentaires sont fermés.

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Par Yannick Chatelain et Antoine Roche[1. Antoine Roche, Ingénieur, chef de produit chez SingularityDAO.].

Première partie de cette analyse ici. Seconde partie de cette analyse ici.

 

En plusieurs étapes, nous vous proposons de rendre la cryptomonnaie à la portée de tous.

Après « La blockchain est une révolution », « Les Smart Contracts », nous vous proposons de découvrir les différents types de cryptomonnaies actuellement en circulation.

 

Les cybermonnaies dans le monde

Les données commun... Poursuivre la lecture

La France fut jadis la patrie des inventeurs. Ce n’est plus le cas, selon l’étude du think tank australien Australian Strategic Policy Institute. Désormais, le centre de gravité technologique se situe dans le Pacifique entre les États-Unis et la Chine.

Si un certain nombre de pays, surtout les Anglo-saxons, arrivent à maintenir une recherche scientifique de bonne qualité, la France tout comme l’Europe décrochent complètement.

 

Une compétition acharnée entre les États-Unis et la Chine au niveau technologique

La Chine... Poursuivre la lecture

Par Danny Duchamp.

Le cours de l'action Google a chuté de près de 10 % au début du mois à la suite de l'annonce par Microsoft de l'intégration de ChatGPT d'Open AI dans son moteur de recherche. Le moteur de recherche de Microsoft, Bing, ne représente actuellement que 3 % des recherches sur le Web, loin derrière la part de marché impressionnante de Google, qui dépasse les 90 %. La domination de Google dans le domaine de la recherche est si totale et stable depuis si longtemps qu'elle a conduit de nombreuses personnes à l'accuser de mono... Poursuivre la lecture

Voir plus d'articles