De ChatGPT à ChatCGT ! Les enjeux des bots politiques dernière génération

L’arrivée des agents conversationnels dans le domaine politique n’est pas non plus récente en France

Partager sur:
Sauvegarder cet article
Aimer cet article 0
Source https://unsplash.com/photos/2EJCSULRwC8

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

De ChatGPT à ChatCGT ! Les enjeux des bots politiques dernière génération

Publié le 29 janvier 2023
- A +

L’IA ne cesse de progresser et de s’immiscer dans nombre de nos usages au quotidien… et les tentations ici et là d’y avoir recours sont multiples (cf.reconnaissance faciale).

Vous connaissez peut-être ChatGPT développé par OpenAI ; ce Chatbot spécialisé dans le dialogue est conçu – selon ses développeurs – pour être utilisé dans des applications de chat en temps réel, comme un assistant virtuel ou comme un agent conversationnel

Pour vous donner une idée de la puissance incontestable de l’outil sa dernière prouesse : réussir – certes de justesse – un examen d’une faculté de droit américaine renommée :

« Christian Terwiesch, professeur de la prestigieuse université américaine de Wharton (dont le programme de MBA est classé n°1 mondial selon le Financial Times et n°1 aux États-Unis selon le classement 2023 U.S. News & World Report) a soumis le chatbot d’OpenAI à un examen de son cours de management des opérations qui fait partie du cursus MBA, parmi les plus réputés du monde »

Résultat : des notes de B- à B, soit de 10,5 à 12 sur 20 ! Soit dans une moyenne pour le moins honorable par rapport aux résultats usuellement obtenus par les étudiants.

C’est indéniablement spectaculaire !

Devant une telle prouesse – largement médiatisée – l’enthousiasme et l’émoi ont été grands dans le monde de l’Internet.

Dans cette effervescence pour contrecarrer le ChatGPT d’OpenAI la filiale d’alphabet, Deep Mind a conçu un Chatbot nommé SPARROW… Beaucoup d’agitation ! Révolutionnaire pour autant ?

Rien de moins certain : Yann LeCun (Meta) pionnier de l’IA a tenu à relativiser : « le public se méprend sur l’aspect innovant et unique du chatbot d’OpenAI. »

Face à un tel engouement il a tenu de s’en expliquer afin selon lui « de corriger la perception du public et des médias qui voient ChatGPT comme cette percée technologique incroyablement nouvelle, innovante et unique qui est bien en avance sur tout le monde » et de conclure de façon tranchante :  « ce n’est tout simplement pas le cas ! ».

Dont acte. Par ailleurs et par-delà des usages positifs qui peuvent se révéler utiles à nos sociétés, par exemple dans un usage visant à améliorer la relation client, il ne faudrait pas faire l’impasse sur un côté plus sombre et un usage potentiellement dévoyé de Chatbots voués à être de plus en plus performants, notamment dans les domaines comme la politique.

 

Les agents conversationnels : la politisation des Chatbots, quels enjeux ?

La situation actuelle des Chatbots étant posées, c’est en s’inspirant de ChatGPT que Vincent Flibustier, créateur du site parodique Nordpress a  développé – appuyé par son frère – un Chatbot nommé ChatCGT, une version marxiste de ChatGPT qui n’apprécie ni Emmanuel Macron, ni a fortiori sa politique.

Ce Chatbot est en mesure de répondre de façon naturellement orientée à toutes sortes de questions et apporter des réponses et du contenu « crédible » à ses utilisateurs. Un contenu qui pourra être rapidement essaimé sur le réseau par les plus convaincus… Il n’est pas ici question de juger de la pertinence ou non des réponses apportées par un Bot politique idéologiquement marqué. Cependant, s’il a un mérite indéniable, c’est de mettre à nouveau en lumière l’enjeu politique et les questionnements que soulèvent ces derniers : quels usages ? quels impacts réels ? quel encadrement juridique ?

 

Bots politiques : du positif, du négatif et bien peu d’encadrement juridique

Si « hier » encore la plupart des bots étaient capables de tenir une conversation basique à l’instar des premiers Chatbots comme ELIZA (1966) créée par Joseph Weizenbaum, du Massachusetts Institute of Technology (MIT), le temps a passé…

En s’appuyant sur le Natural Language Processing (NLP) – une technologie qui permet aux machines de comprendre le langage humain, concomitamment aux progrès du deep learning…  il va de soi qu’ils seront de plus en plus difficiles à détecter s’ils ne sont pas présentés à l’utilisateur comme tel.

L’arrivée des agents conversationnels dans le domaine politique n’est pas non plus récente en France. Par exemple nous pouvons citer le bot politique de Benoit Hamon, nommé Le « Botnoît » que le présidentiable avait utilisé lors de la campagne 2017 dans le but de présenter son programme, une utilisation donc plutôt positive, le seul risque pris étant alors pour le politique y ayant recours de se fier à un Chatbot insuffisamment « puissant » : le politique ne doit jamais omettre qu’un Chatbot n’est encore à ce jour pas infaillible et qu’il parle en son nom.

Nous pouvons raisonnablement supposer que lorsque l’ensemble des partis sont dotés – ou vont se doter de ce type d’outil – se posera alors la question d’une part de la finalité d’usage et d’autre part de son identification transparente, à savoir que l’usager soit informé qu’il a affaire à un bot politique.

Nous serions dans le meilleur des cybermondes, avec un usage raisonné lors de grandes échéances, un cybermonde ou les Chatbots politiques seraient identifiables, porteurs de réponses certes partisanes, mais fiables et centrées sur leur projet politique… tout serait alors pour le mieux dans le meilleur des cybermondes…

Malheureusement il ne faut pas être candide, un bot politique peut se mettre au service du bien tout comme au service du mal ! Dès lors, si les choses ne sont pas très cadrées par le législateur, lors de campagnes futures nos démocraties peuvent redouter la démultiplication de bots politiques «dissimulés» dédiés à une augmentation substantielle de la désinformation, avec pour objectif, par exemple, de nuire à un adversaire. Si ces bots sont utilisés de façon dévoyée, ces avancées en IA représentent un grave danger pour un scrutin démocratique sain et éclairé. Ils sont tout à fait opérants pour manipuler l’opinion publique (Astroturfing).

 

Pour conclure…

La Loi contre la manipulation de l’information votée en 2018 est supposée garantir une exemplarité des pratiques de nos hommes et femmes politiques.

L’usage malfaisant des bots politiques est donc intégré, mais dans les faits, quelles sanctions ? Certes le citoyen peut dormir tranquille, le texte lui permet notamment de « saisir un juge qui, en quarante-huit heures, statuera sur la nécessité de faire cesser la diffusion d’une fausse nouvelle de nature à altérer la sincérité d’un scrutin. »…

La belle affaire ! C’est une véritable problématique dans la mesure où quand bien même sanction il y aurait, elle ne tomberait jamais qu’après le scrutin. Le risque pris d’un usage dévoyé est donc en l’état minime pour ne pas dire totalement illusoire. Nous ne pouvons donc qu’espérer des hommes et des femmes de biens. S’ils existent encore, il serait judicieux que leurs community managers et toutes personnes se sentant concernées prennent connaissance des conseils de la CNIL pour respecter les droits des personnes.

« Tout le monde manipule tout le monde et c’est ce qui rend la politique dangereuse et passionnante à la fois. » Bruno Kreisky

 

Voir les commentaires (3)

Laisser un commentaire

Créer un compte Tous les commentaires (3)
  • « si les choses ne sont pas très cadrées par le législateur »
    Personnellement je suis contre une réponse législative à un problème. Restons à un code pénal basique, d’ailleurs les délits d’opinions, diffamations ou les insultes ne devraient pas relever de la justice.

  • Voir le problème chez celui qui parle ou qui écrit conduit aux pires autoritarismes. Le seul problème à régler est dans la comprenette et le sens critique de celui qui écoute ou qui lit.

    • oui!!!!
      ce qui commence par soi même..
      c’est aussi connaitre ses limitations.. et de s’en fixer..
      je ne peux pas toujours comprendre autrui…même si je comprends le sens des mots qui sortent de sa bouche;.
      imaginez donc qu’un jour qu’un programmeur laisse le loisir de tromper voire de mentir pour paraitre plus humain.. il n’échappe à personne que le discours politique est rhétorique..
      alors on voit bien l’idée de ne pas fixer de BUT à une machine..mais de laisser émerger..un truc.. d’un système complexe…

      nous sommes émotifs…vous comprenez ma douleur? vraiment? vous comprenez le plaisir que j’ai à fumer ? à conduire vite? l’attraction qu’j’éprouvre pour cette autre personne? vous pouvez quantifier cela? vous allez doser des hormones ? ou quoi?
      Nous ne pouvons pas avoir d’approche purement rationnelle d’un autre être humain.. On peut se demander si c’est souhaitable..

      La Loi contre la manipulation de l’information votée en 2018 est supposée garantir une exemplarité des pratiques de nos hommes et femmes politiques.

      moi pas comprendre…. moi pas comprendre le concept de non manipulation d’information.. je pose que c’est la norme pour le politique.. ou les média..
      la science ou la justice par contre..

  • Les commentaires sont fermés.

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Omniprésents dans les campagnes électorales, les sondages font l’objet de nombreux fantasmes et incompréhensions. Manipulation de l’opinion, destruction de la politique, outil indispensable, beaucoup les critiquent tout en en faisant usage. Analyse et décryptage de Frédéric Micheau.

Directeur général adjoint d'OpinionWay et enseignant à Sciences Po, Frédéric Micheau est spécialiste des études d'opinion. Il est l'auteur, au Cerf, de La Prophétie électorale (2018), Le Sacre de l’opinion (2022) et Le gouffre démocratique : les gouvernants... Poursuivre la lecture

Walter Lippmann fut un journaliste américain à la fois engagé dans les affaires internationales et dans les débats d'idées. Il mit en avant l'impossibilité d'une authentique démocratie dans une société contemporaine dans ses livres Public Opinion et The Phantom Public.

Si il fut un observateur lucide de la politique nationale comme des affaires mondiales, il fut aussi le promoteur réfléchi de solutions aux problèmes de régime. Il a ainsi été l'initiateur d'un libéralisme humaniste qu'il a promu dans son livre The Good Society. La prof... Poursuivre la lecture

Le lundi 4 septembre 2023, au retour de mes vacances aux États-Unis, et après avoir agencé tant bien que mal un petit site wix (mes capacités en design et donc, par conséquent, en création de sites grand public, ont toujours été très limitées…) pour l’accueillir, je décidai de porter sur les fonts baptismaux une intelligence artificielle générative, dédiée à des sujets d’économie et de politiques économiques, fondée en toute immodestie sur toutes mes analyses économiques (sept ans au total, d’articles, rapports, notes, livres, passages TV, vi... Poursuivre la lecture

Voir plus d'articles