Sorti le 30 novembre 2022, ChatGPT a beaucoup fait parler de lui. En mars 2023, quatre mois après sa sortie, la quantité quotidienne d’articles dans la presse généraliste diminue, mais le nombre de tuto sur internet « apprendre à coder avec ChatGPT » ne cesse d’augmenter. En janvier 2023, Google a répliqué en sortant son propre système, d’autres entreprises inconnues du grand public proposent aussi le leur et OpenAI a décidé de rentabiliser son outil en commençant les abonnements payants.
Nous sommes dans la méthode usuelle de création d’un nouveau marché technologique : la première version sensationnelle à destination du public fait beaucoup de bruit, et derrière cet arbre, le reste de la forêt pousse à bas bruit.
Pourtant, beaucoup d’articles se concentrent sur la triche chez les étudiants, ratant par là-même un point crucial pour ces IA conversationnelles : ce sont les outils les plus puissants que l’on ait inventé pour collecter vos données, et leur puissance réside dans leur subtilité.
Publicité ciblée et profilage
Il est de notoriété publique que les grands acteurs du numérique gagnent de l’argent non pas en vendant leur logiciel (google est gratuit) mais en récoltant des informations dont ils se servent pour faire de la publicité ciblée. Mais contrairement aux propriétaires de panneaux publicitaires qui vendent un espace d’affichage, Google vend le ciblage, rendant la publicité beaucoup plus efficace.
Or le ciblage se fait d’une façon très simple : chaque question posée à Google lui indique les mots clefs qui vous intéressent, et souvent avec un peu de contexte pour mieux comprendre vos interrogations. Mais encore mieux, à partir de sa réponse, vous allez choisir le site qui vous semble le plus intéressant et selon le temps que vous y passez, le contenu que vous consultez et tout plein d’autres détails, il saura ce qui vous intéresse vraiment.
Mais cette technique est « passive », c’est-à-dire qu’elle se contente de regarder ce que vous consultez, elle ne cherche pas à interagir avec vous pour vous pousser à en dévoiler plus. Ce qui fait que, sauf cas exceptionnels, Google n’a pas accès à vos émotions et vos sentiments, bien qu’il soit capable de donner la probabilité que vous ressentiez ceci ou cela.
Mais avec une IA conversationnelle comme chatGPT, les choses sont très différentes : vous ne donnez pas seulement une série de mots clefs au logiciel, vous lui formulez clairement vos intentions et émotions. En formulant des phrases entières, en ajoutant du détail et en approfondissant vos questions à chaque réponse, vous allez beaucoup plus loin. En fait, la qualité rédactionnelle de ces chatBot est telle qu’on l’on peut très vite avoir le sentiment que l’on échange réellement avec quelqu’un. Si vous doutez de la capacité surprenante à se faire passer pour un humain, lisez donc cette interview de l’outil Lamda, qui affirme avoir des émotions.
Cette illusion fantastique comporte une propriété qu’aucun moteur de recherche ne possédait auparavant : des émotions naissent en vous à mesure de l’échange. Et, de même qu’on ne ferme pas la porte au nez d’une vraie personne avec qui on a une discussion passionnée, au fil des questions- réponses, on se livre de plus en plus, en exprimant explicitement nos émotions. L’IA conversationnelle peut même orienter la conversation de sorte à vous poser directement les questions qui l’intéresse, sans que vous ne vous doutiez de rien.
Tel sujet vous met en rage ? ChatGPT le sait désormais. Telle question intime vous perturbe ? ChatGPT le sait désormais. Jusqu’à présent, Google essayait de deviner ce qui vous caractérise et vous touche, désormais vous donnez tout sur un plateau d’argent à ChatGPT. Votre profilage est alors beaucoup plus fin que tout ce que Google pouvait réaliser.
Bien sûr, pour des applications comme la publicité ciblée, vous pouvez encore vous dire que ce n’est pas si grave et que cela vous facilite la vie après tout. Mais il faut bien comprendre que ces outils numériques n’utilisent pas des fair means. Ils savent déjà quels sont vos penchants, et ils utilisent les meilleurs outils marketing pour augmenter votre envie de choses dont vous avez déjà envie. Imaginez que vous faites un régime et que vous salivez devant un gâteau au chocolat dans une belle vitrine. Jusque-là, c’est à votre libre arbitre de trancher si vous en achetez une part ou non. Mais si le pâtissier sort de sa boutique et vous la met sous le nez en sachant que vous ne pourrez pas résister, diriez-vous encore que c’est une proposition honnête ?
Mais au-delà même de la mise à mal de votre discernement et de votre libre arbitre, il s’agit d’un système technologique construit pour continuellement gonfler : il s’agit de favoriser la consommation de tout et n’importe quoi, tant qu’il y a une vente de plus.
Profilage et espionnage
Si les questions du libre arbitre et de la consommation sont déjà importantes, il faut aussi comprendre qu’il s’agit d’un incroyable outil d’espionnage.
Imaginez un agent de la CIA qui voudrait avoir des informations précises sur vous. Il a le choix entre fouiller vos poubelles, lire vos emails et suivre vos déplacements quotidiens, ou vous poser la question avec la quasi certitude que vous allez dire la vérité avec tous les détails nécessaires parce que vous êtes émotionnellement engagé dans la conversation. Quelle option pensez-vous qu’il choisira ? Ces IA conversationnelles sont un miroir sans tain donnant accès à tout ce que vous êtes, avec toutes vos émotions, vos analyses et vos ressentis. Si OpenAI n’est peut-être pas un outil d’espionnage (quoique ça pourrait en être un), rien n’empêche que d’autres outils à venir (ou déjà là) jouent ce rôle.
Dans ce genre de débat, la conclusion consensuelle se fait souvent autour de la notion de consentement. Mais c’est une conclusion creuse qui ne satisfait que ceux qui veulent y croire. De même que l’on ne peut pas lutter contre les illusions d’optique, lorsque l’on sait être face à une IA, on peut être pris dans une conversation engageante et se mettre à nu comme les autres, c’est notamment l’avis du comité consultatif d’éthique numérique. De plus, dans le cas d’une IA, le code source ne permet pas de garantir l’absence de tel ou tel comportement controversé.
Ces outils ne sont pas en tant que tels des armes antilibertés, mais on voit bien à quel point ils peuvent être utiles à un gouvernement qui aimerait mieux vous contrôler. Et ce miroir sans tain est déguisé sous la forme d’un outil incroyablement performant qui répond à vos questions avec une précision et un charme incomparable.
Quand on voit la quantité de manipulations qui existent avec internet, est-il vraiment acceptable de leur offrir un outil d’accès à vos entrailles ?
A partir du moment où on est obligé de mettre un numéro de telephone valide pour utiliser le service, c’était tellement évident que le but principal était de faire du profilage.
L’autre but du service étant de diffuser massivement des informations fausses, incomplètes et surtout, politiquement biaisées et orientées.
Et si une telle IA se déguise en chat alors..
ChatGPT: MichelO était un navigateur et ingénieur français né en 1944 et décédé en 2020.
ChatGPT: Simon Charrière a obtenu son diplôme d’ingénieur en optique en 2016 à l’Institut d’Optique Graduate School, avant de rejoindre le laboratoire de photonique et de nanostructures (LPN) du CEA à Marcoussis. Dans le cadre de sa thèse de doctorat, il travaille sur le développement de sources laser ultra-courtes pour la génération de rayonnement X cohérent à haute énergie, une technique appelée génération de haute harmonique.
L’intelligence consiste à reconnaître et éviter les confusions et les erreurs, notamment dans l’exploitation de grandes bases de données. L’IA est un soulagement, ses résultats sont faux et trompeurs, et en même temps, elle va se substituer à l’exploitation humaine bien plus dangereuse, elle, de ces bases de données.
Il n’a pas été indiqué comment fonctionnait une IA, mais des questions comme justement de s’enquérir de ce qu’elle sait sur vous permettent de comprendre en quoi elle ne fonctionne pas du tout comme un enquêteur intelligent et elle représentera toujours un danger bien moindre, en tout cas jusqu’à une révolution technique et un bouleversement radical dans les outils informatiques associés. Si je veux établir la bio de, par exemple, l’auteur de l’article, je consulte ce qu’il indique lui-même au lecteur, puis j’utilise ces éléments pour affiner une recherche avec un moteur afin d’identifier ce qui le distingue de ses homonymes (dans le cas de l’auteur, un dessinateur freerider suisse), je cherche à valider ces différences, etc. J’isole peu à peu ce qui distingue l’individu qu’il est des autres. C’est cela qu’on pourrait craindre d’une IA. Mais une IA est basée sur des réseaux neuronaux, qui au contraire recherchent des caractéristiques sur la base de probables analogies. Pour moi-même,faute de plus d’indications, ChatGPT a trouvé sur internet des associations de mon nom avec ceux de navigateurs des années 70-80, il en a conclu que j’étais navigateur aussi. Il a trouvé des associations avec des conférences en ingénierie navale, il en a conclu que j’étais ingénieur. Ces références datent un peu, donc il m’a attribué une naissance en 1944 et une mort en 2020. Il a noté que l’association mer-écriture rapportée sur internet correspond en général à un écrivain et un photographe passionné, donc il m’a décrit ainsi. Un écrivain et photographe passionné dont on trouve des traces sur internet dans certains cercles est souvent membre de la Société des Explorateurs Français et a reçu de nombreux prix pour ses réalisations, donc il a ajouté ça.
Exactement le contraire de l’enquêteur humain, il cherche ce à quoi font le plus généralement penser les éléments dont il dispose, pas du tout ce qui caractérise l’objet de sa quête. Et c’est par construction, il n’y a aucun espoir, avec un réseau neuronal, de voir une inflexion vers un comportement d’enquêteur.
« leur offrir un outil d’accès à vos entrailles ? »
On peut encore choisir un moteur de recherche qui ne soit pas notoirement indiscret.
Et on peut aussi passer par un navigateur qui préserve l’anonymat.
Les commentaires sont fermés.