La réalité rattrape parfois la fiction et c’est sûrement de plus en plus vrai ces dernières années. Avec l’évolution de certaines technologies comme le Métavers, la réalité virtuelle et bien évidemment l’Intelligence Artificielle (IA), on sent que le monde est en train de changer. Certains avancent plus vite que d’autres, comme la Chine, où un robot vient d’être nommé à la tête d’une multinationale.
Une IA va donc gérer NetDragon Websoft, une entreprise de jeux vidéo comptant plusieurs milliers de salariés. Cette IA se nomme Tang Yu. Il s’agit d’une femme robot humanoïde, qui peut apparaitre sur les écrans de ses employés, dans son costume cintré, pour leur donner des directives, les encourager ou les sanctionner. Un outil parfait pour le totalitarisme chinois ou un simple coup de com d’une entreprise ambitieuse sur le marché du jeu vidéo ? Peut-être un peu des deux…
Une main de pixels dans un gant de fer
Ce n’est plus de la science-fiction… Une intelligence artificielle va diriger des humains en devenant PDG d’une grosse entreprise chinoise. La nouvelle patronne a déjà fait ses preuves, puisqu’elle a d’abord été embauchée en tant que numéro 2 de NetDragon Websoft il y a quelques années déjà.
La compagnie voulait démontrer qu’une intelligence artificielle, un être totalement virtuel, pouvait fonctionner ailleurs que dans un jeu vidéo. Ils lui ont donné des responsabilités et l’expérience fût probablement positive puisque Tang Yu montait en grade le 28 septembre dernier pour prendre la tête de la société.
Les intelligences artificielles ne sont pas nouvelles, on en trouve notamment dans le domaine de l’art, avec des artistes comme FN Meka, un robot rappeur qui écrit ses textes et ses mélodies. Cependant, c’est la première fois qu’un avatar humanoïde prend la responsabilité de superviser le travail de milliers d’humains.
Ce dirigeant numérique possède sa propre apparence physique. Dans la vidéo de présentation, on découvre une femme, qui me fait penser aux présentatrices TV chinoises. Elle est souriante et semble plutôt agréable, même si elle ne laisse évidemment pas transparaitre beaucoup d’émotions…
Son intelligence artificielle lui permet de communiquer en formulant des phrases, mais elle peut surtout prendre des décisions, valider des projets, signer des contrats, contrôler son personnel et prendre des sanctions contre ceux qui ne font pas leur travail correctement.
NetDragon Websoft explique que le nouveau PDG humanoïde « rationalisera les process, améliorera la qualité des tâches de travail et la vitesse d’exécution ». C’est surtout un patron qui n’est jamais fatigué et qui va travailler 24 h sur 24, 7 jours sur 7, sans le moindre salaire et sans risque de burnout.
Rien de très nouveau en réalité
Il me semble que toute cette histoire ressemble bien plus à un coup marketing très efficace plutôt qu’à un véritable passage de flambeau d’un humain à un robot. NetDragon Websoft conçoit des jeux vidéo et c’est une façon de mettre en lumière la qualité de l’intelligence artificielle qu’on retrouve dans ses jeux.
Dans les faits, cette intelligence artificielle peut être reprogrammée, contrôlée et bridée. Il y a donc toujours un humain au-dessus qui peut modifier l’algorithme comme il l’entend.
Une intelligence artificielle qui contrôle et gère des humains, ce n’est pas si nouveau. Dans une entreprise comme Uber par exemple, des milliers de travailleurs sont gérés par une IA. Elle est automatisée pour distribuer les tâches, sélectionner les travailleurs, organiser leur travail, verser les salaires, écouter les avis des clients et sanctionner les mauvais élèves. Il ne lui manque rien de plus qu’un logiciel pour pouvoir s’exprimer et un avatar numérique humanoïde qui le rendrait, comme Tang Yu, plus « humain ».
La seule nouveauté chez NetDragon Websoft, c’est finalement de donner le titre de PDG à cette IA et lui permettre de communiquer directement avec les employés, comme le ferait un véritable patron.
Peut-on craindre une dérive totalitaire ?
L’info arrive de Chine, alors on peut assez naturellement s’imaginer que le totalitarisme du gouvernement chinois puisse s’inspirer du travail de NetDragon Websoft pour créer des ministres humanoïdes, des généraux virtuels ou peut-être à terme un robot président. Ils pourraient alors imposer leur idéologie de la manière la plus efficace possible sans jamais commettre la moindre erreur…
J’ai tendance à croire que les hommes aiment trop le pouvoir pour le confier complètement à une machine. Ils n’auraient rien à y gagner, surtout si l’IA est capable d’évoluer et de remettre en question leurs fonctionnements de pensée. En revanche, ils pourraient utiliser certains outils pour améliorer la surveillance des citoyens et gérer plus efficacement le fameux crédit social chinois.
C’est ce qu’ils commencent déjà à faire, avec la reconnaissance faciale gérée par une IA qui devrait être capable dans le futur d’analyser les faits et gestes des citoyens pour leur donner des notes. L’IA reste alors au service de quelques hommes, elle ne prend pas le pouvoir et les dérives totalitaires viennent donc de ceux qui utilisent ces outils.
En réalité, peut-être qu’une IA capable de comprendre les enjeux écologiques et sociétaux, créer pour réfléchir au bien-être et au bonheur des humains, pourrait être beaucoup plus efficace que l’ensemble des gouvernements de ce monde.
Comme le scenario de certains films, on avance un peu plus vers un monde dans lequel il n’y aurait plus besoin de dirigeants, ni de partis de droite ou de gauche. L’intelligence artificielle, infiniment plus performante que les meilleurs cerveaux humains, serait capable de tout penser et tout anticiper, dans le but de créer la société idéale et ce sans être affecté par les émotions. Elle le ferait de manière totalitaire, sûrement, en décidant pour nous de ce qui est essentiel, de ce qui est utile ou bénéfique, mais aussi de ce dont il faudrait se passer ou de ce qui est dangereux pour l’humain et sa planète.
On retombe ici dans la science-fiction, utopique ou dystopique selon comment on imagine ce monde contrôlé par une machine. Nous n’en sommes clairement pas là. Pour l’instant les intelligences artificielles restent des outils programmés par des hommes, avec une évolution limitée et manipulable. Reste, comme toujours, à se méfier des raisons qui poussent les hommes à user de ces outils, en Chine comme ailleurs.
1°) Les intelligences artificielles sont et resteront « des outils programmés par des hommes, avec une évolution limitée et manipulable ».
2°) On peut les considérer aussi d’une manière positive comme une forme de contrat social, dont chacun devrait connaître au départ les règles de fonctionnement, et avoir ainsi une garantie de leur neutralité.
3°) Mais malgré cela, il est loin d’être sûr que les problèmes particuliers de relations entre individus soient réglés par ces moyens, les individus restent des individus.
J’attends avec scepticisme qu’une IA crée son entreprise et qu’elle prospère.
Faudrait déjà qu’on ose lui laisser sa chance. On pourrait être surpris.
Les commentaires sont fermés.