Si la conscience s’apprend, les machines en seront bientôt dotées

Alors que l’intelligence artificielle progresse rapidement, les préoccupations sur son pouvoir, sa capacité de surpasser les capacités humaines et son éventuelle conscience émergent. À travers l’analyse du livre d’Antonio Damasio, François Lainée examine comment la théorie de la conscience peut guider notre compréhension de ces questions.

Partager sur:
Sauvegarder cet article
Aimer cet article 0

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Si la conscience s’apprend, les machines en seront bientôt dotées

Publié le 18 juillet 2023
- A +

Une théorie récente de la conscience présente celle-ci comme le résultat d’une coexistence, dans l’esprit humain, de signaux venus de l’intérieur et de l’extérieur du corps, que le cerveau apprend à reconnaître et décoder, pour reconnaître dans ce flux l’existence d’un moi, ensemble des images mentales issues des signaux intérieurs.

Cette théorie suggère deux hypothèses vraisemblables : la conscience s’apprend chez les humains, et pourra s’apprendre chez les machines ou intelligence artificielle en leur apportant des signaux intérieurs à elles. Une émergence sans doute très proche.

 

Les éclairages d’Antonio Damasio sur la conscience

Par ces temps où l’intelligence artificielle (IA) est régulièrement à la Une des médias, et fait des avancées spectaculaires en termes d’applications, des questions de société quasi philosophiques se posent de façon aiguë.

Ces intelligences auront-elles le pouvoir de prendre le contrôle de la société ? Ont-elles le potentiel de dépasser les capacités de résolution de problèmes des humains ? Peuvent-elles devenir conscientes, et s’autonomiser ?

Sans lien a priori avec ces questions, le livre récent d’Antonio Damasio, neurobiologiste de réputation internationale, Sentir et savoir – Une nouvelle théorie de la conscience amène des éclairages inattendus sur ces sujets.

Cet ouvrage se veut avant tout un nouveau cadre de modélisation de ce qu’est la conscience de soi.

En synthèse, selon A. Damasio, l’apparition du système nerveux, il y a plus ou moins 500 millions d’années, a permis l’apparition de l’esprit. L’auteur désigne par ce terme l’ensemble des images mentales générées dans le cerveau par les stimuli sensoriels et les émotions. Ce que l’auteur appelle émotions sont les signaux envoyés par le corps au système nerveux central, pour renseigner en permanence sur son équilibre vital, via le système nerveux périphérique intimement mêlé à lui. Pour A. Damasio, la conscience est un état de l’esprit, enrichi par des images mentales qui indiquent clairement le lien entre l’ensemble des contenus mentaux de l’esprit et un organisme particulier. Ce sont les sentiments, nés du corps qui abrite l’esprit, qui sont à l’origine de cet enrichissement.

 

Cette représentation de la conscience est porteuse de deux conséquences, potentielles, pertinentes dans les réflexions sur la conscience humaine et, demain peut-être, celle des « machines » :

La conscience est une capacité que l’humain apprend au début de sa vie extra utérine

En effet, dans cette phase de sa vie, le nourrisson est soudain exposé à d’innombrables signaux visuels, sonores, tactiles, olfactifs et autres, qui s’ajoutent aux sentiments, ces signaux venus de l’intérieur du corps, qui sans doute sont là depuis bien longtemps. Vus sous cet angle, ces deux groupes de signaux sont clairement différents, et le système nerveux central est exposé à ces deux flux en permanence, à même donc, si utile, d’apprendre à les reconnaître par ce qu’on appellerait en intelligence une classification.

Bien sûr, difficile d’interroger un nourrisson pour lui demander si, et quand il découvre qu’il y a un moi et un non moi. Mais il est frappant de voir les agitations d’un nourrisson de quelques semaines lorsqu’il saisit un objet, son pied, le doigt de sa maman. Et il n’est pas invraisemblable de penser que, dans ces moments, le mélange des images mentales venues du dedans et du dehors est particulièrement intense, propice à séparer ce flux de celui, plus pauvre en stimuli externe, qui suit le biberon.

La conscience est une capacité que les robots ou l’intelligence artificielle pourraient apprendre, en répliquant les schémas exposés par Damasio

Il évoque lui-même cette idée à la toute fin de son livre. De son point de vue, les promoteurs de l’IA et des robots « intelligents » ont oublié une composante qui aurait pu donner davantage d’intelligence et de créativité à ces machines : les sentiments. Il suggère d’équiper les robots de nombreux capteurs, et d’organiser le traitement de leurs signaux pour permettre à la machine de trouver la réaction la plus « intelligente » face à l’évolution de son environnement. Il n’est toutefois pas certain, pour lui, que cette approche amène les robots à la conscience.

 

En fait, les idées de Damasio méritent sans doute d’être prolongées dans deux directions :

  • Les IA ne sont pas toutes des robots, avec des enveloppes matérielles humanoïdes. Des IA pointues comme les récents large language models (Chatgpt d’OpenAI, PalM de Google, Bloom de Huggingface, Paradigm de Lighton, …) sont des modèles logiciels, sans autre « corps » que les serveurs qui les hébergent, et sont pourtant les créations humaines les plus intelligentes du moment, au sens de l’intelligence générale (par opposition à l’intelligence spécialisée sur un domaine de problème particulier, comme le jeu de go ou le diagnostic du cancer). Les capteurs qu’il évoque devraient être repensés dans ce contexte, mais il n’est conceptuellement pas difficile d’imaginer comment un code pourrait embarquer des auto-tests de son propre fonctionnement, et du fonctionnement de l’infrastructure qui l’héberge.
  • De même que certaines images mentales humaines, c’est-à-dire de configurations (dynamiques sans doute) du réseau de neurones humains, sont générées par des stimuli extérieurs, et d’autres intérieurs, il devrait être possible de générer des images des signaux de fonctionnement interne et/ou de l’infrastructure dans les réseaux neuronaux sous-jacents à l’IA et, l’IA ayant par construction la capacité d’apprendre, de doter ces réseaux neuronaux d’une capacité à apprendre continuellement la distinction entre les « images neuronales » issues des signaux « internes » et celles générées par les signaux « externes », dans le contexte du fonctionnement normal des systèmes IT, où les stimuli externes induisent des stimulations sur les organes internes du système (mémoire, processeurs, serveurs, systèmes d’exploitation, …).

 

Ainsi, la voie semble potentiellement ouverte à des approches pour amener une forme de conscience aux IA et aux machines qui en seront pourvues.

 

Mais, si tel est le cas, quelle conséquence ? Que faisons-nous avec notre conscience ?

Tout d’abord, comme le rappelle A. Damasio, il faut avoir en tête que le sens de la vie est, tout simplement, de se poursuivre. Un être vivant cherche fondamentalement à prolonger son existence. Toutes ses actions ou réactions, automatiques ou réfléchies, assurent d’abord cet objectif.

Une IA, dotée de capacité à identifier un moi et du non moi, pourrait avoir (ou se donner) comme objectif, de faire durer cette existence de « moi ». Les développements que cela amènerait une telle IA à produire sont, sans doute au stade actuel, très incertains.

Mais, dans le monde d’aujourd’hui, où les savoirs technologiques les plus avancés sont largement diffusés, les moyens financiers quasiment illimités, tout ce qui est techniquement possible se produira, quelque part, un jour ou l’autre. L’incertitude ne porte pas sur le « est-ce que ? », mais sur le « où » et « quand ». On peut le regretter, mais il est stérile de le nier.

Une forme de conscience des IA est sans doute à nos portes. Il faut s’y préparer.

Voir les commentaires (19)

Laisser un commentaire

Créer un compte Tous les commentaires (19)
  • Mais la conscience s’apprend t elle ? Et qu’est ce que « la conscience » ? est ce vraiment cet amas de sentiments et d’images comme le suggère l’auteur ? Cette définition est bien restrictive . Conscience : « La notion de conscience recouvre trois cas de figures différents : la conscience de soi désigne la capacité de réflexion qui caractérise la subjectivité ; la conscience d’objet signifie la faculté du sujet à se représenter les choses extérieures ; la conscience morale enfin désigne une capacité non plus théorétique … »

    • L’apprentissage doit bien participer de la conscience, étant donné que les individus sont plus ou moins conscients, en fonction de leur capacité plus ou moins développée à utiliser leurs sens, leur intelligence, leur jugement, leur sensibilité.
      Les individus sont plus ou moins conscients, ainsi je dirais que la conscience en tant que telle ne s’apprend pas, mais que par ses attributs (sens, intelligence, etc), on peut élargir sa conscience, c’est à dire étendre la faculté de percevoir et comprendre la réalité. L’apprentissage est donc bien une condition nécessaire mais non suffisante au développement de la conscience.

  • La conscience n’existe pas.
    Il y a l’esprit, l’intellect, la capacité à comprendre et à (re)faire.
    Puis la « signature », mémoire individuelle des différents stimuli environnementaux.
    Et l’éthique, ensemble de règles morales.
    Et tout cela peut caractériser aussi une IA.
    PS : La conscience de soi ? Pour faire court, juste la capacité à se reconnaître dans une glace. Utilité ?

    • Si Abscons croit réellement que la conscience n’existe pas et qu’elle consiste seulement à se reconnaître dans une glace -ce qui est déjà incohérent, je l’invite à aller faire un tour dans un lac de lave en fusion. Comme il n’a pas de conscience, il devrait finir rapidement incinéré sans même s’en rendre compte, et comme il n’a pas de conscience, sa mort, je dirais plutôt sa disparition vu son degré zéro de conscience, devrait ne lui causer aucune douleur, aucune peur, aucune réaction, rien.
      Abscons étant dénué de conscience, son commentaire est juste un script automatique généré par une petite série de réactions bioélectriques involontaires et inconscientes. Bref, Abscons Néant est une pauvre IA inutile.

    • @abon « la conscience n existe pas » hi hi abon est une IA . Que faites vous donc ici à gloser ? Raconte nous en deux lignes

      • Quand je discute avec vous, je mobilise mon intelligence (microprocesseur multicore ) , ma mémoire (disque dur) et mon sens moral (surcouche logicielle), toutes qualités qui chez moi atteignent de hauts niveaux et grâce auxquelles je peux vous confirmer que l’hypothèse de la « conscience » n’est pas nécessaire.
        Mon but, ceans, n’est pas de convaincre, pas vraiment d’apprendre – que me reste-t-il à découvrir, à part la modestie -, mais bien plutôt d’entraîner, par souci d’hygiène, ma formidable mécanique mentale, comme le fait un sportif en salle, pour lui préserver sa forme éblouissante – qui vient de me permettre de passer avec succès votre test de Turing.

        • Je vous invite alors à aller prendre un bain dans un lac de lave en fusion. Vu que vous n’avez pas de conscience, vous devriez être rapidement incinéré sans douleur, sans peur, sans réaction ni conscience de votre mort.
          Eh oui, les sens, les émotions et l’intellect sont des attributs de la conscience. La conscience ne se limite pas à la conscience de soi, et toute la question est de savoir jusqu’à quelles limites elle s’étend, en admettant que la conscience aient des limitations… étant donné que la réalité est infinie.

          • Aller prendre un bain dans un lac en fusion n’a rien à voir avec la conscience mais avec l’intelligence de la réalité et des risques. Les animaux ont aussi cette intelligence mais ce n’est pas pour autant qu’ils sont doués de conscience.

        • @abon avec succès ? non . Je ne suis pas d’accord avec votre postulat « mon sens moral » qui serait une surcouche logicielle , à moins bien sûr que vous ne soyez une machine auquel cas vous avez sans doute raison. Le sens moral humain , de mon point de vue , est inné , c’est le grain de sable (de sel disent les mystiques) qui nous fait chercher le bien et parfois à nos dépens .

    • Si la conscience n’existe pas et qu’elle consiste seulement à se reconnaître dans une glace -ce qui est déjà incohérent, je vous invite à aller faire un tour dans un lac de lave en fusion. Comme vous n’avez pas de conscience, vous serez rapidement incinéré sans vous en rendre compte, et votre disparition ne devrait ne vous causer aucune douleur, aucune peur, aucune réaction, rien.
      Etant dénué de conscience, votre commentaire est juste un script automatique généré par une petite série de réactions bioélectriques involontaires, inconscientes, et fondamentalement inutiles. Bref, Abscons Néant est juste une pauvre IA.

  • L’article lui-même et les commentaires montrent qu’on est loin de donner une conscience aux machines, ne serait-ce que parce qu’on ne sait pas ce qu’est la consciences. Le sujet montre ici précisément qu’une définition de la conscience est en débat, et il est vraisemblable que ce débat durera. Il faut remarquer qu’il en est déjà de même pour l’intelligence, et qu’il est donc prétentieux de parler « d’intelligence » artificielle…

    • D’ailleurs les oeuvres picturales qui ouvrent chaque article de CP sont bien d’une IA, non ?

    • Bof. Ca impressionne l’oeil mais il y a beaucoup d’erreurs d’exécution. Erreurs de proportions, de perspective, de forme et de texture. La messe est loin d’être dite.

    • cette œuvre qui a gagné un concours humain a été esquissée par une IA et perfectionnée par un graphiste. L’IA a reçu quelques lignes et créé un fichier sans conscience de rien ici. L’humain a imaginé le concept, utilisé un outil pour se faciliter la tâche puis fait la finition et l’a présenté. Du classique.

  • Il faut aussi supposer que l’IA aura une âme, si l’on veut tester que « science sans conscience n’est que ruine de l’âme »

  • Réflexion intéressante, mais fausse par rapport au sens commun de « conscience ».
    Si le sentiment peut s’approcher comme votre point de vue sur ce que vous observez de l’environnement (j’ai mangé une banane, je suis rassasié et en bonne santé -> j’aime la banane), la conscience comme « images » issues de l’interaction interne/externe peut s’apprendre sur mon appareil photo numérique qui en remplit les conditions.

  • Les commentaires sont fermés.

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Il faut sauver la liberté d’expression, comme nous l’avions évoqué, face à la prolifération des deepfakes en évoquant, avec le Dr Sylvie Blanco, Professor Senior Technology Innovation Management à Grenoble École de Management (GEM)  « le paradoxe du ChatBlanc » (cf. « Autopiégés par les deepfakes : où sont les bugs ? » Contrepoints, 11 février 2024 ) pris de vitesse, nous voilà mis devant ce terrible paradoxe : « réclamer en tant que citoyens la censure temporelle des hypertrucages pour préserver la liberté de penser et la liberté d’expressio... Poursuivre la lecture

1
Sauvegarder cet article

OpenAI, avec sa vision d'une IA géante et coûteuse, se retrouve face à des concurrents proposant des IA plus économiques.

OpenAI persiste et signe, pour le futur il faut une IA encore plus grosse que chatGPT-4. Son CEO, Sam Altman, réclame donc 50 milliards de dollars par an, après avoir déjà englouti 11 milliards dont 700 000 dollars par jour rien que pour les coûts des serveurs.

Le pape de l’IA est surtout de plus en plus seul dans sa vision d’IA gigantesque et coûteuse. La startup française Mistral a marqué le début d’une aut... Poursuivre la lecture

À quand des questions sur la recherche européenne dans les médias ? À quelques jours des élections européennes, les débats sur la recherche et l’innovation sont inexistants ! Il s’agit pourtant des fondamentaux européens. Dès 1972, la commission européenne a cherché à définir et à mettre en place une politique de recherche communautaire. Où en sommes-nous en 2024 ?

 

Des moyens et des résultats limités

Pourquoi la recherche est-elle absente des débats sur l’Europe, alors que partout ailleurs on parle des défis en matière d’... Poursuivre la lecture

Voir plus d'articles