Si la conscience s’apprend, les machines en seront bientôt dotées

Alors que l’intelligence artificielle progresse rapidement, les préoccupations sur son pouvoir, sa capacité de surpasser les capacités humaines et son éventuelle conscience émergent. À travers l’analyse du livre d’Antonio Damasio, François Lainée examine comment la théorie de la conscience peut guider notre compréhension de ces questions.

Partager sur:
Sauvegarder cet article
Aimer cet article 0

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Si la conscience s’apprend, les machines en seront bientôt dotées

Publié le 18 juillet 2023
- A +

Une théorie récente de la conscience présente celle-ci comme le résultat d’une coexistence, dans l’esprit humain, de signaux venus de l’intérieur et de l’extérieur du corps, que le cerveau apprend à reconnaître et décoder, pour reconnaître dans ce flux l’existence d’un moi, ensemble des images mentales issues des signaux intérieurs.

Cette théorie suggère deux hypothèses vraisemblables : la conscience s’apprend chez les humains, et pourra s’apprendre chez les machines ou intelligence artificielle en leur apportant des signaux intérieurs à elles. Une émergence sans doute très proche.

 

Les éclairages d’Antonio Damasio sur la conscience

Par ces temps où l’intelligence artificielle (IA) est régulièrement à la Une des médias, et fait des avancées spectaculaires en termes d’applications, des questions de société quasi philosophiques se posent de façon aiguë.

Ces intelligences auront-elles le pouvoir de prendre le contrôle de la société ? Ont-elles le potentiel de dépasser les capacités de résolution de problèmes des humains ? Peuvent-elles devenir conscientes, et s’autonomiser ?

Sans lien a priori avec ces questions, le livre récent d’Antonio Damasio, neurobiologiste de réputation internationale, Sentir et savoir – Une nouvelle théorie de la conscience amène des éclairages inattendus sur ces sujets.

Cet ouvrage se veut avant tout un nouveau cadre de modélisation de ce qu’est la conscience de soi.

En synthèse, selon A. Damasio, l’apparition du système nerveux, il y a plus ou moins 500 millions d’années, a permis l’apparition de l’esprit. L’auteur désigne par ce terme l’ensemble des images mentales générées dans le cerveau par les stimuli sensoriels et les émotions. Ce que l’auteur appelle émotions sont les signaux envoyés par le corps au système nerveux central, pour renseigner en permanence sur son équilibre vital, via le système nerveux périphérique intimement mêlé à lui. Pour A. Damasio, la conscience est un état de l’esprit, enrichi par des images mentales qui indiquent clairement le lien entre l’ensemble des contenus mentaux de l’esprit et un organisme particulier. Ce sont les sentiments, nés du corps qui abrite l’esprit, qui sont à l’origine de cet enrichissement.

 

Cette représentation de la conscience est porteuse de deux conséquences, potentielles, pertinentes dans les réflexions sur la conscience humaine et, demain peut-être, celle des « machines » :

La conscience est une capacité que l’humain apprend au début de sa vie extra utérine

En effet, dans cette phase de sa vie, le nourrisson est soudain exposé à d’innombrables signaux visuels, sonores, tactiles, olfactifs et autres, qui s’ajoutent aux sentiments, ces signaux venus de l’intérieur du corps, qui sans doute sont là depuis bien longtemps. Vus sous cet angle, ces deux groupes de signaux sont clairement différents, et le système nerveux central est exposé à ces deux flux en permanence, à même donc, si utile, d’apprendre à les reconnaître par ce qu’on appellerait en intelligence une classification.

Bien sûr, difficile d’interroger un nourrisson pour lui demander si, et quand il découvre qu’il y a un moi et un non moi. Mais il est frappant de voir les agitations d’un nourrisson de quelques semaines lorsqu’il saisit un objet, son pied, le doigt de sa maman. Et il n’est pas invraisemblable de penser que, dans ces moments, le mélange des images mentales venues du dedans et du dehors est particulièrement intense, propice à séparer ce flux de celui, plus pauvre en stimuli externe, qui suit le biberon.

La conscience est une capacité que les robots ou l’intelligence artificielle pourraient apprendre, en répliquant les schémas exposés par Damasio

Il évoque lui-même cette idée à la toute fin de son livre. De son point de vue, les promoteurs de l’IA et des robots « intelligents » ont oublié une composante qui aurait pu donner davantage d’intelligence et de créativité à ces machines : les sentiments. Il suggère d’équiper les robots de nombreux capteurs, et d’organiser le traitement de leurs signaux pour permettre à la machine de trouver la réaction la plus « intelligente » face à l’évolution de son environnement. Il n’est toutefois pas certain, pour lui, que cette approche amène les robots à la conscience.

 

En fait, les idées de Damasio méritent sans doute d’être prolongées dans deux directions :

  • Les IA ne sont pas toutes des robots, avec des enveloppes matérielles humanoïdes. Des IA pointues comme les récents large language models (Chatgpt d’OpenAI, PalM de Google, Bloom de Huggingface, Paradigm de Lighton, …) sont des modèles logiciels, sans autre « corps » que les serveurs qui les hébergent, et sont pourtant les créations humaines les plus intelligentes du moment, au sens de l’intelligence générale (par opposition à l’intelligence spécialisée sur un domaine de problème particulier, comme le jeu de go ou le diagnostic du cancer). Les capteurs qu’il évoque devraient être repensés dans ce contexte, mais il n’est conceptuellement pas difficile d’imaginer comment un code pourrait embarquer des auto-tests de son propre fonctionnement, et du fonctionnement de l’infrastructure qui l’héberge.
  • De même que certaines images mentales humaines, c’est-à-dire de configurations (dynamiques sans doute) du réseau de neurones humains, sont générées par des stimuli extérieurs, et d’autres intérieurs, il devrait être possible de générer des images des signaux de fonctionnement interne et/ou de l’infrastructure dans les réseaux neuronaux sous-jacents à l’IA et, l’IA ayant par construction la capacité d’apprendre, de doter ces réseaux neuronaux d’une capacité à apprendre continuellement la distinction entre les « images neuronales » issues des signaux « internes » et celles générées par les signaux « externes », dans le contexte du fonctionnement normal des systèmes IT, où les stimuli externes induisent des stimulations sur les organes internes du système (mémoire, processeurs, serveurs, systèmes d’exploitation, …).

 

Ainsi, la voie semble potentiellement ouverte à des approches pour amener une forme de conscience aux IA et aux machines qui en seront pourvues.

 

Mais, si tel est le cas, quelle conséquence ? Que faisons-nous avec notre conscience ?

Tout d’abord, comme le rappelle A. Damasio, il faut avoir en tête que le sens de la vie est, tout simplement, de se poursuivre. Un être vivant cherche fondamentalement à prolonger son existence. Toutes ses actions ou réactions, automatiques ou réfléchies, assurent d’abord cet objectif.

Une IA, dotée de capacité à identifier un moi et du non moi, pourrait avoir (ou se donner) comme objectif, de faire durer cette existence de « moi ». Les développements que cela amènerait une telle IA à produire sont, sans doute au stade actuel, très incertains.

Mais, dans le monde d’aujourd’hui, où les savoirs technologiques les plus avancés sont largement diffusés, les moyens financiers quasiment illimités, tout ce qui est techniquement possible se produira, quelque part, un jour ou l’autre. L’incertitude ne porte pas sur le « est-ce que ? », mais sur le « où » et « quand ». On peut le regretter, mais il est stérile de le nier.

Une forme de conscience des IA est sans doute à nos portes. Il faut s’y préparer.

Voir les commentaires (19)

Laisser un commentaire

Créer un compte Tous les commentaires (19)
  • Mais la conscience s’apprend t elle ? Et qu’est ce que “la conscience” ? est ce vraiment cet amas de sentiments et d’images comme le suggère l’auteur ? Cette définition est bien restrictive . Conscience : “La notion de conscience recouvre trois cas de figures différents : la conscience de soi désigne la capacité de réflexion qui caractérise la subjectivité ; la conscience d’objet signifie la faculté du sujet à se représenter les choses extérieures ; la conscience morale enfin désigne une capacité non plus théorétique …”

    • L’apprentissage doit bien participer de la conscience, étant donné que les individus sont plus ou moins conscients, en fonction de leur capacité plus ou moins développée à utiliser leurs sens, leur intelligence, leur jugement, leur sensibilité.
      Les individus sont plus ou moins conscients, ainsi je dirais que la conscience en tant que telle ne s’apprend pas, mais que par ses attributs (sens, intelligence, etc), on peut élargir sa conscience, c’est à dire étendre la faculté de percevoir et comprendre la réalité. L’apprentissage est donc bien une condition nécessaire mais non suffisante au développement de la conscience.

  • La conscience n’existe pas.
    Il y a l’esprit, l’intellect, la capacité à comprendre et à (re)faire.
    Puis la “signature”, mémoire individuelle des différents stimuli environnementaux.
    Et l’éthique, ensemble de règles morales.
    Et tout cela peut caractériser aussi une IA.
    PS : La conscience de soi ? Pour faire court, juste la capacité à se reconnaître dans une glace. Utilité ?

    • Si Abscons croit réellement que la conscience n’existe pas et qu’elle consiste seulement à se reconnaître dans une glace -ce qui est déjà incohérent, je l’invite à aller faire un tour dans un lac de lave en fusion. Comme il n’a pas de conscience, il devrait finir rapidement incinéré sans même s’en rendre compte, et comme il n’a pas de conscience, sa mort, je dirais plutôt sa disparition vu son degré zéro de conscience, devrait ne lui causer aucune douleur, aucune peur, aucune réaction, rien.
      Abscons étant dénué de conscience, son commentaire est juste un script automatique généré par une petite série de réactions bioélectriques involontaires et inconscientes. Bref, Abscons Néant est une pauvre IA inutile.

    • @abon “la conscience n existe pas” hi hi abon est une IA . Que faites vous donc ici à gloser ? Raconte nous en deux lignes

      • Quand je discute avec vous, je mobilise mon intelligence (microprocesseur multicore ) , ma mémoire (disque dur) et mon sens moral (surcouche logicielle), toutes qualités qui chez moi atteignent de hauts niveaux et grâce auxquelles je peux vous confirmer que l’hypothèse de la “conscience” n’est pas nécessaire.
        Mon but, ceans, n’est pas de convaincre, pas vraiment d’apprendre – que me reste-t-il à découvrir, à part la modestie -, mais bien plutôt d’entraîner, par souci d’hygiène, ma formidable mécanique mentale, comme le fait un sportif en salle, pour lui préserver sa forme éblouissante – qui vient de me permettre de passer avec succès votre test de Turing.

        • Je vous invite alors à aller prendre un bain dans un lac de lave en fusion. Vu que vous n’avez pas de conscience, vous devriez être rapidement incinéré sans douleur, sans peur, sans réaction ni conscience de votre mort.
          Eh oui, les sens, les émotions et l’intellect sont des attributs de la conscience. La conscience ne se limite pas à la conscience de soi, et toute la question est de savoir jusqu’à quelles limites elle s’étend, en admettant que la conscience aient des limitations… étant donné que la réalité est infinie.

          • Aller prendre un bain dans un lac en fusion n’a rien à voir avec la conscience mais avec l’intelligence de la réalité et des risques. Les animaux ont aussi cette intelligence mais ce n’est pas pour autant qu’ils sont doués de conscience.

        • @abon avec succès ? non . Je ne suis pas d’accord avec votre postulat “mon sens moral” qui serait une surcouche logicielle , à moins bien sûr que vous ne soyez une machine auquel cas vous avez sans doute raison. Le sens moral humain , de mon point de vue , est inné , c’est le grain de sable (de sel disent les mystiques) qui nous fait chercher le bien et parfois à nos dépens .

    • Si la conscience n’existe pas et qu’elle consiste seulement à se reconnaître dans une glace -ce qui est déjà incohérent, je vous invite à aller faire un tour dans un lac de lave en fusion. Comme vous n’avez pas de conscience, vous serez rapidement incinéré sans vous en rendre compte, et votre disparition ne devrait ne vous causer aucune douleur, aucune peur, aucune réaction, rien.
      Etant dénué de conscience, votre commentaire est juste un script automatique généré par une petite série de réactions bioélectriques involontaires, inconscientes, et fondamentalement inutiles. Bref, Abscons Néant est juste une pauvre IA.

  • L’article lui-même et les commentaires montrent qu’on est loin de donner une conscience aux machines, ne serait-ce que parce qu’on ne sait pas ce qu’est la consciences. Le sujet montre ici précisément qu’une définition de la conscience est en débat, et il est vraisemblable que ce débat durera. Il faut remarquer qu’il en est déjà de même pour l’intelligence, et qu’il est donc prétentieux de parler “d’intelligence” artificielle…

    • D’ailleurs les oeuvres picturales qui ouvrent chaque article de CP sont bien d’une IA, non ?

    • Bof. Ca impressionne l’oeil mais il y a beaucoup d’erreurs d’exécution. Erreurs de proportions, de perspective, de forme et de texture. La messe est loin d’être dite.

    • cette Å“uvre qui a gagné un concours humain a été esquissée par une IA et perfectionnée par un graphiste. L’IA a reçu quelques lignes et créé un fichier sans conscience de rien ici. L’humain a imaginé le concept, utilisé un outil pour se faciliter la tâche puis fait la finition et l’a présenté. Du classique.

  • Il faut aussi supposer que l’IA aura une âme, si l’on veut tester que « science sans conscience n’est que ruine de l’âme »

  • Réflexion intéressante, mais fausse par rapport au sens commun de “conscience”.
    Si le sentiment peut s’approcher comme votre point de vue sur ce que vous observez de l’environnement (j’ai mangé une banane, je suis rassasié et en bonne santé -> j’aime la banane), la conscience comme “images” issues de l’interaction interne/externe peut s’apprendre sur mon appareil photo numérique qui en remplit les conditions.

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don
La propriété privée comme limite aux excès du droit de l’environnement

L’anthropologue Philippe Descola s’est fait connaître par ses études sur les Indiens Achuars d’Amazonie, dans les années 70 ; pour ces derniers les non-humains sont dotés d’une âme, d’une subjectivité et d’une conscience morale. Cet animisme se distingue d’après son ontologie du monde, de trois autres qui sont : le totémisme, l’analogisme et le naturalisme. La vision occidentale qui sépare nature et culture est la vision naturaliste… Elle fera l’objet de ses critiques, not... Poursuivre la lecture

Après les Trente Glorieuses (Jean Fourastié) et les Trente Piteuses (Nicolas Baverez), voici venues, depuis 2005, ce que l’on pourrait appeler selon Olivier Babeau les Trente Paresseuses.

 Après l’euphorie qui a suivi les guerres mondiales, puis l’indifférence un peu blasée une fois les acquis de la modernité considérés comme allant de soi, voici maintenant l’ère de la déprime.

La lutte multimillénaire contre les efforts physiques et contre les contraintes du groupe a en effet abouti à un degré de confort jamais atteint durant les diff... Poursuivre la lecture

3
Sauvegarder cet article

[embed]https://youtu.be/q3r7ZdGA1c4[/embed]

La France organise un sommet mondial sur l'IA. Derrière cette réunion se manifeste une guerre mondiale de l'IA où Etats-Unis et Chine se disputent la première place. Entre DeepSeek, Amazon et Open AI, c'est une guerre industrielle qui se joue. ... Poursuivre la lecture
Voir plus d'articles