Alors que s’accélère son développement, l’IA suscite une crainte croissante, à la fois par son ampleur et par sa puissance. Et ce n’est que le début. La principale crainte souvent énoncée est qu’elle ne sait pas expliquer comment elle arrive à un résultat donné, et qu’elle est donc dangereuse. Comment peut-on utiliser une intelligence non humaine si on ne sait pas comment elle fonctionne ?
L’exemple du chien
Et pourtant c’est ce que nous faisons depuis des milliers d’années… avec le chien.
Le chien identifié le plus ancien date d’environ 16 000 ans. Les chiens proviennent des loups que nous avons domestiqués. Ils se sont peu à peu transformés par sélection successive au cours des millénaires. Le chien est donc un être artificiel, une création de l’Homme, il n’existait pas dans la nature. Et c’est un être incroyablement utile. Très tôt il a été utilisé pour la chasse et pour la garde. Mais aussi pour nous tenir compagnie. Ainsi, l’homme n’a pas seulement créé des objets extraordinaires (lances, habits, etc.) mais il a également créé des intelligences artificielles dès le Paléolithique supérieur.
Or, un chien peut être incroyablement stupide, bien moins intelligent que de nombreux animaux. Il échoue à des tâches pourtant très simples, qu’un corbeau exécute sans difficulté. C’est parfois à se taper la tête contre les murs de voir leur stupidité. Et difficile de savoir comment ils réfléchissent, si ce terme peut d’ailleurs leur être appliqué.
Mais demandez-leur quelque chose qui entre dans ce pourquoi nous les avons patiemment fabriqués depuis tant d’années, et tout change. Ils vous ramènent seul un troupeau de brebis en quelques minutes. Ils sentent quand vous avez un problème. Ils sont à vos côtés pour la chasse. Ils avertissent du danger. Ils vous protègent. Ils sont une source de bien-être. Ils guident les aveugles. Et en plus, ils nous aiment. En gros, avec le chien, nous avons créé une intelligence spécialisée pour des tâches vitales. Nous ne savons pas comment il fonctionne, il peut être très dangereux, mais il est pourtant remarquablement utile s’il est bien utilisé.
L’IA est comme un chien
Eh bien l’IA, c’est comme le chien. Nous n’avons pas besoin de savoir comment elle fonctionne pour qu’elle puisse être utile.
Les deux sont des outils. Comme pour tout outil, il faut bien savoir comment il peut être employé, où il est utile, et où il est inutile, voire dangereux, et il faut bien l’utiliser, sinon il peut y avoir des accidents. Le marteau est parfait pour enfoncer des clous, médiocre pour enfoncer des vis, inutile pour bêcher votre jardin, et dangereux pour les doigts. Un outil est typiquement remarquablement efficace dans son champ, pathétiquement inutile en dehors. Idem pour le chien, et donc pour l’IA.
L’IA est simplement une manière différente de créer une intelligence artificielle. Le chien, c’est bien, mais avec lui nous sommes soumis à l’évolution pour l’améliorer, c’est-à-dire qu’il faut des générations pour obtenir des traits intéressants. Avec le développement de la génétique et de technologies comme CRISPR, on peut imaginer aller beaucoup plus vite. Mais l’IA, c’est du logiciel, et là les cycles d’évolution ne sont plus en centaines d’années, mais en dizaines de semaines. Nous pouvons enfin nous affranchir de l’évolution pour développer une intelligence non-humaine.
Et donc l’argument souvent avancé selon lequel l’IA doit être « systématiquement explicable, auditable et transparente », comme je l’entendais récemment lors d’une conférence, est erroné. Exiger cela de l’IA, c’est renoncer à l’utiliser, comme nos ancêtres auraient dû renoncer à utiliser le chien, incompréhensible, se privant ainsi d’un outil qui leur a considérablement facilité la vie, et probablement la survie.
Ne commettons pas cette erreur. Comme pour le chien, comprenons là où elle peut être utile, ce qu’elle peut faire, ses avantages et ses limites, et ne lui en demandons pas plus.
—
« L’IA, c’est comme le chien »
Bref, Il Aboie.
https://fr.wikipedia.org/wiki/On_the_Internet,_nobody_knows_you%27re_a_dog
Penser que nous avons crée le chien est impropre : il y a dans les symbioses animalières un consentement mutuel et non fabrication de l’un ou de l’autre . L’anémone n’a pas crée le poisson clown (ni l’inverse) : leur collaboration a été mutuelle , ils se sont créés ensembles. Certains loups ont délibérément choisi l’homme et ont évolué aidés par l’homme, il serait intéressant de plancher sur l’adaptation de l’homme au fait de collaborer avec les chiens , certaines lignes d’hommes n’ont pas choisi de collaborer avec les chiens (et y ont perdu un avantage majeur et ont moins prospéré) , certains chevaux ont choisi l’homme , d’autres non (essayez donc de domestiquer un zèbre ) les hommes qui ne l’ont pas fait ont perdu un avantage crucial et ont peut être disparu etc etc . Une IA est une pure machine , elle ne choisit pas, elle ne choisit rien, elle n’a pas d’âme, ni de visée propre . Si le chien est un outil , alors l’homme en est un aussi . C’est une vision , le matérialisme , mais ce n’est pas la mienne et je me demande bien par quel prodige elle pourrait se conjuguer avec un quelconque libéralisme (lequel prône la liberté et donc le choix …. ) Mais l’auteur va sans doute me l’expliquer .
On peut inverser le propos. L’IA est comme une pompe à eau où iront boire les cabots.
Parallèle intéressant. Le seul souci est qu’on ne sait pas (mais le saura-t-on jamais ?) dans quelles situation l’AI est utile, dans lesquelles elle ne l’est pas et dans lesquelles elle est dangereuse. Le fait qu’elle soit dans les mains de gens qui n’ont pas nécessairement un grand respect pour la liberté n’est pas rassurant. Après tout dans certaines situation, il est intéressant d’avoir un marteau pour taper sur les doigts de quelqu’un dont on veut obtenir une information.
L’IA m’évoque surtout le chien qui, la balle dans la gueule, vous soulève le coude jusqu’à ce que vous vouliez bien la lui lancer. Je ne suis pas Javier Milei…
Nous avons domestiqué le loup pour un faire un chien.
Ce qui nous fait peur avec l’IA, c’est que le « chien » devienne un loup.
Analyse très intéressante. J’aime bien la comparaison avec le chie qui me semble fort juste à bien des égards.
Les commentaires sont fermés.