SALA : faut-il interdire les robots tueurs ?

Partager sur:
Sauvegarder cet article
Aimer cet article 0
By: steve p2008 - CC BY 2.0

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

SALA : faut-il interdire les robots tueurs ?

Publié le 22 novembre 2017
- A +

Par Thierry Berthier.

Dans la continuité des lettres ouvertes publiées par Elon Musk et Stephen Hawking, une vidéo-fiction de 7 minutes explore des dérives possibles de « robots tueurs » et totalise sur Youtube plus d’un million de vues en quelques jours. Particulièrement bien construite, elle s’ajoute au débat qui s’engage sur les armes autonomes.

Produite par un collectif  international réclamant l’interdiction mondiale des systèmes armés autonomes, elle a le mérite d’exposer le risque de dissémination de ce type d’armes.

Le scénario envisagé dans la vidéo est crédible et efficace dans son objectif : des nuées de mini-drones dotés de charges explosives létales sont utilisées dans un contexte d’attaque terroriste et de tuerie de masse pour créer le chaos. Les technologies impliquées dans la vidéo ne relèvent pas de la science fiction  mais existent toutes aujourd’hui. C’est d’ailleurs ce qui fait la force de cette fiction.

Cela dit, cette vidéo ne contribue pas à dépassionner et à rationaliser un débat qui fait figure de dialogue de sourds : d’un côté, les partisans d’une interdiction internationale des robots armés autonomes à l’image de ce qui a été fait pour les armes bactériologiques et chimiques. Et de l’autre côté, des États, leurs armées, des industries de l’armement et des programmes mondiaux de R&D de systèmes armés autonomes lancés, entre autres, aux États-Unis, en Russie et en Chine.

Dépassionner le débat

En préambule, le débat sur l’autonomie des systèmes armés doit se dépassionner et se débarrasser définitivement des biais cognitifs et des fantasmes qui le polluent depuis la première lettre ouverte d’Elon Musk.

Pour être utile, ce débat a besoin de pragmatisme et de sérénité, condition nécessaire à toute analyse rationnelle et systémique des conséquences de l’émergence des SALA (Systèmes d’armes létaux autonomes). Les risques associés doivent être évalués précisément tout en tenant compte des gains tactiques et stratégiques offerts par l’autonomie.

Les arguments contre un traité d’interdiction des SALA existent. Leur intégration dans le débat contribue à le dépassionner et à le rendre moins irrationnel. On peut en dresser une courte liste non  exhaustive :

1 – Un traité international d’interdiction des systèmes armés autonomes a très peu de chance d’être ratifié par l’ensemble des États. Si une seule puissance technologique refuse de le ratifier (par exemple les États-Unis, la Chine ou la Russie) alors ce traité devient immédiatement obsolète  et  inutile. Les puissances concurrentes n’auront en effet aucun intérêt stratégique à stopper leur R&D sur ce type d’armement. Bien au contraire, elles poursuivront leurs programmes de manière clandestine.

2 – Un traité international ne sera jamais ratifié par un groupe terroriste ou par une organisation mafieuse qui pourra toujours facilement mettre en œuvre une attaque impliquant une nuée de mini-drones armés. Dans ce cas, le traité en question n’aura aucune utilité et n’interdira aucun des scenarii envisagés dans la vidéo.

3 – Dans le cadre d’une attaque terroriste, nous savons tous que l’attaquant ira au plus simple en utilisant une voiture bélier, un camion, ou un couteau pour tuer « simplement » lorsqu’il ne dispose pas de Kalachnikov ou d’explosif. Bien entendu, ce principe de moindre complexité dans l’art de tuer n’interdit pas l’utilisation de mini-drones armés mais réserve ce type d’opération à un groupe disposant de qualifications technologiques de bon niveau, ce qui est plus rare en terme statistique.

4 – Une interdiction, par décrets, des SALA provoquerait de fait un déficit de connaissances et d’expérience dans le développement des contre-mesures et des protocoles  à mettre en œuvre face à une attaque terroriste par nuée de mini-drones. On peut en effet imaginer une nuée de mini-drones défensifs installée dans chaque lieu public ( à l’image des extincteurs et défibrillateurs) qui s’active de manière autonome pour stopper l’attaque dès son déclenchement et détruire ses agents offensifs. Dans ce contexte, l’autonomie devient protectrice et défensive…

5 – Dans le cadre d’un conflit asymétrique opposant une armée régulière technologique à un acteur non étatique organisé (groupe terroriste, insurrection armée, …) menant des actions de guérilla urbaine, l’armement autonome permet d’économiser des vies et du temps dans la reprise de contrôle d’un quartier. Ce type de confrontation où les civils et les forces sont imbriquées est toujours très coûteuse en vies humaines. Le recours aux SALA peut réduire considérablement le délai de reprise et le volume des pertes humaines. Il peut également créer un contexte d’effroi chez le combattant irrégulier ou le terroriste qui se retrouve confronté à des technologies qui lui sont étrangères et qu’il ne maîtrise pas.

6 – L’autonomie permet de réduire les temps de réaction dans un contexte de combat saturé. Elle  donne accès à de nouvelles échelles temporelles pour l’action militaire tout en améliorant la précision des tirs. Elle réduit ainsi le rayon de létalité des armes qu’elle met en œuvre puisque le système de calcul embarqué peut optimiser et ajuster sa réponse en fonction des actions de la cible.

7 – Dans le cadre d’un conflit symétrique opposant deux armées régulières de puissances équivalentes, dotées d’unités de combat robotisées à haut niveau d’autonomie, on peut imaginer qu’une forme de dissuasion technologique s’installe dans un consensus tactique et stratégique. En cas de conflit déclaré, chacune des deux armées engage en premier instance ses unités de combat robotisées. A l’issue du combat, l’armée victorieuse est celle qui a détruit les unités de son adversaire. Il devient alors inutile d’engager une seconde phase de combat opposant les forces armées  conventionnelle humaines vaincues aux unités robotisées victorieuses car l’issue d’une telle confrontation serait connue d’avance. La confrontation technologique permettrait d’économiser le prix du sang et de faire émerger une dissuasion technologique produite par la puissance de feu des systèmes d’armes autonomes.

Erreur stratégique à éviter

Notons enfin que ces arguments sont valables sous la nécessaire condition d’un niveau de pertinence de l’intelligence artificielle embarquée au moins équivalent dans ses décisions à celui d’un opérateur humain. Cette précision de bon sens évacue le cas de figure souvent fantasmé d’un robot tueur « à la Terminator » qui tirerait indistinctement sur tout ce qui bouge !

En conclusion, espérons que l’Europe ne se lance pas dans une action unilatérale d’interdiction des systèmes SALA alors que d’autres acteurs concurrents refuseraient de le faire. Ce serait une erreur stratégique qui la placerait en situation de dépendance militaire à moyen terme.

 

Voir les commentaires (20)

Laisser un commentaire

Créer un compte Tous les commentaires (20)
  • Un robot tueur…..un soldat donc ,interdissons la guerre pendant que vous y êtes.
    Démagogie que tout cela comme la non prolifération nucléaire , l’interdiction de armes chimiques et bactériologiques ..ce sont toujours ceux qui les ont qui en font la demande ..enfin , non , qui l’imposent…par la force si il le faut .

    • C’est ça de la démagogie et comme le souligne très bien l’auteur, il suffit qu’une ou deux puissances d’une certaine envergure ne ratifient ce traité pour le rendre inutile.

    • Cher Réactitude. Je trouve 80% de ce que vous écrivez en commentaire ici assez méprisable. Vous avez néanmoins parfaitement raison sur ce point

    • @ reactitude
      Bonne réaction! (« BNC » en sommeil apparent, évidemment!)
      Il en sera de même pour les drones et les robots: les pays à armée régulière signeront sans en tenir compte. Les combattants « irréguliers » ne demandent pas d’autorisation.

  • Au moyen age, l’église avait tenté d’interdire l’arbalète,
    Louis XV avait renoncé au feu grégeois en pleine guerre de sept ans,
    ça n’a jamais servit à rien, les militaires seront toujours obligés de chercher à surpasser leurs adversaires.

  • Et la paix ça ne tente personne ?
    Comprendre pourquoi la guerre et y mettre fin ça ne tente personne ?

    • J’ai envie de faire un réponse basique : tant qu’il y aura des êtres humains il y aura des guerres, des meurtres et au passage, nous vivons dans une relative époque de paix (notamment en Europe !) si l’on compare l’histoire des 4 ou 5 dernier siècle.

    • « Comprendre pourquoi la guerre et y mettre fin ça ne tente personne ? »
      Si vous ne vous rendez pas compte à quel point cette phrase est simpliste et dogmatique alors vous ne vous rendez pas compte que la pourquoi de la guerre c’est justement les gens comme vous.

      Quel était de le pourquoi de la guerre de Sitting bull? Quel était le pourquoi de la guerre d’Hannibal? Quel était le pourquoi de la guerre de la Russie contre le Japon? Pensez vous que toutes les guerres ont le même « pourquoi »? Pensez vous que si on trouvait un pourquoi commun on pourrait y mettre aussi facilement un terme? Pensez vous vraiment être le premier à se poser cette ‘mauvaise) question?

      Cher Leham, poser des questions aussi lourdes de sens sans se rendre compte qu’on dit une ânerie plus grosse que sois, c’est GRAVE. Je sais que mon commentaire ne vous fera pas plaisir. Désolé… Il n’y a pas de manière douce de dire ça.

      • Pensez vous que toutes les guerres ont le même « pourquoi »?
        Absolument, elles l’ont 🙂
        Vous pensez raisons » extérieures » et vous avez raisons sur ce point mais si vous vous étiez posé réellement la question, profondément et pas en surface, la question » simpliste » aurait eu une réponse très simple qui mettrait fin à toutes les guerres, en vous déjà.
        Lorsque la guerre n’est plus en soi , en chacun, pourquoi aurait elle encore lieu a l’extérieur ?
        Je pourrais vous répondre également que ne pas chercher les raisons de la guerre, en soi est très grave puisque c’est à cause de cette non-investigation qu’elle se perpétue depuis des millenaires.
        Je lis plus bas: Le singe fait la guerre, alors ne faisons pas mieux ? 🙂
        Je vous rassure votre commentaire ne me fait pas plaisir, ni ne me heurte plus que ça, tant c’est la lot commun depuis des millénaires
        Bien à vous.

      • @ Mitch

        Sans avoir la réponse à la question de @ leham, je crois que les guerres sont décidées par un homme (rarement une femme!) à la « psychologie particulière », genre psychopathe ou sociopathe!

        A.Hitler est un bel exemple, Napoléon Bonaparte aussi, comme Alexandre le Grand ou J.César!

        Auto-estime hypertrophique (soi-même et, moins, ce qu’on représente! « la race arienne », pour Hitler, « le génie militaire Français » pour N.Bonaparte).

        Et peu importe les conséquences!

        Je crois donc qu’en Europe, les déserteurs seront plus nombreux, à la prochaine, que ceux partant « la fleur au fusil »!

        • « Ma réponse » est d’identifier en soi ce qui est l’origine des conflits,
          il y a toujours une base égotique .
          Nous portons la guerre en nous et ne tentons déjà pas de mettre fin à ce processus

          Commençons par le commencement, plutôt que se perfectionner en armement.
          Personne (ou presque) ne pense à s’étudier, s’observer lui même et de voir s’il est possible de mettre fin aux conflits intérieurs.
          Pour envisager cette hypothèse, il faut déjà identifier les conflits en soi, lorsqu’ils arrivent.

          Hommes et Femmes ne sont pas exempts de violence et de conflits, ils restent tous deux sources potentielles de guerre, tant qu’ils restent à la surface des choses: les raisons extérieures avancées, différentes pour chaque conflit mais ayant toujours une même cause égotique d’une ou des deux parties.

    • En supprimant l’argent, je crois qu’on règlerait une bonne partie du problème.

      • Et vous feriez comment pour vous procurez ce dont vous avez besoin? L’argent n’est qu’un vecteur. Les Babyloniens se servaient du blé, mais il vous faudrait plusieurs poids lourds pour acheter une voiture.

      • @ Mathrix

        Non je ne crois pas ou plus! Gagner une guerre peut être profitable, par vol! Ça laisse des souvenirs et des envies de revanche et de récupération + sanction!

        Par contre la « gloire », même éphémère, provoque des sensations uniques et intenses, souvent pas longtemps! (+/- 12-13 ans pour A.Hitler et N.Bonaparte).

        Même maintenant, les films nazis sur ces mouvements populaires en uniforme, impeccables de discipline, ça provoque bien une émotion surtout pour les Allemands autour, à l’époque!

        Et sortant d’une inflation catastrophique, pouvaient-ils ne pas y croire ni espérer?

        La suite leur prouva que c’était trop beau pour être vrai!

        Et les conquêtes Napoléoniennes ne restèrent pas françaises!

        Combien de morts, chacun? Pour quel résultat, finalement?

    • Ce sont les politiciens qui les déclarent, et les citoyens qui les font. Eux ne s’y risquent pas!

  • Vous pouvez etre certains qu’il y aura des lois la dessus. La volonté de refus de la réalité est très prégnant dans nos sociétés: On interdit les drogues parce qu’on aimerait qu’elles n’existent pas pareil avec les flingues etc… Et effectivement le retard technologique que nous prendront sera une menace.

  • Comme d’habitude les bisounours sont incapables de réflexion sur les conséquences de leurs actes.

  • Je ne sais pas ce qui est le pire dans cette vidéo : est-ce que c’est le fait que tout ce qui y est montré est possible aujourd’hui ? Ou que contrairement à l’arme nucléaire, pas besoin d’avoir la puissance d’investissement d’un Etat pour mettre au point de telles armes…? En pratique, il suffit de « quelques gus dans un garage », pour reprendre une vieille expression de politique…
    Dans un tel cadre, interdire toute recherche serait effectivement un magnifique coup d’épée dans l’eau…

    • @ Anagrys
      Les politiciens qui font souvent la Une du journal télé, le soir ne sont que des « diseux », les « faiseux », eux travaillent, créent et organisent! Ils sont « inconnus » et apparaissent peu à l’écran!

      Donc coup d’épée dans l’eau, bien sûr, pas le premier d’une très longue série!

  • Les commentaires sont fermés.

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Pour les uns l’euro serait la cause de tous nos maux économiques : hausse des prix, chômage, désindustrialisation, etc.

Pour les autres, l’euro est une bénédiction, un des socles sur lequel sera construite une Europe fédérale rayonnante des droits de l’Homme, puissante et paisible à laquelle tout individu cultivé et évolué doit aspirer.

Pratiquement, l’euro est à terme condamné.

Concrètement, il a simplifié la vie de ceux qui exportaient et circulaient en Europe, c’est indéniable. Plus de comptes en devises, de frais de c... Poursuivre la lecture

Ce 19 janvier, Emmanuel Macron a pris la parole au parlement européen pour faire un discours dans le cadre de la présidence européenne de la France.

Arrivé de Macron au parlement... pic.twitter.com/rBEkIdJfG6

— Esposito Corinne (@coconuts1315) January 19, 2022

Le propos s’est concentré sur les valeurs qu'il souhaite défendre. Il a été critiqué par les représentants français des groupes européens de l’opposition comme Jordan Bardella du RN, Yannick Jadot d'Europe Ecologie les Verts, François-Xa... Poursuivre la lecture

Par Doug French. Un article du Mises Institute

Relatant une boutade de l'économiste soviétique Nikolai Fedorenko, Yuri Maltsev a illustré le problème du socialisme dans sa préface à l'ouvrage de Ludwig von Mises intitulé Economic Calculation in the Socialist Commonwealth. Fedorenko a déclaré à l'époque, selon les mots de Maltsev, "[Un] plan économique entièrement équilibré, vérifié et détaillé pour l'année suivante serait prêt, avec l'aide des ordinateurs, dans 30 000 ans."

L'intelligence artificielle comme outil socialiste ?

Vi... Poursuivre la lecture

Voir plus d'articles