Armes autonomes : une lettre ouverte de chercheurs en IA et robotique

Si une grande puissance militaire décide de développer des armes utilisant l’intelligence artificielle, les armes autonomes deviendront les kalachnikovs de demain.

Partager sur:
Sauvegarder cet article
Aimer cet article 0
HAL9000 by RV1864 on flickr - CC BY-ND 2.0

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Armes autonomes : une lettre ouverte de chercheurs en IA et robotique

Publié le 28 juillet 2015
- A +
HAL9000 by RV1864 on flickr - CC BY-ND 2.0
HAL9000 by RV1864 on flickrCC BY-ND 2.0

Les armes autonomes choisissent et frappent des cibles sans intervention humaine. Elles incluent, par exemple, des quadcopters armés qui peuvent rechercher et éliminer les personnes qui répondent à certains critères prédéfinis, mais ne comprennent pas les missiles de croisière ou drones téléguidés pour lesquels les humains prennent toutes les décisions de ciblage. La technologie de l’Intelligence Artificielle (IA) a atteint un point où le déploiement de ces systèmes est, pratiquement sinon légalement, faisable non dans les décennies mais dans les années à venir et les enjeux en sont élevés : les armes autonomes ont été décrites comme la troisième révolution dans la pratique de la guerre, après la poudre et les armes nucléaires.

De nombreux arguments ont été avancés pour et contre les armes autonomes, par exemple que le remplacement des soldats humains par des machines est positif en réduisant les pertes pour celui qui les utilise, mais mauvais puisqu’il abaisse ainsi le coût d’un engagement au combat. La question clé pour l’humanité d’aujourd’hui est de savoir s’il faut se lancer dans une course mondiale aux armements IA ou l’empêcher. Si une grande puissance militaire décide de développer de l’arme IA, une course mondiale aux armements est pratiquement inévitable, et le point d’arrivée de cette trajectoire technologique est évident : les armes autonomes deviendront les kalachnikovs de demain.

Contrairement aux armes nucléaires, elles ne nécessitent pas de coûteux investissements ou des matières premières difficiles à obtenir, aussi vont-elles devenir omniprésentes et bon marché pour toutes les puissances militaires susceptibles de les produire en masse. Ce ne sera qu’une question de temps avant qu’elles n’apparaissent sur le marché noir et entre les mains de terroristes, de dictateurs souhaitant un plus grand contrôle de leur population, de seigneurs de guerre voulant perpétrer un nettoyage ethnique, etc. Les armes autonomes sont idéales pour des tâches telles que les assassinats, la déstabilisation des nations, la soumission des populations et le massacre sélectif d’un groupe ethnique particulier.

Nous pensons donc que la course aux armements militaire IA ne serait pas favorable à l’humanité. Il existe de nombreuses façons grâce auxquelles l’IA peut sécuriser les zones de combats pour les humains, en particulier les civils, sans créer de nouveaux outils pour tuer des gens.

Tout comme la plupart des chimistes et des biologistes n’ont aucun intérêt à construire des armes chimiques ou biologiques, la plupart des chercheurs en Intelligence Artificielle n’ont aucun intérêt à construire des armes IA, et ne veulent pas que d’autres discréditent leur domaine ; ce faisant, ils créent la possibilité d’un rejet massif par le public de l’IA qui bloquerait ses futurs avantages sociétaux.

En effet, les chimistes et les biologistes ont largement soutenu les accords internationaux qui ont permis d’interdire les armes chimiques et biologiques, tout comme la plupart des physiciens ont soutenu les traités interdisant les armes nucléaires spatiales et les armes à laser aveuglantes.

En résumé, nous croyons que l’IA offre un grand potentiel pour le bénéfice de l’humanité dans bien des domaines, et que nous devons avoir pour objectif de le réaliser. Le lancement d’une course aux armements IA est une mauvaise idée, et doit être empêché par une interdiction des armes offensives autonomes sans contrôle humain significatif.

  • Traduction par Gérard-Michel Thermeau de « Autonomous Weapons : an Open Letter from AI & Robotics Researchers » pour Contrepoints

—-
Sur le web

Voir les commentaires (24)

Laisser un commentaire

Créer un compte Tous les commentaires (24)
  • C’est perdu d’avance, la fin justifira toujours les moyens, comme l’arme nucleaire…
    En face des armes sans pilotes, les armes autonomes trouveront un espace de légitimité en dernier ressort dans l’utilisation de la terreur.

  • Y’a juste a dire « oui mais c’est pour lutter contre le …. tuntun… TE-RO-RI-SME » et hop 99% de la population fait ouaf ouaf et est content car on s’occupe bien de lui et on lui donne un petit nonos a ronger…
    Et comme d’hab, on interdit aux particuliers de faire voler des petits drones d’a peine 100g car trop dangereux, par contre balancer des drones qui balancent des missiles sur des cibles et qui font des dommages dit « collatéraux » (qu’on pourrait aussi appeler « massacre d’innocents » mais ca le fait moins) pas de soucie…

    Cette histoire est comme la puissance nucléaire, personne n’en veut, mais par peur que quelqu’un la développe, tout le monde la développe. A la fin, tu mets le petit dictateur espagnol, le 49.3man bref Valls au commande de la France, et hop le missile nucléaire part, les drones avec IA vont continuer le travail, chacun riposte et hop retour aux dinosaures… enfin juste après leur extinction.

  • Comme d’habitude, l’IA fait fantasmer. Et il est sur que l’IA fait progresser la technologie mais ce n’est pas une révolution.

    Alors que sont ces « armes autonomes » ? Simplement une version technologique améliorées des mines antipersonel ou des bombes à fragmentation : un progrès technologique dans l’art de tuer son prochain auquel les gouvernements ne sauraient renoncer … avant de se réunir après de multiples bavures pour dire que c’est pas bien et qu’il faut un traité international pour les interdire.

    • Nope. Une IA qui peut tuer, ce n’est pas une simple évolution de la mine antipersonnel.

      Ou bien à ce compte là, une bombe nucléaire c’est une simple évolution technologique de la flèche…

    • Ce n’est pas encore une révolution parce que l’IA, la vrai, celle pour qui le mot intelligence veut vraiment dire ce qu’il veut dire n’existe pas …..

  • « Le lancement d’une course aux armements IA est une mauvaise idée, et doit être empêché par une interdiction des armes offensives autonomes »
    Dommage la conclusion promeut exactement ce qu’il ne faut pas faire.

    Les armes autonomes, ou drones, sont déjà en train d’arriver.
    Demander l’interdiction cela veut dire demander aux Etats d’attaquer les gens qui essaieraient de les développer et de les utiliser. Pour ce faire les Etats doivent donc développer et utiliser les drones.
    Ce qui implique un rapport de force Etat / population largement poussé en faveur des Etats.
    La capacité à légiférer, et à appliquer ces lois serait multiplié.

    Dommage qu’un site qui se veuille (un peu) libéral ne comprenne pas les erreurs monumentales que sont les interdictions (forcément étatiques vu que l’Etat controle l’usage de la force) d’objets. Alcool, drogues, armes à feu …

    La conclusion logique est l’inverse : ces drones arrivent, et il faut faire en sorte que chacun y accède librement, et rejeter toute tentative de prise de contrôle par un groupe donné (au hasard, les Etats).

    • Je crois que le site se dit (pas qu’un peu) libéral… (il va falloir arreter avec cela, a juger ce qui est libéral ou non, chacun revendiquant son idée libérale, le libéralisme est une doctrine complexe, bien plus complexe que « ca c’est libéral, ca non »…

      Après sur le fond, le problème du 1) Drone 2) autonome, c’est qu’il ne connait presque pas de perte et aucun controle. Le libéralisme, puisqu’on en parle, se justifie en disant « un humain est libre de ses actes pourvu qu’il assume les conséquences de ces actes »… la on parle ni d’un etre vivant, ni personne assumant ses actes.
      Cela pose donc un problème, si on libère le Drone IA, on libère donc quelque chose qui n’assumera pas puisqu’aucun humain ne pourrait etre condamné pour la défaillance d’une machine… et dans le cas de Drone, encore plus, puisqu’il ne s’agit pas de perte humaine. Dans une guerre vous perdez 100 militaires, la population pleure, conteste,… ce qui s’est passé post-Irak-Bush. Maintenant vous perdez 100 drones rien ne se passera… donc vous pouvez librement envoyer plus de Drones, assemblée a l’irresponsabilité de l’IA, vous avez un danger réel de dérive… je vous dirais que depuis qu’on envoi des drones, les dérives ont déja eu lieu maintes et maintes fois, puisque personne est responsable, puisqu’on a pas vu l’ennemi…

      • mouais … l’être humain a toujours tué son prochain et ce n’est pas près de s’arrêter. Tu ne peux pas contrôler la prolifération de telles armes, elles existent et existeront. L’arme ne change pas la donne. C’est celui qui l’use qui la change. Est-ce pire qu’une arme chimique ? On ne fait juste plus la guerre de la même façon. Et les guerres aujourd’hui font quand même moins de morts qu’hier il me semble … ET c’est grace à la technologie.

        • « tu ne peux pas contrôler la prolifération de telles armes »

          Euh…si on peut. De n’importe quelle arme en fait et encore plus si elle s’avère sophistiquée. »

          • bien sur que non !il me semble qu’il n’y a pas si longtemps on pouvait obtenir des ogives nucléaires issues des stocks Soviétiques au marché noir. ant qu’il y aura des hommes et des armes il y aura des acheteurs, des vendeurs et des négociants. C’est la guerre qui change, la mort n’est plus l’élément le plus efficace pour la gagner. On peut vassaliser un état par un accord, plus besoin de l’envahir militairement.

  • On a aussi recommandé aux informaticiens de ne pas développer de virus…

  • Skynet deviendra autonome… la résistance devra s’organiser autour d’un homme… Connor… John Connor
    I will be back !

    • une organisation est un embryon d’état, puisqu’il émettra des règles pour se structurer.
      c’est donc anti libéral 🙂

  • Exactement le même article, le même jour sur Rue 89 mais publié à 12h07… Qui a dégainé le premier?

    • Ce n’est pas un article mais une lettre ouverte déjà publiée sur les sites anglophones et c’est nous qui avons dégainé les premiers…bien sûr.

    • il s’agit d’une lettre ouverte écrite à la base en anglaise. ceci est une traduction de cette lettre ouverte

  • Vous n’empêcherez jamais l’avancée technologique de l’armement et leur vente à n’importe qui ! Regardez la France c’est Mitterrand qui a vendu le nucléaire à l’Iran et en plus à l’époque c’était Khomeini !
    Vous n’empêcherez jamais l’impérialisme né d’un ordre politique qu’il soit l’avatar d’une nation ou d’une religion. . Hier les Etats Unis, aujourd’hui la Chine et les Musulmans. Les guerres existeront toujours… aujourd’hui elles sont tactiques ou psychologiques et servent à assoir une emprise et un pillage. L’avantage pour des pays qui capitulent, comme le notre, c’est que la technologie nous evite d’avoir à massacrer tout le monde ! Avec les fonds de pension américain qui représentent entre 60 et 70%, du CAC 40, l’OTAN vassalisée par l’Arabie Saoudite ou encore la France aujourd’hui vendue au Qatar finalement tout le monde est plutôt tranquille, les français continuent à se laisser acheter à coup d’assurance chômage et autre sécurité sociale. Demain ils changeront leur mode de vie petit à petit et c’est tout. Une centaine de têtes coupées et filmées au moyen Orient est plus efficace pour faire plier les recalcitrants qu’une invasion. bien sûr ils n’est pas dit qu’il n’y ait pas un coup d’éclat ou un autre, peut être faudra-t-il 1000 personnes d’un coup un peu plus près, histoire de bien faire comprendre qui décide. Mais au fond c’est bien mieux que 6 millions de morts dans des camps et combien d’autres au front ?

  • L’humanité doit grandir, se responsabiliser, mûrir. Je ne crois pas que cela soit en évitant le problème qu’on aura un monde meilleur. Ça me rappelle une maman qui avait retiré un canapé de la chambre de son fils sous prétexte qu’il était toujours couvert d’affaires et en désordre. Supprimer la conséquence d’un comportement n’a résolu ni le problème d’éducation de l’enfant ni la notion de responsabilité de la mère.

  • Trop tard. Maintenant que c’est lancé, rien n’arrêtera le développement de tels armements. Le Pentagone et le complexe militaro-industriel américain travaillent dans cette perspective depuis quelque temps maintenant, et les drones ne sont que le commencement de cette histoire. La seule question est de savoir qui tirera le premier avec ces IA sur le champ de bataille mondialisé, et après, comment les autres états prendront en compte ce nouveau pouvoir de guerre pour le contrebalancer.

    D’un côté, cela peut épargner des troupes: plutôt que de les engager massivement sur le terrain contre des islamistes de l’EI, on pourrait peut-être plus facilement envoyer des robots. Mais d’un autre côté, comment être sûr que ces robots ne vont pas se retourner contre leurs maîtres? Ou massacrer les populations qu’on voulait défendre, parce que l’ennemi aura exploité à son profit leurs paramètres de reconnaissance visuelle ?

    Mais on est encore loin, avant qu’un robot sache discriminer des islamistes de kurdes alliés, ou d’une famille yézidi, ou même seulement avoir une mobilité autonome sur un champ de bataille en mouvement constant. C’est pas demain qu’un robot atteindra ce niveau de complexité.

  • La fin est proche, rependez vous et vous serez sauvés …

    Nan je rigole.

    Se repentir ne sert à rien, vous ne serez pas sauvez 🙂

  • Je m’interroge : pourquoi autorise-t-on les armes bêtes dans les mains d’un idiot, et devrait on interdire les armes intelligentes hors du contrôle des mêmes idiots ?

    • Comment des armes intelligentes pourraient-elles être créées par des idiots? Et n’en parlons pas s’ils décident sur qui les utiliser…

    • Une arme intelligente serait un simple « tueur ». L’armée n’a que faire de « tueur », elle n’est efficace qu’avec des soldats disciplinés qui obéissent et de tuent pas s’ils n’en reçoivent pas l’ordre explicite. Une arme autonome est une pure aberration.

      Une guerre se gagne par la stratégie à l’aide d’une armée disciplinée. (« La force des armées suivant l’adage). La légion étrangère française est plus efficace que bien des unités américaines sur-équipées et surement pas en recrutant des tueurs : ceux-la ne passent même pas l’étape de pré-sélection.

  • les drones font proportionnellement moins de dommages collatéraux que les avions et les raids des forces spéciales, ce sont des armes plus propres. certes, il y a tjs un nombre non négligable de dommages collatéraux mais moindre que celles utilisés par d’autres armes.
    Il faut pas confondre civil et innocent. bcp de dommages collatéraux sont des membres de la famille de la cible qui sont tout aussi fanatisés que lui
    http://www.slate.fr/story/101225/drones
    Les armes autonomes font non seulement réduire le nombre de militaires tués mais aussi réduire le nombre de dommages collatéraux. Certes, ils représentent un danger et un potentiel destructeur mais il y a aussi des avantages. Les interdire n’est pas la solution, il faut mieux les reglémenter (même si je doute que l’on arrive à faire ca).
    Une multitude d’inventions majeures d’aujourd’hui dérivent de la recherche militaire américaine. Autoriser les armes autonomes aura pour avantage d’accélér la recherche en intelligence artificielle et de la développer plus rapidement. Ce dont font profiter les civils

  • Les commentaires sont fermés.

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

La réalité rattrape parfois la fiction et c’est sûrement de plus en plus vrai ces dernières années. Avec l’évolution de certaines technologies comme le Métavers, la réalité virtuelle et bien évidemment  l'Intelligence Artificielle (IA), on sent que le monde est en train de changer. Certains avancent plus vite que d’autres, comme la Chine, où un robot vient d’être nommé à la tête d’une multinationale.

Une IA va donc gérer NetDragon Websoft, une entreprise de jeux vidéo comptant plusieurs milliers de salariés. Cette IA se nomme Tang Yu. ... Poursuivre la lecture

IA
4
Sauvegarder cet article

Pour celui qui se tient (même vaguement) au courant des progrès de l'informatique, il est évident que l'intelligence artificielle a beaucoup évolué en 20 ans. L'actualité récente montre que nous sommes à présent bien loin des pathétiques essais de l'époque, qui permettaient péniblement d'obtenir de ces programmes un peu plus qu'une reconnaissance approximative des caractères, des systèmes experts un peu déséquilibrés ou des analyses d'images qui ne se trompaient pas la moitié du temps.

Ces dernières années ont notamment vu apparaître d... Poursuivre la lecture

intelligence artificielle
2
Sauvegarder cet article

La présentation du livre 101 mots de l’intelligence artificielle[1. Paris, le 22 septembre 2022 : Présentation du livre 101 mots de l’intelligence artificielle sur le vocabulaire français de cette discipline par Gérard Pelletier, président de Datafranca qui y a largement participé] sur le vocabulaire français de cette discipline me donne l’occasion de revenir sur la signification du terme intelligence artificielle.

Prenons successivement chacun des deux mots le composant : intelligence et artificielle.

 

L’intelligence ... Poursuivre la lecture
Voir plus d'articles