Intelligence artificielle : évitons son utilisation politique

Si nous ne faisons pas attention, l’IA peut être un outil de contrôle et de centralisation très efficace qui, entre des mains mal intentionnées, aurait des effets dévastateur.

Partager sur:
Sauvegarder cet article
Aimer cet article 0
Photo by Alex Knight on Unsplash - https://unsplash.com/photos/2EJCSULRwC8

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Intelligence artificielle : évitons son utilisation politique

Publié le 6 août 2020
- A +

Par Gaël Campan et Alexandre Massaux1.
Un article de l’Institut économique de Montréal

Une technologie n’est pas bonne ou mauvaise en soi, c’est son utilisation qui l’est. L’intelligence artificielle n’échappe pas à cette règle. Elle est un outil prometteur en termes d’aide à la décision en permettant de simplifier le traitement des données et des informations.

Toutefois, l’IA est parfois vue comme un moyen de révolutionner le système politique et de promouvoir un monde où la décision pourrait être un produit des algorithmes de l’IA. Cette approche se révèle plus que problématique compte tenu des dérives qu’elle engendrerait. En effet, si nous ne faisons pas attention, l’IA peut être un outil de contrôle et de centralisation très efficace qui, entre des mains mal intentionnées, aurait des effets dévastateurs.

Le contrôle des données et des informations : un nouvel enjeu majeur

Les algorithmes sont capables d’identifier les tendances politiques des individus grâce aux regroupements de leurs goûts ou achats sur internet. Comme le mentionne une étude du Future of Humanity Institute de l’université d’Oxford :

Une personne qui n’achète que des aliments végans est statistiquement plus susceptible de soutenir les politiques d’égalité des sexes. Un acteur qui dispose de données sur les achats pourrait alors faire une affirmation probabiliste sur l’inclination politique de cette personne. S’il dispose également d’informations indiquant que la personne s’est trouvée à proximité géographique de l’endroit où se trouve des événements politiques, il peut alors déduire avec une forte probabilité que la personne a de telles opinions.

Cet exemple démontre que même des données non politiques peuvent être utilisées afin de déterminer le profil politique d’une personne.

Dès lors, si l’acteur qui possède ces informations est animé d’intentions politiques, il lui sera facile de détecter ses partisans mais surtout ses adversaires. Et si l’acteur en question est un État, il lui est aisé d’utiliser ces algorithmes pour discriminer et détecter quelle personne est susceptible de lui causer du tort avant même qu’elle agisse.

L’étude citée met en avant que cette stratégie permet à un régime de réprimer de manière plus ciblée et discrète : il est possible d’éviter la propagation d’une opposition en l’étouffant avant qu’elle ne prenne de l’ampleur.

La tentation de la centralisation doit être repoussée : l’exemple chinois

Si cette situation donne l’impression qu’il s’agit d’un scénario d’une œuvre de science-fiction ou d’une dystopie, elle existe pourtant déjà en Chine. Le système de crédit social développé par les autorités chinoises offre un exemple de l’utilisation de l’IA à des fins autoritaires.

Si l’application de ce système est pour l’instant dirigée au niveau local par les provinces et municipalités, il démontre déjà une situation inquiétante pour les libertés quotidiennes des citoyens. En effet, en fonction du comportement du citoyen chinois, ce dernier gagne (par exemple en donnant son sang) ou perd (en promenant son chien sans laisse à Shanghai) des points de crédit social. Un score faible amène des restrictions comme l’interdiction de voyager en avion.

La multiplication de caméras de surveillance et la volonté du gouvernement chinois de centraliser ce système font craindre une accentuation de ce phénomène. Dans ce système, les autorités qui contrôlent ces algorithmes peuvent décider qui est un bon ou un mauvais citoyen à travers des comportements qui ne sont pas illégaux.

Un risque de contagion dans les démocraties

Enfin, il ne faut pas croire qu’une telle stratégie ne pourrait pas percer à terme dans le monde occidental. Rappelons que la surveillance de masse existe déjà dans nos pays : les révélations d’Edward Snowden en 2013, ont montré que la NSA collecte massivement des données personnelles des citoyens américains et étrangers.

De plus, ces derniers mois ont montré une gouvernance très paternaliste. Et des restrictions, qui auraient semblé impensables à mettre en œuvre quelques mois avant, ont été mises en place. Le gouvernement chinois a défendu ce modèle de crédit social en le présentant comme un moyen d’assurer la confiance entre les membres de la société et le bien-être du pays.

Les grandes causes politiques ou les motifs légitimes sont souvent utilisés comme prétextes pour faire passer des mesures liberticides. Il s’agit dès lors d’être vigilant de toute utilisation de l’IA par un acteur en mesure d’avoir de l’autorité sur les individus.

  1. Gaël Campan et Alexandre Massaux sont respectivement économiste sénior et chercheur à l’Institut économique de Montréal
Voir les commentaires (6)

Laisser un commentaire

Créer un compte Tous les commentaires (6)
  • Imaginons un instant que l’Etat réfléchisse plus comme une entreprise privée : il constate qu’il y a plus de personnes vegans, donc plus de demande d’égalité des sexes. Pour satisfaire cet électorat (sa clientèle) et continuer à être choisi, il s’engagera dans plus d’égalité des sexes.
    Pourquoi l’Etat (et les élus) chercherait-il systématiquement à se maintenir en combattant les idées, quelles soient minoritaires ou majoritaires, au lieu de répondre favorablement aux tendances générales ?

    • Tout à fait, A.dolf ne voulait que le bien de son peuple mis à genoux par la crise économique.

      • Alan, vous oscillez toujours entre trollisme et commentaire vraiment euh… peu utile.

        • Vous appelez trollisme ou inutile de rappeler que sous couvert de répondre aux idées et tendances générales du peuple (et en les exacerbant) les pires dictateurs ont pris le pouvoir.

          L’état n’est pas une entreprise privée : il n’y a pas de conseil général où les actionnaires peuvent virer le PDG chaque année en fonction des résultats comptables et des dérives idéologiques de la direction.

          Drôle d’idée de venir vendre de l’étatisme sur CP comme étant une valeur marchande.

  • Intelligence artificielle ? La méthode bête naturelle consistant à remplacer les points de crédit social par des réductions d’impôt et des amendes de 135€…

  • Les commentaires sont fermés.

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Par Vibhu Vikramaditya.

L'annulation de l'arrêt Roe v. Wade est une décision historique qui confirme le principe le plus élevé d'une république. Une république naît de la liberté d'association, de la même manière que les individus se regroupent pour former une famille, que celles-ci se regroupent pour former une communauté et que les communautés se regroupent pour former une société.

Dans une situation idéale de gouvernance fondée sur la loi, ceux qui donnent la loi et ceux qui la respectent doivent être les mêmes, car ce n'est ... Poursuivre la lecture

Nous sommes à l’aube d’une nouvelle rupture technologique qui pourrait, à terme, bouleverser le marché de l’emploi. Le développement des solutions d’intelligence artificielle sur des pans entiers du marché de l’emploi aura des externalités positives indéniables, encore trop mal perçues des travailleurs.

Des transformations structurelles sans destruction massive

Selon le rapport de référence « Automatisation, numérisation et emploi » du Conseil d’orientation pour l’emploi (janvier 2017), moins de 10 % des emplois existants seront menacé... Poursuivre la lecture

fonctionnaires démocratie malade
0
Sauvegarder cet article

L’élection présidentielle est finie depuis le 24 avril et le Conseil constitutionnel a officialisé les résultats du second tour avec la victoire d’Emmanuel Macron, comptabilisant 58,55 % des suffrages exprimés. Pour autant, loin d’être une victoire éclatante qui exprimerait le ralliement des citoyens français à son programme, le résultat du second tour à de quoi inquiéter.

En effet, en tenant compte non pas des suffrages exprimés mais des inscrits, Emmanuel Macron fait 38,52 % avec une abstention (abstention stricto sensu + votes nuls ... Poursuivre la lecture

Voir plus d'articles