L’effet Hawthorne : les mensonges technologiques qui menacent nos démocraties

surveillance By: jar - CC BY 2.0

Voulons-nous poursuivre la fuite en avant et en aveugle vers une société du contrôle ?

Par Yannick Chatelain.
Un article de The Conversation

Le déploiement de technologies dédiées à la surveillance (#TDS) sur Internet comme sur la voie publique s’accélère. Qu’importe les régimes ! Sous couvert de protection des citoyens, il se profile pas à pas une société de contrôle des individus pour les individus et par la technologie !

Problématiques relatives aux libertés publiques

Dans nos démocraties comme de par le monde, la menace terroriste qui signe notre époque légitimerait tant le développement d’algorithmes en charge de la surveillance des usagers du net que le développement de la vidéo surveillance sur la voie publique. Certains souhaitant, par ailleurs, systématiser le couplage de cette vidéo surveillance avec de la reconnaissance faciale.

Nos démocraties font aujourd’hui face à un choix de société.

Voulons-nous poursuivre la fuite en avant et en aveugle vers une société du contrôle ? Un choix kafkaïen : il s’agirait de faire cohabiter le mot « démocratie » en portant régulièrement atteinte à des libertés publiques fondamentales qui en sont le socle !

Problématiques relatives à l’efficacité des TDS

En 2016, Christian Estrosi avait déclaré à propos des tueries de Charlie Hebdo et de l’Hyper Cacher :

Si Paris avait été équipée du même réseau (de caméras) que le nôtre, les frères Kouachi n’auraient pas passé trois carrefours sans être neutralisés et interpellés.

Il vous faut savoir que Nice est la ville la plus vidéosurveillée de France : de 220 caméras en 2007, on était passé selon la ville à plus de 2600 caméras au 15 mai 2019. Faut-il rappeler que cet arsenal n’a en rien empêché l’attaque au camion bélier du 14 juillet 2016. Une tuerie sous état d’urgence qui a fait 86 morts et 468 blessés.

Pour ce qui est du terrorisme, l’efficacité de la vidéosurveillance sur la voie publique est-elle probante ? Les partisans d’une fuite en avant argumentent – et c’est leur droit – que l’efficacité de la vidéosurveillance doit passer par le couplage de celle-cila avec la reconnaissance faciale. Une piste qui – outre ce qui va suivre – contreviendrait à un droit essentiel en « démocratie » : la liberté d’aller et venir anonymement !

L’exemple de l’attentat de Nice ne peut permettre de tirer des conclusions hâtives. Cependant, lorsque les constats d’échec des TDS se multiplient nous sommes en droit de nous interroger !

En matière de reconnaissance faciale, certains faits sont édifiants.

La MTA (Metropolitan Transportation Authority), qui avait initié en 2018 un projet de reconnaissance faciale des conducteurs traversant le pont Robert F. Kennedy à New York, a été bien malgré elle placée devant un échec cuisant.

Le Wall Street Journal, qui avait eu accès à un courrier électronique interne du MTA en date du 29 novembre 2018, titrait le 7 avril 2019 : « La première tentative du MTA dans la reconnaissance faciale à grande vitesse est un fiasco ». Titre péremptoire ? Vous apprendrez que ce mail évoquait un taux de réussite de 0 %  pour identifier un visage « avec des paramètres acceptables ».

Comme le note la Quadrature du Net, en Chine,

la société SenseTime se vante de pouvoir identifier un individu qui commet une  incivilité dans la rue, afin d’afficher son visage sur des écrans géants et le soumettre au mépris public.

Le verbe « vanter » au regard de l’expérience désastreuse de la MTA est… pertinent ! La Quadrature du Net rappelle de nombreux événements où l’usage de la reconnaissance faciale a montré ses limites et a mené à des identifications erronées.

En matière de TDS, la reconnaissance faciale tente maladroitement de prendre pied en France au travers d’applications comme Alicem.

Il est étonnant que cette application gouvernementale – en l’état – s’autorise à violer allégrement les règles du règlement général sur la protection des données (RGPD). En outre, en matière de TDS – si des boîtes noires ont été déployées par le pouvoir pour surveiller les internautes français, nous ne disposons à ce jour d’aucun bilan démontrant une efficacité tangible !

Mais in fine, que les TDS soient efficaces ou non, quelle importance au regard des impacts comportementaux que leur déploiement engendre, et va continuer à engendrer dans nos « démocraties » ?

« L’effet Hawthorne » appliqué au TDS

De 1924 à 1932 les sociologues Elton Mayo, Fritz Roethlisberger et William Dickson s’étaient attachés à étudier les effets d’une amélioration des conditions de travail – entre autres la lumière – sur la productivité dans l’usine Western Electric de Cicero : la Hawthorne Works, « l’effet Hawthorne ».

Il s’est avéré que lorsque les conditions d’éclairage s’amélioraient, la productivité progressait. Les résultats obtenus – après avoir informé les ouvrières qu’elles faisaient l’objet d’une expérimentation – tendent à prouver que

l’explication de résultats, positifs ou négatifs, ne sont pas dus aux facteurs expérimentaux, mais à l’effet psychologique d’avoir conscience d’être le groupe étudié dans une recherche.

The Western Electric Company, dans l’Illinois, en 1925.
Western Electric Company

 

À travers le prisme de l’effet Hawthorne, ne pouvons-nous pas postuler que l’efficacité ou non des TDS est, in fine, « sans la moindre importance » ?

Ne devrions-nous pas nous interroger sur leur impact sociologique ? Sur les divers changements comportementaux des citoyens qui se savent l’objet d’une surveillance algorithmique opaque on et off line ?

L’important n’est-il pas que le citoyen se sache épié ? Ne pouvons-nous pas émettre l’hypothèse que – dans le cadre des boîtes noires par exemple – les citoyens informés soient susceptibles de changer leurs usages et adopter des postures hawthornienne qui altèrent profondément un mode de fonctionnement démocratique ?

Cela ne peut-il pas générer de l’autocensure ?

Cela ne peut-il pas augmenter le recours systématique – par ceux qui disposent d’un savoir technologique suffisant – à des outils garantissant un anonymat relatif ?

Pour les plus fragiles – et je laisse là le soin aux psychiatres et aux psychologues de nous éclairer – la multiplication d’outils de surveillance des citoyens et de leurs comportements – que ces derniers soient fonctionnels ou pas – s’ils sont portés à connaissance du plus grand nombre est-elle une approche saine et sans conséquence sur les comportements et la santé mentale ? Cette approche – sous des objectifs louables – n’est-elle pas susceptible de déclencher des pathologies latentes, voire de les aggraver chez les personnes les plus vulnérables : paranoïa, etc. ?

Merci de votre retour. yannick.chatelain@grenoble-em.com

À mesure que le monde devient de plus en plus étrange, une sorte de dictature de la normalité se met en place. Surtout sur le Web. Tim Burton

Yannick Chatelain, Enseignant Chercheur. Head of Development. Digital I IT, Grenoble École de Management (GEM)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

The Conversation

Vous souhaitez nous signaler une erreur ? Contactez la rédaction.