Reconnaissance faciale et bavure faciale

Photo by Tobias Tullius on Unsplash - https://unsplash.com/photos/4dKy7d3lkKM — Tobias Tullius,

Les retours d’expérience de reconnaissances faciales sont un véritable fiasco : il y a des inquiétudes à avoir sur ces solutions sécuritaires vendues comme miraculeuses.

Par Yannick Chatelain.

Toutes les études et recherches faites sur le sujet en France à l’instar, par exemple, de « L’évaluation des politiques publiques de sécurité : résultats et enseignements de l’étude d’un programme de vidéosurveillance de la ville de Montpellier1 », comme à l’étranger (Études ayant été synthétisées dans une méta-évaluation) tendent à démontrer les faiblesses de la vidéosurveillance à des fins préventives.

Dans ses travaux, Guillaume Gormand note que les critiques formulées contre le modèle britannique de déploiement de la vidéosurveillance de masse par Martin GILL2, peuvent s’appliquer au processus français engagé depuis les années 2007 aboutissant à un toujours plus de la même chose « perverse » qui défie la raison :

« Pendant les années 1990, le gouvernement britannique a présenté la situation ainsi aux collectivités locales : “si vous avez des problèmes d’insécurité, la vidéosurveillance peut vous aider. Vous obtiendrez des fonds pour en installer dans votre ville. Vous êtes libres de choisir un autre dispositif, mais dans ce cas vous n’obtiendrez pas d’aide financière” ».

Une doctrine orwellienne mise à mal

Par-delà la méta-évaluation évoquée, des faits traumatisants comme les attentats du Bataclan feront l’objet d’une déclaration péremptoire de monsieur Estrosi, qui pointera alors une politique de la ville déficiente en matière de caméra de vidéo surveillance, qui aurait pu, selon ses propos d’alors, éviter cette horreur.

« Avec 999 caméras, et une caméra pour 343 habitants [alors qu’] à Paris, il y en a une pour 1532, je suis à peu près convaincu que si Paris avait été équipée du même réseau que le nôtre, les frères Kouachi n’auraient passé trois carrefours sans être neutralisés et interpellés. »

Cette déclaration, certes caricaturale, reflétait une « doctrine » 3 d’alors (mot très à la mode actuellement, devenu un #buzzword) loin d’être anodine puisque marginalisant totalement la science en se fondant exclusivement sur des intuitions et des croyances.

La ville de Nice poursuivra d’ailleurs cette fuite en avant, devenant la ville la plus vidéosurveillée de France. Cette fuite en avant, n’empêchera malheureusement pas l’horreur du 14 juillet.

Une logique perverse de déploiement, des mises en échec récurrentes de ces solutions attentatoires aux libertés publiques pour prévenir les délits et les crimes, voilà qui ne décourage pas pour autant les promoteurs de l’édification d’une société orwelienne, intégrant une télésurveillance massive.

La doctrine originelle mise à mal n’a alors fait qu’évoluer. Ceux que je qualifierais d’ Orwelliens se sont appuyés sur un nouvel argument, explicitant une efficience qui n’est pas au rendez-vous : l’absence de couplage des caméras de vidéosurveillance avec la reconnaissance faciale.

Les motivations d’un tel discours à même de trouver une écoute favorable peuvent être diverses. Trois m’apparaissent prégnantes :

  • Faute de savoir, une sincérité dans la croyance en une efficacité préventive de ce type de solution.
  • Une réponse et une exploitation politique de cette croyance pour rassurer une population en attente d’une société plus sécurisée dans une période où elle est perçue comme plus violente, un sentiment de violence paradoxalement plus élevé que les statistiques.
  • Une motivation mercantile amenant certains acteurs à vanter les mérites sécuritaires de ce marché prometteur (le marché de la reconnaissance faciale au service de la surveillance de masse était estimé à 4,55 milliards d’euros dans le monde en 2019, par le cabinet d’analyse Mordor Intelligence, et devraient dépasser les 9 milliards d’euros en 2025).

Coupler une approche préventive non fonctionnelle prouvée scientifiquement à une approche dysfonctionnelle avérée est intellectuellement discutable.

N’est-il pas alors légitime de s’interroger devant cette manne financière annoncée sur la responsabilité sociale des entreprises à défendre une liberté démocratique fondamentale : la liberté de circuler de façon anonyme ?

Pour rappel

Les retours d’expérience de reconnaissances faciales sont un véritable fiasco (cf. « Facial Rekognition » d’Amazon peu concluante), s’il ne faut en citer qu’une, parmi tant d’autres, l’expérience menée sur le pont Robert F. Kennedy confirme les inquiétudes à avoir sur ces solutions sécuritaires vendues comme miraculeuses, mais déficientes parce que soumises à des biais algorithmiques non contournables !

C’est dans un contexte de tensions raciales extrêmes aux États-Unis, sur fond de violence de certains policiers, qu’IBM annonçait se retirer du marché de la reconnaissance faciale, tandis qu’Amazon annonçait que son logiciel de reconnaissance faciale, Rekognition, ne serait plus utilisé par la police américaine pendant une durée d’un an.

Notons que dans la même période, pour combattre le même fléau et protéger les forces de l’ordre d’accusations infondées et les citoyens de la violence – potentiellement discriminante – de quelques individus, la gouvernance française s’engageait elle sur le terrain de l’usage des caméras piétons pour nos forces de l’ordre, des caméras piétons qui seraient pourtant déjà sujettes à caution

On a coutume de dire de façon populaire que la France fait, et ce dans bien des domaines, les mêmes erreurs que les États-Unis avec… dix années de retard.

Cela doit-il invariablement se répéter ? Tandis que des entreprises américaines de renom font un pas en arrière, était-ce le moment en France de faire un pas en avant vers, à terme, les visiophones (caméras) ring ; et se diriger si promptement vers des risques de suraccidents ?

La première bavure faciale

Pour ceux qui verraient dans mon propos un alarmisme fantasmé, la première bavure faciale à déjà eu lieu début janvier, loin du barnum médiatique : « dans la banlieue de Detroit un Afro-Américain a – après avoir été arrêté à tort devant ses enfants – passé 30 heures en détention parce qu’un logiciel de reconnaissance faciale utilisé par la police avait estimé à tort que le visage d’un voleur, capturé par une caméra de surveillance alors qu’il dérobait une bijouterie, était identique à la photo de son permis de conduire. »

Cette  bavure a pu contribuer à faire reculer les géants du Net, momentanément pour certains, définitivement pour d’autres, dans une période de très haute tension raciale aux États-Unis.

En France, nos forces de l’ordre, de conflit en conflit, apparaissent de plus en plus épuisées, démunies, et désemparées ; et certains citoyens de plus en plus désespérés, se mettent à craindre et redouter les forces de l’ordre !

Une situation de défiance mutuelle qui n’a pas lieu d’être en démocratie. Une situation bien éloignée de la communion post attentats, une situation qui n’intègre pas dans la réflexion les seuls responsables : les donneurs d’ordres.

La solution d’apaisement ne sera pas certainement pas technologique : à quoi servira un pansement gadget déficient, si ce n’est à attiser la défiance ? Les mots qui reviennent de façon récurrente sont :

  • des moyens réels ;
  • de la formation à la hauteur de ce qui est prévu pour les forces de l’ordre ;
  • des donneurs d’ordres aguerris aux réalités du terrain.

Voilà qui permettra à la police de  respecter sa devise « Pro patria vigilant » (« Ils veillent pour la Patrie »), et à la gendarmerie de respecter la sienne, « Pour la patrie, l’honneur et le droit. »

Aux citoyens de respecter inconditionnellement ces deux piliers indispensables à notre démocratie, sans jamais avoir, hors en se mettant hors la loi, ni à les redouter, ni à les craindre.

« Chacun de nous est responsable de tout devant tous. » Fiodor Dostoïevski

  1. Guillaume Gormand, L’évaluation des politiques publiques de sécurité : résultats et enseignements de l’étude d’un programme de vidéosurveillance de la Ville de Montpellier. Droit. Université Grenoble Alpes, 2017. Français. NNT : 2017 GREAD014. tel-02439529
  2. Gill, Martin, « Using technologies for prevention », communication orale tenue le 13 décembre 2012 à Saint Denis, pendant la Conférence 2012 du Forum Européen pour la Sécurité Urbaine « Security, Democracy and Cities : the futur of prevention » des 12-14 décembre 2012. Nous traduisons depuis l’anglais : « During the 90’s, the UK government said to local community ‘if you have crime problems, CCTV can help you. You’ll get some money to install it in your town. You’re free to chose an other tool, but if you do, you won’t get any money’ »
  3. Ensemble de notions qu’on affirme être vraies et par lesquelles on prétend fournir une interprétation des faits, orienter ou diriger l’action.
Vous souhaitez nous signaler une erreur ? Contactez la rédaction.