Reconnaissance faciale et bavure faciale

Les retours d’expérience de reconnaissances faciales sont un véritable fiasco : il y a des inquiétudes à avoir sur ces solutions sécuritaires vendues comme miraculeuses.

Partager sur:
Sauvegarder cet article
Aimer cet article 0
Photo by Tobias Tullius on Unsplash - https://unsplash.com/photos/4dKy7d3lkKM

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Reconnaissance faciale et bavure faciale

Publié le 30 juin 2020
- A +

Par Yannick Chatelain.

Toutes les études et recherches faites sur le sujet en France à l’instar, par exemple, de « L’évaluation des politiques publiques de sécurité : résultats et enseignements de l’étude d’un programme de vidéosurveillance de la ville de Montpellier1 », comme à l’étranger (études ayant été synthétisées dans une méta-évaluation) tendent à démontrer les faiblesses de la vidéosurveillance à des fins préventives.

Dans ses travaux, Guillaume Gormand note que les critiques formulées contre le modèle britannique de déploiement de la vidéosurveillance de masse par Martin Gill2, peuvent s’appliquer au processus français engagé depuis les années 2007 aboutissant à un toujours plus de la même chose « perverse » qui défie la raison :

« Pendant les années 1990, le gouvernement britannique a présenté la situation ainsi aux collectivités locales : si vous avez des problèmes d’insécurité, la vidéosurveillance peut vous aider. Vous obtiendrez des fonds pour en installer dans votre ville. Vous êtes libres de choisir un autre dispositif, mais dans ce cas vous n’obtiendrez pas d’aide financière ».

 

Une doctrine orwellienne mise à mal

Par-delà la méta-évaluation évoquée, des faits traumatisants comme les attentats du Bataclan feront l’objet d’une déclaration péremptoire de monsieur Estrosi, qui pointera alors une politique de la ville déficiente en matière de caméra de vidéo surveillance, qui aurait pu, selon ses propos d’alors, éviter cette horreur.

« Avec 999 caméras, et une caméra pour 343 habitants [alors qu’] à Paris, il y en a une pour 1532, je suis à peu près convaincu que si Paris avait été équipée du même réseau que le nôtre, les frères Kouachi n’auraient passé trois carrefours sans être neutralisés et interpellés. »

Cette déclaration, certes caricaturale, reflétait une « doctrine » 3 d’alors (mot très à la mode actuellement, devenu un #buzzword) loin d’être anodine puisque marginalisant totalement la science en se fondant exclusivement sur des intuitions et des croyances.

La ville de Nice poursuivra d’ailleurs cette fuite en avant, devenant la ville la plus vidéosurveillée de France. Cette fuite en avant, n’empêchera malheureusement pas l’horreur du 14 juillet.

Une logique perverse de déploiement, des mises en échec récurrentes de ces solutions attentatoires aux libertés publiques pour prévenir les délits et les crimes, voilà qui ne décourage pas pour autant les promoteurs de l’édification d’une société orwelienne, intégrant une télésurveillance massive.

La doctrine originelle mise à mal n’a alors fait qu’évoluer. Ceux que je qualifierais d’ Orwelliens se sont appuyés sur un nouvel argument, explicitant une efficience qui n’est pas au rendez-vous : l’absence de couplage des caméras de vidéosurveillance avec la reconnaissance faciale.

Les motivations d’un tel discours à même de trouver une écoute favorable peuvent être diverses.

Trois m’apparaissent prégnantes :

  1. Faute de savoir, une sincérité dans la croyance en une efficacité préventive de ce type de solution.
  2. Une réponse et une exploitation politique de cette croyance pour rassurer une population en attente d’une société plus sécurisée dans une période où elle est perçue comme plus violente, un sentiment de violence paradoxalement plus élevé que les statistiques.
  3. Une motivation mercantile amenant certains acteurs à vanter les mérites sécuritaires de ce marché prometteur (le marché de la reconnaissance faciale au service de la surveillance de masse était estimé à 4,55 milliards d’euros dans le monde en 2019, par le cabinet d’analyse Mordor Intelligence, et devraient dépasser les 9 milliards d’euros en 2025).

 

Coupler une approche préventive non fonctionnelle prouvée scientifiquement à une approche dysfonctionnelle avérée est intellectuellement discutable.

N’est-il pas alors légitime de s’interroger devant cette manne financière annoncée sur la responsabilité sociale des entreprises à défendre une liberté démocratique fondamentale : la liberté de circuler de façon anonyme ?

 

Pour rappel

Les retours d’expérience de reconnaissances faciales sont un véritable fiasco (cf. « Facial Rekognition » d’Amazon peu concluante), s’il ne faut en citer qu’une, parmi tant d’autres, l’expérience menée sur le pont Robert F. Kennedy confirme les inquiétudes à avoir sur ces solutions sécuritaires vendues comme miraculeuses, mais déficientes parce que soumises à des biais algorithmiques non contournables !

C’est dans un contexte de tensions raciales extrêmes aux États-Unis, sur fond de violence de certains policiers, qu’IBM annonçait se retirer du marché de la reconnaissance faciale, tandis qu’Amazon annonçait que son logiciel de reconnaissance faciale, Rekognition, ne serait plus utilisé par la police américaine pendant une durée de un an.

Notons que dans la même période, pour combattre le même fléau et protéger les forces de l’ordre d’accusations infondées, et les citoyens de la violence – potentiellement discriminante – de quelques individus, la gouvernance française s’engageait elle sur le terrain de l’usage des caméras-piétons pour nos forces de l’ordre, des caméras-piétons qui seraient pourtant déjà sujettes à caution

On a coutume de dire de façon populaire que la France fait, et ce dans bien des domaines, les mêmes erreurs que les États-Unis avec dix années de retard.

Cela doit-il invariablement se répéter ? Tandis que des entreprises américaines de renom font un pas en arrière, était-ce le moment en France de faire un pas en avant vers, à terme, les visiophones (caméras) ring ;  et se diriger si promptement vers des risques de suraccidents ?

 

La première bavure faciale

Pour ceux qui verraient dans mon propos un alarmisme fantasmé, la première bavure faciale à déjà eu lieu début janvier, loin du barnum médiatique :

« Dans la banlieue de Detroit un Afro-Américain a – après avoir été arrêté à tort devant ses enfants – passé 30 heures en détention parce qu’un logiciel de reconnaissance faciale utilisé par la police avait estimé à tort que le visage d’un voleur, capturé par une caméra de surveillance alors qu’il dérobait une bijouterie, était identique à la photo de son permis de conduire. »

Cette bavure a pu contribuer à faire reculer les géants du Net, momentanément pour certains, définitivement pour d’autres, dans une période de très haute tension raciale aux États-Unis.

En France, nos forces de l’ordre, de conflit en conflit, apparaissent de plus en plus épuisées, démunies, et désemparées ; et certains citoyens de plus en plus désespérés, se mettent à craindre et redouter les forces de l’ordre !

Une situation de défiance mutuelle qui n’a pas lieu d’être en démocratie. Une situation bien éloignée de la communion post attentats, une situation qui n’intègre pas dans la réflexion les seuls responsables : les donneurs d’ordres.

La solution d’apaisement ne sera pas certainement pas technologique : à quoi servira un pansement gadget déficient, si ce n’est à attiser la défiance ? Les mots qui reviennent de façon récurrente sont :

  • des moyens réels ;
  • de la formation à la hauteur de ce qui est prévu pour les forces de l’ordre ;
  • des donneurs d’ordres aguerris aux réalités du terrain.

 

Voilà qui permettra à la police de  respecter sa devise « Pro patria vigilant » (« Ils veillent pour la Patrie »), et à la gendarmerie de respecter la sienne, « Pour la patrie, l’honneur et le droit. »

Aux citoyens de respecter inconditionnellement ces deux piliers indispensables à notre démocratie, sans jamais avoir, hors en se mettant hors la loi, ni à les redouter, ni à les craindre.

« Chacun de nous est responsable de tout devant tous. » Fiodor Dostoïevski

  1. Guillaume Gormand, L’évaluation des politiques publiques de sécurité : résultats et enseignements de l’étude d’un programme de vidéosurveillance de la Ville de Montpellier. Droit. Université Grenoble Alpes, 2017. Français. NNT : 2017 GREAD014. tel-02439529
  2. Gill, Martin, « Using technologies for prevention », communication orale tenue le 13 décembre 2012 à Saint Denis, pendant la Conférence 2012 du Forum Européen pour la Sécurité Urbaine « Security, Democracy and Cities : the futur of prevention » des 12-14 décembre 2012. Nous traduisons depuis l’anglais : « During the 90’s, the UK government said to local community ‘if you have crime problems, CCTV can help you. You’ll get some money to install it in your town. You’re free to chose an other tool, but if you do, you won’t get any money’ »
  3. Ensemble de notions qu’on affirme être vraies et par lesquelles on prétend fournir une interprétation des faits, orienter ou diriger l’action.
Voir les commentaires (12)

Laisser un commentaire

Créer un compte Tous les commentaires (12)
  • Je suis pour les caméras, pourquoi :
    Premièrement, c’est dissuasif, on n’agit pas de la même façon devant témoin.
    Deuxièmement, ça aide dans les recherches des personnes et peut aussi prouver des actes délictueux.
    Des affaire récentes demontre que le smartphone généralisé à un intérêt pour la justice non ?

    • 1) dissuasif . ca reste a prouver. nice est la ville la plus video surveillee et c est pas la ville la plus sure de france et de loin. De toute facon aucune camera va arreter un criminel avec ses petits bras musclés
      2) possible mais ca peut aussi (voire plus) permettre de surveiller le citoyen moyen (savoir ou vous allez, qui vous rencontrez, ce que vous achetez …). Le prix en vaut il la chandelle ?
      La plupart du temps on est capable de trouver les criminels sans cameras (et de toute facon les prisons sont pleines). L argent sera t il pas mieux utilisé en employant de plus de policiers que plus de cameras

      • En fait, avoir des caméras ne sert à rien si derrière, il n’y a pas une IA qui va remonter des « anomalies » (type « person of interest » si vous connaissez la série).
        Sinon il faudrait un homme derrières pas mal d’écran par secteur pour monitorer en temps réel tout ce qu’il se passe… Impossible ^^

        • vous etes dans l illusion techno. l IA actuelle est incapable de faire ce que vous dites. lisez l article, elle est deja pas capable de reconnaitre les gens passant sur un pont, alors etre capable de savoir si l image represente une aggression ou 2 personnes qui se saluent jovialement ….

  • Les photographes connaissent la difficulté qu’il y a à maîtriser l’éclairage nécessaire aux peaux très foncées – ce qui rend d’ailleurs si intéressant le travail de photographes comme Malick Sidibé et Seydou Keïta -.
    Il semblait donc prévisible que les logiciels, développés initialement pour les peaux claires « foirent » dans la reconnaissance faciale des individus à peau foncée.

    Pour le cas particulier de la première « bavure », la très mauvaise qualité de la vidéo de surveillance ne permettait absolument pas de reconnaître le visage, mais il y avait clairement une correspondance dans l’apparence physique globale. Si la police avait réfléchi un peu, elle se serait contentée au plus d’une demande d’alibi sans arrestation. Les mauvaises langues diront qu’à l’impossible nul n’est tenu….

  • Apres avoir fait un sejour en chine, ca fait reflechir. Un chinois ne peut prendre le train sans reconaissance faciale. ET si vous etes pas dans la ligne du parti (credit social) vous ne pouvez prendre le train.
    A pekin, la police est capable de vous localiser en quelques minutes (un journaliste anglais s etait amusé a ca avec la collaboration de la police)

    Est ce qu on veut ca chez nous ?

  • La reconnaissance faciale ne permet pas de reconnaître les pervers. La France s’en est aperçue, mais trop tard.
    On aurait du, il y a longtemps, interdire le pneumatique au prétexte qu’il y avait des crevaisons. et peut -être la médecine, car au début , très peu étaient guéris !

    • disons que la video surveillance c est comme les dirigeables. idee prometteuse mais cul de sac techno.
      Il y a plein d idee qui semblaient bonne et qui finalement ne l etaient pas. Dans le cas de la video surveillance, on voit tres bien les inconvenient mais les avantages eux semblent hors d atteinte. donc pourquoi ne pas mettre les ressources ailleurs ?

  • Délicat sujet… entre vidéosurveillance, vidéotranquilité, vidéoprotection, les mots sont trompeurs/rassurants. Qui pourrait dire à un proprio de magasin qu’il ne veut pas y aller car il y a des caméras de surveillance ?

  • Les commentaires sont fermés.

La liberté d’expression n’est pas gratuite!

Mais déductible à 66% des impôts

N’oubliez pas de faire un don !

Faire un don

Le 23 mars 2023, l'Assemblée nationale approuvait l'article 7 du projet de loi olympique, qui se fixait entre autres buts d'analyser les images captées par des caméras ou des drones, pour détecter automatiquement les faits et gestes potentiellement à risques.

Pour être plus précis, l’article adopté prévoyait « l'utilisation, à titre expérimental, de caméras dont les images seront analysées en temps réel par l'IA. Ces caméras pourront détecter, en direct, des événements prédéterminés susceptibles de présenter ou de révéler des actes de ... Poursuivre la lecture

L’intelligence artificielle déchaîne les passions depuis plusieurs décennies et la maturité de certains algorithmes en vient à relancer le débat sur leur utilisation et leur effet disruptif sur les métiers d’aujourd’hui. De nombreux experts craignent à juste titre une dépossession du libre arbitre des humains au profit de l’intelligence artificielle, a fortiori lorsque le point de singularité technologique sera atteint.

Néanmoins, si cette prospective est tout à fait plausible, c’est aussi en raison de l’engouement persistant par les d... Poursuivre la lecture

Article disponible en podcast ici.

À la chute de l’URSS, l’élite européenne a perdu son modèle de bonheur et de prospérité. Heureusement, elle semble avoir fait le deuil des 100 millions de morts de son idéologie préférée. Car seulement 30 ans après la chute de l’URSS, la voilà de nouveau en marche pour contrôler nos vies et notre économie.

Depuis maintenant 30 ans, notre élite copie sur son nouveau maître à penser chinois qui lui souffle toutes les tendances autoritaires.

Le score social est bien arrivé en Europe, votre ... Poursuivre la lecture

Voir plus d'articles