Ce mariage entre GAFA et État qui pourrait faire disparaître la liberté d’expression

facebook data security By: Book Catalog - CC BY 2.0

Le « GafamAlgo » made in France : lutte contre la haine ou nouveau pesticide pour la liberté d’expression ?
OPINION

Par Yannick Chatelain.

Le président de la République Emmanuel Macron a annoncé le lundi 12 novembre, dans un discours au Forum sur la gouvernance de l’Internet, la mise en place d’un groupe de travail commun avec Facebook : une expérience pilote de corégulation inédite pour lutter contre les contenus racistes, antisémites, sexistes ou homophobes sur le Web. Voilà un bien étrange mélange des genres qui vient de s’engager. Une première mondiale s’il en est : Facebook va laisser plusieurs régulateurs français s’immiscer dans ses algorithmes pour vérifier qu’il lutte bien contre les discours haineux. Rien que cela. « Il y a un changement d’approche assez fondamental : on certifie les ‘process’ de ces entreprises, plutôt que de se contenter de leur demander une obligation de résultats ou une obligation de moyens », note-t-on à l’Élysée auprès de Reuters.

Pour un changement, rien à redire, c’en est un :  l’abandon de pouvoirs régaliens (surveillance et censure) à une poignée d’acteurs privés hégémoniques, comme le souligne La Quadrature du Net, ou tout du moins, une sorte de partage sans transparence. Voilà qui ne relève effectivement pas de l’anecdote. En ayant prétention de co-créer avec des États-Nation ce que je nommerai le « Gafamlgo » une sorte de round-up contre la haine sur Internet — ce qui, de prime abord, ne peut qu’apparaître que louable —  les choses se déroulent malheureusement comme à l’accoutumée.

Ayez confiance !

Tout comme pour la loi renseignement, tout comme pour le projet de loi fake news, n’ayez pas d’inquiétude. C’est naturellement pour votre bien, le mien, le nôtre. En douteriez-vous ? Internautes de peu de foi ! Si vous en doutez, c’est que vraiment vous voyez le mal partout, complotistes invétérés que vous êtes ! Permettez cependant que la liberté d’expression – notre fille à tous et toutes qui m’apparaît bien orpheline de #JesuisCharlie — doute que cela soit simplement pour son bien… Elle s’inquiète fortement que ce type d’alliance — qui m’apparaît contre nature — n’ouvre la boîte de pandore d’une censure tous azimuts par le pouvoir en place et les suivants, et ce bien au-delà des buts initiaux vertueux tels qu’ils sont présentés.

S’il est question de combattre la haine, je rappelle que pour ce qui concerne Facebook, par exemple, lorsqu’une publication contient un contenu délictueux, un simple signalement suffit pour que Facebook soit dans l’obligation de faire le nécessaire. Je rappelle en outre qu’il en est (en France) de même pour tous les contenus diffamants, haineux, délictueux, et ce quels que soient les supports, réseaux sociaux, sites… : les obligations légales des hébergeurs pour ce qui concerne les contenus ont commencé suite à la triste affaire Altern.org.  Comme le rappelle l’avocat Laurent Latapie : « La responsabilité de l’hébergeur ne peut être engagée a priori, car il est fort à parier que, par nature, ledit l’hébergeur n’avait pas effectivement connaissance du caractère répréhensible des publications de son client. Par contre, la responsabilité de l’hébergeur peut être engagée a posteriori, à la seule et unique condition que dès le moment où l’hébergeur a connaissance d’une problématique sur une publication, celui-ci n’a pas agi promptement pour retirer ces informations ou en rendre l’accès impossible. »

Ainsi, face à cette inédite expérimentation le citoyen est en droit de se poser quelques questions ?

  • Que vont véritablement vérifier ces régulateurs ?
  • Après audit de la politique mise en place par Facebook, — déjà assez douée et zélée pour la censure en matière d’art (cf. l’origine du monde). Si les régulateurs jugent que ce qu’ils font n’est pas assez musclé, que se passera-t-il  ? Je dois être un peu stupide — comme mes compatriotes — mais je ne vois pas bien ? Absence de pédagogie, je suppose. L’État va-t-il intervenir ? Le pouvoir va-t-il co-fabriquer des algorithmes plus à sa main ? Dans quel cadre institutionnel ? Qui va fixer la barre de ce que l’on nomme un message haineux dans le pays des Droits de l’homme, si fervent défenseur de la liberté d’expression ? L’État français ? L’État français et Facebook ? Sur quels critères ? À n’en pas douter, ils risquent d’être passionnants, ces algorithmes de la bienséance…

Dis Monsieur, « s’il vous plaît… dessine-moi un message haineux »

L’État envisage donc (de façon expérimentale) le partage d’un pouvoir régalien avec une Entreprise-Nation. En d’autres termes, il envisage d’abandonner une partie de notre souveraineté numérique à une entreprise privée. Pour aider ces innovateurs dans la fabrication d’un premier prototype de « GafamAlgo » avec Facebook, voici quelques phrases que je leur soumets, ensuite ils me diront ce qui va passer à la trappe  : censure ou pas ?

Phrase 1 : « La police est sur les dents, celles des autres évidemment » une invitation à la haine de la police ou un mot d’esprit de Boris Vian ? On censure ou pas ?

Phrase 2 : « Les chiffres sont accablants, il y a de plus en plus d’étrangers dans le monde » une incitation à la xénophobie ou une phrase de Pierre Desproges ? On censure ou pas ?

Phrase 3 : « Moi, j’adore manger et mon pire souvenir de ministre, c’est de manger quelque chose de super bon avec un connard. » N’est-ce pas une invitation à la haine de l’autre ça ? Traiter autrui de connard tout de même… Ah non, pardon c’est une interview de Cécile Duflot dans le journal Libération du 14 juillet 2017 – On peut poster les mots de madame la ministre ou on censure ?

Plus sérieusement, lorsqu’on fait appel à des entreprises ou à des citoyens pour faire la police en amont, nous engageons une démocratie sur une pente glissante ! Déplacer, transférer la responsabilité du respect de la loi à une personne morale ou physique, la mandater pour exercer la censure de ce qui relève de la haine sur Internet, pose — dans le cas qui nous préoccupe — plusieurs problèmes :

Tout d’abord l’opacité est une nouvelle fois au rendez-vous ! Ce qui se déroule à titre expérimental se fait hors débat démocratique et cela porte un nom. Ces méthodes d’interventionnisme par des tiers non légitimes ont déjà été appliquées ! La Stasi était très friande de ce qui se nomme « des collaborateurs informels » ; elle en comptera ainsi plus de 189 000 qui livreront des informations  au ministère de la sécurité d’État. Avec ses quelque 189 000 membres, le réseau des collaborateurs officieux a couvert à l’époque pratiquement tous les secteurs de la société est-allemande, « il constituera ainsi l’un des plus importants moyens de répression et appuis de la dictature du Parti socialiste unifié allemand. »

C’est certainement très amusant (sic) en dictature, mais en démocratie il appartient à la police de veiller à ce qu’un acte délictueux soit stoppé si elle l’identifie, ou s’il lui est signalé, et il appartient à la justice de passer. Jusqu’à preuve du contraire, il n’appartient ni à un citoyen ni à une entreprise de se substituer à cette dernière ou pire, de se charger de faire justice lui-même… Le « GafamAlgo » que j’évoque, s’il devait voir le jour, censurant de fait sans discussion, est tout à fait en capacité — selon l’usage qui en est fait — de présenter des analogies avec ces pratiques. Une poignée d’individus d’une entreprise privée pourrait se mettre au service d’une poignée d’hommes au pouvoir pour censurer bien au-delà de ce qui était prévu à l’origine.

Comprenez-moi bien, je ne vais pas polémiquer à nouveau sur la manière dont Facebook censure les œuvres d’art. C’est son problème, sa liberté, cela montre également ses limites… mais que l’État s’immisce dans son mode de gestion des messages de haine, là, une dérive grave est amorcée. C’est encore plus grave si, nonobstant une absence de débat public sur le bien-fondé de tels rapprochements, nos parlementaires ne sont pas consultés.

Si un État partage un pouvoir régalien — celui de la censure — avec une Entreprise-Nation, poussons le raisonnement plus loin : la critique de la gouvernance en place sera-t-elle considérée à court ou moyen terme comme un appel à l’insurrection, un acte séditieux, et de fait censurée d’office par un État co-définissant le niveau de la censure qu’il souhaite ?

#jesuischarlie où êtes-vous ?

Alors oui, il y a un changement d’approche assez fondamental : on certifie les process de ces entreprises  plutôt que de se contenter de leur demander une obligation de résultats ou une obligation de moyens. Quand j’observe ce genre d’initiative, devrons-nous demain rebaptiser notre Monde le Batxgafami ? Je m’interroge… Qui suis-je ? Suis-je un chercheur lucide qui alerte mes compatriotes sur ces rapprochements dangereux ? Suis-je un théoricien du complot qui fantasme la possibilité de graves abus du pouvoir qui, sous couvert du bien, serait demain doté de tous les outils pour faire le mal ? Je vous en laisse juge.

Je ne m’attache qu’aux faits. Ces faits ne font pas la Une des médias, et nos parlementaires sont bien silencieux, mais au même titre que le projet de loi douteux sur les fake news — pardon sur les infox — ils m’apparaissent dans la forme comme dans le fond extrêmement préoccupants !

En finissant cet article, permettez-moi l’outrecuidance de rendre hommage et d’avoir une pensée pour nos irrévérencieux compatriotes de Charlie Hebdo morts au combat de l’irrévérence… et pour la défense d’une liberté d’expression inaliénable. Il faut naturellement lutter contre la haine pour être un peu plus que des hommes sur le Net comme ailleurs, mais il s’agit de le faire avec raison, avec les bons outils et dans le respect de nos institutions. Quant à abandonner et/ou partager un pouvoir régalien avec des Entreprises-Nation, c’est à mon sens prêter le flanc à la mise en place de censures abusives au service du pouvoir.