« L’apprentissage fait la force » : entretien avec Aurélie Jean

Screenshot de la Première de couverture de "De l'autre coté de la Machine" - Amazon — Amazon.fr,

Entretien exclusif avec Aurélie Jean, à l’occasion de la parution de « L’apprentissage fait la force », qui nous permet de comprendre le rôle primordial du numérique et des nouvelles technologies au cours de cette crise.

Par Corentin Luce.

Aurélie Jean : « Si nous ne faisons plus d’erreurs en laissant toutes nos décisions aux algorithmes, nous n’apprendrons plus et nous ne grandirons plus ».

Les Algorithmes. À l’évocation de ces quelques lettres, des torrents de passions se déchaînent dans un brouhaha incandescent, irradiant les salles de rédaction et les plateaux télévisés d’experts auto-proclamés. Règne sans partage des forts en gueule et prestidigitateurs des passions tristes. Exercice douteux, pour le moins.

Petit détour par le dictionnaire Larousse, un algorithme est un « ensemble de règles opératoires dont l’application permet de résoudre un problème énoncé au moyen d’un nombre fini d’opérations. Un algorithme peut être traduit, grâce à un langage de programmation, en un programme exécutable par un ordinateur. »

Avec l’essor des algorithmes dans tous les domaines, les uns nous ânonnent avec ferveur un monde où la technologie ferait loi, débarrassant l’Homme de ses imperfections. Une sorte de concrétisation du mythe de l’Atlantide. Rêve ancestral et prométhéen donc. Les autres prophétisent avec fatalisme et non sans romantisme noir l’avènement d’une société dystopique, fracturée et en proie aux guerres civiles. Néo-luddisme conduisant aux pires excès.

Difficile dans ce contexte polarisé d’entendre une voix rationnelle et tempérée. Fort heureusement, depuis quelques années, Aurélie Jean relève courageusement et brillamment ce défi complexe mais vital. Loin du gloubi-boulga médiatique de nos sociétés biberonnées au buzz, elle fait résonner son expérience et son parcours époustouflant aux quatre coins du monde, entre conférences et interviews, pour expliquer les tenants et les dangers de ce miroir virtuel.

Véritable globe-trotteuse hyperactive, Aurélie Jean est assurément de ces personnes qui ont pour leitmotiv une soif intarissable d’aventures, celles à propos de qui Charles Bukowski écrivait : « L’âme libre est rare, mais vous savez quand vous en voyez une, d’abord parce que vous vous sentez bien, très bien quand vous êtes près ou avec elle. »

Aurélie Jean est scientifique numéricienne, entrepreneuse mais aussi chercheuse. Elle a fondé In Silico Veritas, une société de conseil stratégique en data et en algorithmique basée aux USA et en France, et est partner chez Altermind. Contributrice à l’hebdomadaire Le Point, elle a aussi fait paraître plusieurs ouvrages, le dernier étant L’apprentissage fait la force1.

En 2019, le magazine Forbes l’a classée parmi les 40 Françaises les plus influentes de l’année.

Vous venez de faire paraître L’apprentissage fait la force, aux éditions de l’Observatoire, pour imaginer l’après-coronavirus. Vous appelez nos dirigeants politiques et l’ensemble de la société à cultiver nos savoirs scientifiques ; à l’heure des fake news et théories conspirationnistes, ne pensez-vous pas qu’il s’agit d’une cause perdue quand on observe la défiance grandissante vis-à-vis du raisonnement logique (glorification de Didier Raoult aux méthodes controversées, mouvements anti-confinement aux États-Unis) et du cartésianisme de façon générale ?

Rien n’est une fatalité ! Il est vrai que notre rapport aux sciences et aux scientifiques a été sévèrement malmené ces derniers mois, mais je vois cela comme une opportunité pour parler des grands sujets autour du développement d’une culture scientifique, de l’usage de la méthode scientifique et de la construction de l’esprit critique. C’est pourquoi j’ai tout de suite accepté d’écrire ce petit essai traitant plus généralement de la méthode scientifique et plus particulièrement de la crise sanitaire, sociale et économique.

Prenons cette crise comme un cas d’école pour souligner nos faiblesses de raisonnement, notre crédulité sans limites et notre absence d’esprit critique. Et utilisons là pour nous améliorer. Je crois dans les actes individuels pour le bien collectif. Dans cette idée je crois en l’explication de ces sujets auprès du grand public pour donner à chacun les armes pour avancer de manière éclairée.

Quelles leçons pouvons-nous tirer de cette crise au cours de laquelle le numérique et les nouvelles technologies (e-commerce, cours en ligne, robotisation) ont joué un grand rôle ?

Nous pouvons tirer de nombreuses leçons tant dans le milieu éducatif, professionnel ou personnel. Même si la France est le pays dans lequel il y a eu le moins de décrochement scolaire en lien avec une inégalité d’usage et d’accès au numérique, nous avons encore quelques millions d’enfants qui ont été défavorisés. Les moyens mis en place (outils et méthodes pédagogiques) sont une source inestimable pour les enfants qui suivent des cours à distance en temps normal, pour des raisons diverses.

Nous devons également être capables d’armer numériquement toutes les familles tant dans le matériel que dans la compréhension des outils, pour donner à chaque élève les mêmes chances de réussir.

D’un point de professionnel, les managers et chef d’équipes ont dû apprendre à faire confiance dans leurs équipes, et donner plus de liberté aux employés pour permettre à chacun de performer au mieux grâce aux outils numériques.

Enfin d’un point de vue personnel, les outils nous permettent de rester connectés à nos proches, et nous ont fait prendre conscience de l’importance de se voir en personne. De manière générale nous avons réalisé encore plus que nous avions peu d’acteurs technologiques européens, et que les outils que nous utilisions étaient principalement américains. Le sujet de la souveraineté est ressorti fortement ces derniers mois.

Pour revenir au titre, L’apprentissage fait la force, celui-ci semble faire écho à un autre livre que vous avez écrit concernant votre formidable parcours et les algorithmes, De l’autre côté de la Machine, dans lequel vous expliquez que : « chaque erreur nous donne l’opportunité de retenir une leçon, de catégoriser une situation dans notre cerveau afin de nous alerter […] Une vie entièrement conditionnée algorithmiquement nous empêcherait de faire des erreurs, et donc d’apprendre ». Dans quelle mesure les biais ont-ils eu des conséquences sur vos travaux et vous ont permis d’appréhender différemment les algorithmes ?

Comme je l’écris dans mon premier livre De l’autre côté de la Machine, je ne suis pas meilleure que les autres, j’ai mes biais et j’ai fait des erreurs à partir desquelles j’ai profondément appris. J’ai appris à travailler encore plus en collaboration avec les gens du métier de l’application dans laquelle mon algorithme s’applique. J’ai appris aux côtés de médecins, de banquiers, d’économistes, et cela m’a permis d’éviter des erreurs dans mes modèles, et de développer des bons réflexes de développement et de réflexion.

De manière générale, c’est en faisant qu’on apprend, et les erreurs sont des alliées dans cet apprentissage. Si nous ne faisons plus d’erreurs en laissant toutes nos décisions aux algorithmes, nous n’apprendrons plus et nous ne grandirons plus.

Dans mon livre, je donne l’exemple du film Wall-E dans lequel les hommes qui ont été mis dans une navette spatiale dans l’attente de revenir sur Terre, n’ont aucune décision à prendre, tout est fait pour qu’ils ne réfléchissent pas… le résultat est effrayant, après quelques années ils ont des esprits d’enfants de 4 ans dans des corps d’adultes, ils n’ont pas appris donc n’ont pas grandi. Les algorithmes nous assistent, nous aident dans la décision, mais il y a de nombreux cas où notre sensibilité et notre intelligence ne seront jamais remplacées. L’algorithme vous fournira toujours une réponse, mais celle-ci n’est pas forcément juste ou efficace.

Peut-on dire que les algorithmes transforment le hasard en nécessité et sont voués par la même occasion à rendre le monde immuable ?

C’est une vision déformée, mais bien réelle si on n’y prend pas garde, des algorithmes et de leurs effets sur nos vies et nos sociétés. Comme précisé précédemment, les algorithmes vous donneront toujours une réponse, mais cette réponse est-elle pertinente ? Pas forcément.

De plus, même si l’algorithme vous fournit une réponse bien plus efficace que votre propre choix, cela ne veut pas dire qu’il faut la suivre… nous avons besoin de décider par nous-mêmes, d’apprendre par nos erreurs, et de sentir les choses. Dit autrement, nous avons un instinct, une intelligence émotionnelle et une intelligence de situation qu’il ne faut pas sous-estimer.

Me concernant, le chemin que je prends de chez moi à la station de métro est différent de celui que je prends pour aller de la station de métro à chez moi… ce qui est loin de suivre une logique analytique du plus court chemin, est-ce une solution efficace ? Pas exactement mais c’est la solution dans laquelle je me sens bien.

Les algorithmes occupent une place de plus en plus conséquente dans notre société. La loi Avia, par exemple, censurée par le Conseil constitutionnel depuis, prévoyait selon La Quadrature du Net d’accentuer leur rôle du fait des délais très courts, au mépris de nos libertés. Est-ce que la place des algorithmes vous inquiète ou considérez-vous que l’homme ne cherche peut-être que la félicité, qui « paraît toujours assez sordide en comparaison des larges compensations qu’on trouve à la misère [et à la liberté] » (Le meilleur des mondes Aldous Huxley) ?

La frontière est parfois mince entre réelle innovation et menace. La réponse à cela n’est pas dans la diminution de nos libertés mais dans le développement d’une émancipation intellectuelle de chacun face aux outils numériques. Cela étant dit, on comprend également le besoin de réguler et d’exiger de la part des acteurs des devoirs vis-à-vis des utilisateurs et des États. La difficulté est dans la mise en œuvre.

Il est fondamental que nos législateurs et nos dirigeants politiques s’entourent de scientifiques et d’ingénieurs du terrain sinon on risque de faire des textes inefficaces, inapplicables voire dangereux pour les libertés individuelles.

Cette crise a remis au goût du jour la notion de souveraineté. Concernant le numérique, l’UE, bousculée par les géants chinois et américain, tente de développer son propre modèle avec notamment le RGPD : cela va-t-il dans la bonne direction, faut-il accélérer ?

Le RGPD est une bonne révolution dont s’inspirent d’autres pays ou États. C’est le cas de l’état de Californie avec le California Consumer Privacy Act. Cela étant dit, l’Europe et les pays de l’Union séparément ont peu avancé dans le développement d’un terrain favorable à la croissance de grandes entités technologiques.

Ce sujet est un sujet politique comme je l’ai écrit dans un article récent dans Le Point sur le choix d’un hébergeur pour les données médicales du Health Data Hub. Ce sujet est aussi un sujet culturel qui impose aux pays comme la France de faciliter l’implémentation et la croissance d’entreprises, avec moins de charges sociales, plus d’agilité, moins de charges administratives et plus de degrés de liberté pour ces acteurs.

Vous vivez entre les États-Unis où vous avez notamment fondé In Silico Veritas (une agence de développement analytique et numérique spécialisée en algorithmique) et la France ; où se situe exactement l’Hexagone en matière d’IA et de nouvelles technologies ?

Nous avons en Europe et en France en particulier d’excellentes formations (voire les meilleures) en sciences et en ingénierie. Cela étant dit l’Europe n’est paradoxalement pas le lieu de naissance de géants technologiques et ce pour plusieurs raisons. Des raisons culturelles, économiques (avec une charge administrative lourde), mais aussi des raisons budgétaires.

Les budgets alloués dans la recherche et le développement en Europe sont trop bas. Il faut également créer de grands et vrais programmes européens, car sans cela il sera difficile de passer à l’échelle.

Vous écrivez : « il est urgent que les scientifiques (re)deviennent des philosophes », vous proposez également d’introduire des sciences dures dans les parcours en sciences sociales. Pourquoi pensez-vous que seule la pluridisciplinarité pourra à terme créer des cadres structurants alors que l’évolution économique a tendu à spécialiser les individus et à diviser les tâches productives ?

Comme je l’écris dans mon premier livre « L’avenir est dans la comparaison, l’interdisciplinarité, cette capacité à réfléchir de façon transversale pour faire profiter à de nombreux champs d’application les retombés de travaux. » Ce constat est encore plus vrai en intelligence artificielle qui s’utilise dans de nombreux domaines, et s’appliquera sûrement dans quasiment tous les domaines dans le futur. Je ne peux pas concevoir un algorithme seule dans mon coin ou avec mes collègues scientifiques et ingénieurs. Je dois travailler main dans la main avec les gens du métier.

Cela étant dit, je dois comprendre leur métier, apprendre même grossièrement les disciplines dans lesquelles mes algorithmes s’appliquent. La philosophie quant à elle permet à nous scientifiques et ingénieurs de nous aider à réfléchir aux conséquences de notre travail, à comprendre les tenants et aboutissants philosophiques des questions auxquelles on tente de répondre, et tant d’autres choses.

Les philosophes recherchent la vérité alors que les scientifiques cherchent le pourquoi. Une complémentarité évidente qui encourage à mêler davantage ces deux communautés qui ont pourtant pendant longtemps constitué une seule entité.

Vous pointez avec raison la méconnaissance profonde de nos responsables politiques sur ces enjeux (audition de Mark Zuckerberg devant le Congrès en 2018, réponses pour le moins saugrenues des députés français pour définir une IA), que faire pour y remédier ?

Dans mon essai L’apprentissage fait la force j’ai un chapitre dédié au sujet délicat de perte de culture scientifique chez nous tous, mais aussi et surtout chez nos dirigeants politiques. Il y a bien évidemment des exceptions, mais une tendance se dessine qui porte les politiques à ne s’entourer de scientifiques qu’en cas de crise comme celle que nous vivons. Alors qu’ils devraient les consulter régulièrement, et sagement.

Les dirigeants politiques devraient avoir dans leurs formations des matières scientifiques afin de développer leurs compétences et connaissances pour construire des visions et alimenter leurs réflexions futures. L’esprit critique se développe également grâce à la méthode scientifique (expérimentation, observation, usage de la théorie et raisonnement logique) qui devrait être conceptualisée chez tous nos dirigeants pour augmenter leur efficacité et leur niveau de pragmatisme.

Quelles sont les régulations à imaginer concernant l’IA et la place des algorithmes dans les années à venir ? Vous développez, toujours dans De l’autre côté de la Machine, l’importance des chartes et autres serments, mais est-ce suffisant pour encadrer les pratiques à l’échelle mondiale et garantir leurs applications ?

Les régulations sont importantes à avoir, mais elles doivent absolument être conçues en étroite collaboration avec des scientifiques et des ingénieurs, et au-delà de simples auditions, mais jusqu’à la réflexion et l’écriture des textes. Sans cela, les textes risquent de moins bien s’adapter aux avancées futures, ou encore de contenir des vides technologiques.

Cela étant dit, je crois beaucoup également aux solutions complémentaires venant soutenir les lois par nature relativement punitives et non préventives, comme les serments et autres chartes. Ils sont de réels déclencheurs de consciences individuelles et collectives, et donnent l’opportunité à chaque acteur de se positionner, de se questionner et d’avancer de manière éclairée dans ses propres pratiques.

  1. L’apprentissage fait la force d’Aurélie Jean est disponible sur Amazon.
Vous souhaitez nous signaler une erreur ? Contactez la rédaction.