Comment réguler l’intelligence artificielle sans étouffer sa capacité d’innovation ?

Avant l’avènement de l’intelligence artificielle, la régulation des données était un jeu d’enfant ! Les entreprises géraient leurs bases de données en suivant des règles claires, et le consentement des utilisateurs faisait loi. Pour se conformer aux régulations, il suffisait de stopper l’envoi de mails indésirables et d’éviter l’utilisation de données sensibles dans les algorithmes de ciblage. Quant à la propriété intellectuelle, un simple contrôle des sources et un consentement préalable suffisaient. Un travail minutieux, certes, mais loin d’être sorcier pour les organisations bien intentionnées. Désormais, l’ère de l’intelligence artificielle apporte son lot de défis passionnants, bousculant les frontières de la régulation et engageant une aventure palpitante.

La venue au jour de l’intelligence artificielle tous publics pose des problèmes d’un nouvel ordre. Du côté du propriétaire de l’IA, de celui dont l’IA accède aux données, mais également pour l’utilisateur final, les incertitudes demeurent quant à la compatibilité d’une IA performante avec une régulation forte et protectrice.

Une intelligence artificielle fonctionne par apprentissage

Le machine learning permet aux machines d’apprendre et de s’adapter automatiquement à partir de l’expérience, sans être explicitement programmées. Il repose sur l’idée que les systèmes informatiques peuvent être entraînés à reconnaître des modèles et à prendre des décisions en se basant sur des données. Le deep learning, quant à lui, est un sous-domaine du machine learning qui simule les connexions neuronales humaines pour traiter et interpréter des données complexes.

Les intelligences artificielles génératives, telles que ChatGPT, s’appuient sur le deep learning pour apprendre et générer du texte comme le font les humains. Pour y parvenir, ces modèles nécessitent une grande quantité de données. Plus les modèles disposent de données, plus ils peuvent apprendre de structures et de modèles, ce qui permet d’améliorer leur capacité à générer des réponses pertinentes, cohérentes, et conformes à une activité humaine.

Mais cette nature de technologie n’est que réplicative. Chat GPT ne peut écrire comme Zola que parce qu’il a été entraîné sur Les Rougon-Macquart. Parallèlement, pour les images, une IA ne pourra construire d’images « comme Picasso » que si elle a préalablement été entraînée sur des tableaux de Picasso. L’IA doit être entraînée en permanence sur des données, et, pour le moment, celles-ci sont toujours le fruit des humains, que ce soit une page Wikipédia, un article de recherche, un dessin, ou simplement une requête faite par l’utilisateur.

« Un C à la manière de Kandinsky », Dall-E 2, 3 mai 2023

Les données utilisées et produites dans l’IA posent de nombreuses questions politiques, éthiques, et de propriété intellectuelle.

En premier lieu desquelles : comment assurer la possibilité de suppression des données personnelles d’une IA alors qu’elle est entraînée par lesdites données ? La donnée n’est plus ici un obscur fichier dans l’ordinateur d’un directeur commercial, qu’il peut ou non librement utiliser. Elle est la matière même du produit, ce qui donne chair à l’algorithme, elle est comme avalée, assimilée par la machine.

En second lieu et par conséquent, les productions de l’IA générative sont soumises aux mêmes incertitudes. Par exemple, les productions d’un artiste peuvent être publiées sans être reproductibles publiquement. Si le statut légal d’une œuvre de Banksy est clair relativement aux lois de la propriété intellectuelle, le statut d’une œuvre comme Banksy l’est moins, non pas tant qu’elle soit une reproduction à part entière, mais qu’elle ne peut exister qu’en tant que les œuvres de Banksy ont été assimilées par l’IA. À mi-chemin entre la caricature et la contrefaçon, la réplication d’œuvres questionne.

Tous ces enjeux nécessitent une réponse régulatrice forte autant que proportionnée

Autoriser toutes les données représente un danger neuf. Les interdire toutes empêchera l’essor et l’avancée de l’IA. Loin d’être désintéressée, la proposition d’Elon Musk et d’autres d’arrêter le développement de l’IA, est aussi irréalisable qu’illibérale. Pour le moment, à défaut d’être capable d’innover dans le domaine, la proposition principale de régulation vient de l’Union européenne.

L’AI Act est en effet le premier cadre juridique global sur l’IA. Le texte couvre une large gamme de dispositions, notamment l’établissement d’une liste des systèmes d’IA à haut risque soumis à des exigences spécifiques, la mise en place de comités et d’autorités nationales compétentes pour la gouvernance et la mise en œuvre, et la création de codes de conduite pour les systèmes d’IA à faible risque. Les obligations de transparence sont renforcées. Le règlement encourage également les autorités nationales à mettre en place des bacs à sable réglementaires pour soutenir l’innovation. En particulier, sont interdites les IA utilisant des techniques subliminales pour influencer les comportements ou les classements des êtres humains. L’AI Act prévoit également des garde-fous relatifs aux données d’entraînement, comme un examen préalable des datasets par des humains pour assurer leur sincérité et la cohérence des résultats avec le réel.

La différenciation entre le niveau de risque des IA est nécessaire, tant dans leurs utilisations potentielles que dans les données utilisées pour l’entraînement. Mais elle est insuffisante à assurer que les entraînements et les productions de l’IA soient respectueuses des droits de la création. Tant au niveau du texte que des images, de nouvelles manières de rémunérer les créateurs et d’assurer la pérennité des créations humaines doivent être trouvées.

Premièrement, la fin de la confusion entre la publicité d’une donnée et son accessibilité. Ce n’est pas parce qu’un artiste a un site internet où il présente ses créations publiquement, qu’il consent à ce qu’elles soient utilisées pour entraîner une intelligence artificielle.

De la même manière pour les productions audiovisuelles ou pour les écrits de recherche. Les possibilités techniques sont très nombreuses pour ce faire : le balisage des sites internet informant les IA du non-consentement des publiants ou la nécessité de certificat de consentement pour l’entraînement par l’IA n’en sont que deux exemples simples. Open AI, la maison-mère de Chat GPT, a déjà fait de grands pas en ce sens, en permettant, avec une version business, que les données envoyées par l’utilisateur ne soient pas nécessairement utilisées pour l’entraînement du modèle.

Pourquoi pas également rendre possible pour tous les créateurs de monétiser leurs données dans l’usage de l’IA. Pour cela, il faut notamment la possibilité de pondérer leur usage réel. Par exemple, dans le cas d’une LLM (Large Language Model, les IA génératives de texte comme ChatGPT), chaque concept est modélisé par un certains nombre de paramètres – associé à un vecteur à n-dimension – qui sera plus ou moins proche d’autres vecteurs. Par exemple, le vecteur représentant le concept de roi sera en tous points égal au vecteur représentant le concept de reine sauf sur la colonne liée au genre. Ainsi, de manière très schématique, l’un sera égal à [dirigeant, royaume, couronne, homme] et l’autre à [dirigeant, royaume, couronne, femme]. Du point de vue technique, il serait donc envisageable de pondérer l’importance d’un ouvrage ou d’une œuvre dans la création d’une autre, et ainsi de rémunérer les créateurs selon l’usage réel de leur travail. Chaque créateur aurait ainsi le droit, ou non, de participer à l’entraînement d’IA, et s’il décide de le faire, ce pourrait être contre rémunération.

Enfin, le régulateur devra s’assurer de bien des manières, tant pour les textes que pour les images, de la provenance authentique des productions. Il est insupportable de voir opposées à des photographies de journaliste des images ultra-réalistes d’hommes politiques ou de manifestants générées par une IA, sans que des solutions fiables d’authentification ne soient envisagées. Des certificats mis en place par des IA pourraient être un premier pas, autant que la certification par Blockchain. Ce qui est certain, c’est que l’État ne pourra pas s’arroger seul la possibilité, ou non, de certifier ce qui est vrai ou non.