Jean-Marie Cavada est un journaliste et homme politique français. Il a travaillé entres autres pour France Inter, RTL, TF1, France 2, France 3. Il a été le PDG-fondateur de France 5, et fut élu Président de Radio France entre 1998 et 2004. Entre 2004 et 2019, il est député européen. En 2020, il fonde l’Institute for Fundamental Digital Rights qui se consacre à l’étude, la promotion et la défense des droits fondamentaux numériques, et qu’il préside depuis.

Quel cadre pour réguler le monde numérique ?

Charlotte Veldkamp – Depuis plusieurs années, vous vous attachez à réfléchir à la question simple mais brûlante concernant le monde numérique : comment en tirer un profit individuel et collectif tout en préservant les acquis de plusieurs générations de droits et libertés ?

Jean-Marie Cavada – C’est une question de valeurs fondamentales pour nos sociétés. Voulons-nous laisser derrière nous nos démocraties anéanties, au motif qu’on vient de découvrir des technologies révolutionnaires, puisqu’elles le sont, un peu comme l’apprenti sorcier ?

On avait déjà perçu ce risque lors de la découverte de l’électricité, et ensuite lorsqu’on a identifié l’atome, ou plus récemment, au XXe siècle, lorsqu’on a su isoler et séquencer le génome humain. Mais cette fois, les ingénieurs mathématiciens ont permis de créer des outils qui peuvent un jour nous asservir. Ces avancées dans la connaissance de la technologie ou de la science, qui permettent d’améliorer notre vie, ne doivent pas se faire à notre détriment. La Présidente de la Commission européenne a dit à ce sujet une chose pleine de bon sens : « ce qui est interdit dans la vie réelle ne peut pas être autorisé dans la vie virtuelle ». Belle intention, Mme Von der Leyen n’a plus qu’à la faire appliquer.

Pour cela, il convient d’entreprendre plusieurs directions de travail : le respect des libertés individuelles et collectives, le respect de la vie privée des individus, celui des règles qui régissent la vie démocratique dans nos sociétés, et le respect des règles du marché pour mettre fin aux monopoles.

Le problème du monopole rappelle la nécessité d’instaurer un nouveau cadre éthique et juridique accessible aux êtres humains et assimilable à l’intelligence artificielle. Si on établit un nouveau cadre pour réguler le numérique, quelles en seraient les priorités ?

De ce point de vue là, l’Union européenne a pris le 15 décembre, sous la houlette de Madame Vestager et Monsieur Breton, un virage relativement historique en dévoilant deux nouveaux règlements : le « DSA », Digital Services Act et le « DMA », Digital Markets Act.

L’Europe avait depuis de longues années déjà avancé une prétention à réguler le fonctionnement du numérique, et cela s’est illustré par la mise sur pied du Règlement Général de Protection des Données (RGPD), entré en application en 2018. Ce dernier a pointé quelque chose de fondamental, très en accord avec les valeurs de l’Union européenne. En respectant la «privacy» des données personnelles, on reconnaissait un principe qui devrait être universel : vos données n’appartiennent qu’à vous. Rien ne devrait être utilisé sans votre consentement.

Dans le même temps, on avait vu en Europe une volonté de régulation du marché et non plus uniquement des services. Avec le DSA-DMA, on est entrés dans quelque chose de beaucoup plus volontariste. Le cadre d’exigences est posé. La réponse juridique ne l’est pas encore, mais l’UE tend à encadrer beaucoup plus fortement le monde numérique. Cette exigence de l’UE se manifeste dans d’autres pays, probablement sous la pression des citoyens. Il faudra que les fruits tiennent la promesse des fleurs. Nous n’y sommes pas pour l’instant.

Remettre de l’humain dans un monde virtuel

Voyez-vous, au niveau du droit international ou européen, une possibilité d’établir pour les entités non-étatiques – par exemple les plateformes commerciales – des responsabilités claires visant le respect des droits humains ?

Bien sûr, et cette question aurait pu être posée depuis longtemps. Continent par continent au moins, des législations strictes auraient dû être mises en place pour codifier des règles de marché, des règles de contenus : mais rien n’interdirait aux organisations internationales d’être davantage sur ce sujet des régulations. On l’a bien fait au Parlement européen, au sujet de l’environnement. J’ai pu voter sur l’interdiction les produits glyphosates, ou sur la directive REACH qui prétendait réguler les conditions sanitaires de l’exploitation dans un certain nombre d’industries polluantes.

Juridiquement parlant, vous posez la même question en matière de régulation internationale. Si les continents font le premier pas pour réguler ces questions, ils sauront y trouver les éléments de droit. L’Institut for Digital Fundamental Rights, d’ailleurs, travaille avec toute une panoplie de juristes éminents, à jeter les bases d’une Charte des droits fondamentaux numériques pour établir dans quelles conditions le digital « est autorisé à » et dans quelles conditions il lui « est interdit de ».

Il faut débarrasser notre esprit de la prosternation, de l’émerveillement et finalement de la soumission qui est la nôtre devant les possibilités apportées par le numérique. Bien-sûr personne n’est contre cet outil, tout le monde y est favorable. C’est comme si on était contre l’électricité ou l’eau chaude. Le digital améliore considérablement nos modes de vie, mais nous pouvons lui reprocher d’être également une sorte de cage de grillages, qui s’abat sur les démocraties et sur les individus. Premièrement, elle capte tout ce que nous sommes car nous le lui offrons volontairement, peut-être par manque d’informations sur le sujet, deuxièmement, parce qu’elle anticipe ce que nous allons vouloir et de cette manière, elle organise nos comportements et amène le risque d’être finalement enrégimentés.

Vous évoquez l’emploi de l’IA pour réguler le monde numérique. C’est-à-dire un outil qui nous vient du monde numérique et qui pourrait le réguler. Comment cela s’articule ? Quelles en sont les dérives possibles ? Enfin, quelle place doit occuper l’humain dans ce schéma ?

Quand on a inventé l’atome, on a fait une double ouverture. Une première vers un progrès immense dans un nombre de secteurs de l’économie et surtout de la santé. Une seconde, détestable, vers la bombe.

Il en est de même pour le numérique. C’est un outil, et je ne démords pas de l’idée qu’il doit rester sous la domination de l’homme. On ne peut pas laisser des entreprises capitalistes ambitieuses en faire un instrument de domination de l’Homme. Je ne veux pas être le smartphone de mon smartphone. L’intelligence artificielle bien utilisée, pourra encore améliorer le service rendu aux humains. Mais en Europe, un fort courant d’opinion se méfie déjà de l’IA. Beaucoup de citoyens craignent que les monopoles du net se servent de l’IA pour organiser sournoisement, une surveillance de masse. Elle aurait cependant les moyens de contribuer de lutter contre les dérégulations et contre les contenus illégaux et illégitimes. Sur les réseaux sociaux, trop peu d’interdictions existent et les auteurs de dérives ne subissent que de faibles représailles. Ils gagnent même de l’argent en accroissant leur audience, puisque tous ces contenus dangereux que la vie réelle interdit aux citoyens, génèrent un trafic très lucratif. Nous sommes d’une complaisance absolument stupéfiante vis à vis de cela. C’est pourquoi l’action de l’Homme sur le monde virtuel est une nécessité.

Le monde virtuel facilite par sa structure même les expressions haineuses, l’incitation à la violence, la diffusion de la désinformation… Ce mardi 9 mars 2021, le Center for Countering Digital Hate (CCDH) a constaté que les comptes nouvellement actifs sur Instagram faisaient face à une quantité importante de désinformation au sujet des vaccins, de la COVID, etc. Cette constatation est liée aux recommandations des algorithmes de la plateforme.

En effet, ces entreprises qui utilisent ces algorithmes doivent être sous menace de pénalités sérieuses. Si Instagram utilise un algorithme qui nuit à la société à cause de ce qu’il déverse comme flot haineux, il doit être, instantanément, changé.

Il faudrait une autorité neutre, qui aurait les pouvoirs de traduire en justice ceux qui vont à l’encontre des règles, et qui aurait capacité juridique – au-delà de différences culturelles et linguistiques – d’interpeller ou de traduire immédiatement en justice.