Les pionniers du numérique (Charles Babbage, Ada Lovelace, Alan Turing)*1 et de la cybernétique (Norbert Wiener)*2 ont toujours pensé que l’informatique automatiserait la gouvernance des hommes.
C’est désormais possible grâce à la combinaison de trois processus numériques distincts mais complémentaires : la digitalisation de nos vies, l’apparition de nouveaux savoirs statistiques et la création de nouveaux pouvoirs numériques*3.
La numérisation de nos vies est la conséquence de la réification automatique de nos comportements sous forme de signaux numériques. Ce comportementalisme numérique généralisé est exponentiel car il ne rencontre actuellement aucune résistance technique, économique ou citoyenne. Les capacités de stockage sont presque infinies, les mémoires sont facilement interconnectables pour réduire les coûts et le confort de l’utilisation l’emporte sur la protection de la vie privée. Nos existences sont devenues des viviers de données pour les entreprises, les laboratoires et les États.
Toutes ces données sont ensuite confiées à des intelligences artificielles – publiques ou privées – capables de faire émerger de nouveaux savoirs statistiques grâce à la mise en exergue de subtiles corrélations entre les jeux d’informations numérisées. Ces outils sont tellement puissants qu’ils apportent des réponses à quasiment toutes nos questions. Face à ces miracles successifs, notre éthos scientifique, qui nous impose une distance critique vis-à-vis de nos propres conclusions, laisse place à une admiration de plus en plus béate pour les résultats des machines. Nous renonçons progressivement à notre créativité intellectuelle pour nous conformer aux recommandations algorithmiques. Toutes les activités humaines sont touchées, y compris les politiques publiques.
Ces nouveaux savoirs statistiques sont utilisés pour dynamiser l’économie, administrer les territoires ou réformer les services publics. Ils servent aussi de clé de voûte à un nouveau type de contrôle social qui influence en temps réel – avec les objets connectés – les comportements individuels et collectifs à des fins sécuritaires ou écologiques.

Face aux crises qui s’annoncent, les gouvernements seront tentés, peut-être même à la demande des justiciables, d’instaurer ces dispositifs pour assurer la sécurité du plus grand nombre. C’est déjà le cas en Chine (crédit social chinois)*4 ou en Italie (portefeuille du citoyen vertueux de la ville de Bologne)*5.
En France, cette idée n’est plus taboue comme le démontre un récent rapport du Sénat*6.
Avec la mise en place de tels outils dans l’espace public, nous faisons probablement face à l’émergence d’une nouvelle forme de société disciplinaire fondée sur la diminution des champs des possibles avec la transformation des citoyens en panoptiques techno-organiques : surveillant, surveillé et vecteur de surveillance. Ce processus de déshumanisation menace notre pouvoir d’autodétermination qui est au cœur du principe de dignité de la personne humaine*7. Cet axiome juridique est le fondement de la Déclaration des droits de l’homme et du citoyen de 1789 et par conséquent, de la civilisation française*8.

Au moment de sa rédaction, tous les constituants étaient les héritiers d’une histoire française parcourue par différents courants de pensée : humanisme, âge classique, libertinage ou rationalisme cartésien. Ils étaient aussi, et surtout, les enfants du christianisme pour qui tous les hommes sont égaux (Saint Paul, Saint Thomas d’Aquin) et de l’École du droit de la nature et des gens pour qui l’homme tient, de sa nature humaine, des droits fondamentaux inaliénables et opposables au pouvoir (Grotius, Hobbes, Locke). Deux courants de pensées qui sont au cœur de la pensée des deux pères de la Révolution française : Rousseau et Montesquieu.
Ce sont toutes ces idées qui servent aujourd’hui de clé de voûte à la protection internationale des droits de fondamentaux pensée par René Cassin. Ce sont toutes ces idées qui font de la civilisation française un exemple. Ce sont toutes ces idées qui sont aujourd’hui menacées par la gouvernementalité algorithmique.

1* Eric SADIN, La vie algorithmique : critique de la raison numérique, L’échappée, 2015.
2* Norbert Wiener, La cybernétique, 1948.
3* Antoinette ROUVROY, Thomas BERNS, « Gouvernementalité algorithmique et perspective d’émancipation : Le disparate comme condition d’individuation par la relation ? », Réseaux, 2013, pages 136 à 169.
4* Brice PEDROLETTI, « En chine, le crédit social des citoyens fait passer les devoirs avant les droits », Le Monde, 16 janvier 2020.
5* Yannick CHATELAIN, « Le crédit social à la chinoise s’invite au cœur de l’Europe », Contrepoints, 15 avril 2022.
6* Véronique GUILLOTIN, Christine LAVARDE, René-Paul SAVARY, « Rapport d’information n°663 fait au nom de la délégation sénatoriale à la prospective sur les crises sanitaires et outils numériques : répondre avec efficacité pour retrouver nos libertés », Sénat, 2 juin 2021.
7* Jean RIVERO, Les libertés publiques, Presse universitaire de France, 1981.
8* Ibid.