CONTEXTE

Le mardi 29 septembre 2021, le Chili a adopté une loi sur les neurodroits. Celle-ci dispose que « le développement scientifique et technologique devra être au service des personnes et qu’il sera mené à terme dans le respect de la vie et de l’intégrité physique et psychique(1) ». Elle ouvre aussi la voie à une réforme constitutionnelle qui entend « préserver l’intégrité physique et psychologique du citoyen, de sorte qu’aucune autorité ou individu ne puisse, par le biais des nouvelles technologies sur le cerveau humain, augmenter, diminuer ou perturber cette intégrité individuelle sans le consentement approprié(2) ». Pour Guido Girardi(3) le texte a pour but de protéger « la dernière frontière de l’être humain : son esprit (4) ». 

Les neurotechnologies permettent d’explorer l’activité cérébrale (électroencéphalographie, magnétoencéphalographie, imagerie par résonnance magnétique fonctionnelle), de soigner par stimulation électrique (transcrânienne, profonde), de compenser le handicap (implants cochléaires, exosquelettes, neuroprothèse) ou d’améliorer les facultés cognitives (pilotage à distance des appareils). L’armée américaine teste actuellement un casque non intrusif permettant de renforcer les capacités cognitives de ses soldats. Dans un article paru dans New Scientist le 6 février 2012, Sally Adee raconte comment, grâce à cet outil, elle a pu devenir, le temps d’une simulation, un super soldat capable d’abattre froidement tous ses adversaires.  

Alors que vingt d’entre eux se ruent sur moi en brandissant leurs armes, je vise calmement, prends mon souffle et abats le plus proche, avant d’ajuster tranquillement ma prochaine cible […] Ce qui définit cette expérience, ce n’est pas que je me suis sentie plus intelligente ou que j’apprenais plus vite. Ce qui m’a donné l’impression de décoller la terre de mes souliers, c’est que pour la première fois de ma vie, tout, dans ma tête, s’est finalement fermée […] Que mon cerveau puisse être dépourvu du moindre doute était une révélation. Là, soudain, cet incroyable silence dans ma tête. […]. J’espère que vous pouvez comprendre quand je vous dis que ce que j’ai désiré le plus vivement dans les semaines qui ont suivi mon expérience, c’était de retourner me brancher sur ces électrodes(5). 

Concrètement, le casque modifie les circuits électriques du cerveau pour permettre à l’individu d’atteindre plus facilement ses objectifs. Grâce à des programmes informatiques, on pourra aisément abattre ses ennemis, jouer du piano ou apprendre les mathématiques. L’esprit humain pourra être transformé en un amas de neurones modifiable en fonction des besoins économiques, militaires ou sociaux du moment. 

Dans un rapport publié en octobre 2018(6), des scientifiques prévoient la commercialisation très rapide des implants cérébraux fonctionnant avec de la stimulation cérébrale profonde.               Cette dernière « consiste à implanter chirurgicalement dans le cerveau des électrodes, connectées à un boîtier mis en place sous la peau qui délivre un courant électrique de faible intensité dans certaines structures spécifiques(7) ». Il sera bientôt possible de greffer un implant permettant d’augmenter la mémoire, de limiter les dépressions ou de supprimer la douleur. Autrement dit, il y aura bientôt la création d’un accès numérique direct au cerveau humain pour le guider, l’influencer, voire le pirater. Les perspectives militaires, économiques et sociétales sont théoriquement sans limites.

LE DROIT FACE AUX NEUROTECHNOLOGIES

Le principe d’intégrité du corps humain(8), la protection des données personnelles et la nouvelle loi bioéthique(9) permettent déjà de guider, d’encadrer ou de supprimer l’utilisation des neurotechnologies. Néanmoins, de nombreuses questions demeurent en suspens. Première question, le régime actuel de protection des données de santé protègent-ils toutes les données cérébrales ? Autre question : les données cérébrales collectées par des casques ludiques (caques de réalité virtuelle) relèvent-elles de l’article 4-15 du Règlement général sur la protection des données (RGPD) ? Dernière question : les données cérébrales relèvent-elles de la définition européenne des données de santé(10) ? Les membres de l’exécutif, les législateurs et les universitaires doivent impérativement répondre à toutes ces interrogations pour ne pas se laisser surprendre par les conséquences du développement des neurotechnologies. 

Quoi qu’il en soit, le développement des neurotechnologies constitue un moment de bascule dans l’histoire de l’humanité. Doucement, des individus commencent à sérieusement envisager le fait de renoncer à leur intégrité physique pour pouvoir intégrer des nouvelles technologies afin de dépasser leurs limites intellectuelles, physiques ou spirituelles(11). Pour reprendre le vocabulaire marxiste, ils sont l’avant-garde d’une « transhumanité »(12). 

L’INEXORABLE ÉMERGENCE DES CYBORGS 

Dans son journal en date du 11 mars 1942, Günther Anders invente le concept philosophique de « honte prométhéenne »(13). 

Je crois bien avoir découvert la trace d’un nouveau pudendum, d’un nouveau motif de honte encore inconnu dans le passé. Pour le moment, je l’appelle la honte prométhéenne et j’entends par là la honte qui s’empare de l’homme devant l’humiliante qualité des choses qu’il a lui-même fabriquées(14). 

Pour Günther Anders, la honte prométhéenne repose sur deux piliers distincts mais complémentaires. D’une part, l’homme a honte de devoir son existence biologique au hasard des rencontres, des relations sexuelles et des naissances (15); contrairement aux machines qui sont pensées, calculées et construites(16). D’autre part, l’homme ne supporte pas ses imperfections organiques, psychiques et intellectuelles (17); à l’opposé des machines qui sont puissantes, précises et raffinées(18). 

Depuis que Prométhée a donné aux hommes les moyens (le savoir d’Athéna, le feu sacré de l’Olympe) de lutter contre les dangers de la nature, il n’a cessé de vouloir la soumettre à ses désirs, ses besoins et ses peurs. À l’ère de l’Anthropocène(19), l’homme peut désormais parcourir d’immenses distances en quelques heures, détruire des mondes(20) ou envisager sérieusement de vaincre la mort(21). Les physiciens, les ingénieurs et les programmeurs sont devenus les spectateurs de miracles quotidiens qui font en même temps naître chez eux le sentiment d’être de plus en plus impuissants, pitoyables et lents. 

Qui suis-je désormais, se demande le Prométhée d’aujourd’hui, bouffon de son propre parc de machines. Qui suis-je désormais ?(22)

Confrontée à cette insoutenable « interversion de la créature et du créateur »(23), l’homme accepte de progressivement s’auto-réifier en présentant « la même finition froide et lisse que les choses »(24). Ainsi, sur les réseaux sociaux (Instagram, Snapchat), les filtres numériques transforment les visages des utilisateurs en masques de cire, de latex ou de porcelaine.                 Pour beaucoup d’hommes et de femmes, il est désormais devenu impossible de paraître en public – dans la sphère privée ou numérique (25) – sans s’être au préalable maquillé, masqué ou transformé (26). Pour citer Friedrich Nietzsche : « L’homme est quelque chose qui doit être dépassé »(27).

D’un point de vue morphologique, l’homme intériorise aussi le fait d’être insurmontablement, inexorablement ou imprévisiblement défectueux par rapport à ses propres aspirations physiques, intellectuelles et spirituelles. Par exemple, l’armée américaine enseigne à ses recrues qu’elles sont naturellement des faulty constructions(28). Ce sentiment d’imperfection chronique amène l’homme à se révolter contre sa propre nature en basculant définitivement dans « le royaume de l’hybride et de l’artificiel »(29). 

En 1960, Manfred Clynes et Nathan Kline équipent un rat d’une pompe osmotique (30) pour lui injecter tous les produits nécessaires à sa survie dans l’espace. Le but est de créer « un système homme machine autorégulé (31) » capable de supporter de longs voyages interplanétaires. Le cyborg (cybernetic organism) est un corps hybride censé pouvoir explorer, créer, penser, sentir et « vivre dans l’espace qua natura »(32). 

Grâce aux cyborgs, la science pourra résoudre les nombreux problèmes technologiques impliqués par les vols spatiaux habités à travers l’adaptation de l’homme à son environnement {ce qui} ne constituera pas seulement une importante avancée pour le progrès scientifique de l’homme, mais procurera aussi une dimension nouvelle et plus large pour son esprit (33).

Chez les inventeurs du cyborg, il y a la croyance en l’existence d’une forte étanchéité entre l’homme et la technologie(34). Cependant, cette conviction ne résiste pas à notre expérience actuelle des nouvelles technologies. En effet, notre intégrité physique est déjà affectée par notre utilisation des casques de réalité virtuelle, des montres connectées ou des téléphones portables. Pour beaucoup d’entre nous, ces technologies sont devenues des extensions physiques similaires à la peau, aux organes ou membres. Doucement mais sûrement, notre humanité imparfaite s’efface volontairement au profit d’extensions en carbone, en silicium et en plastique. 

L’homme suit son chemin à l’extrême bord du précipice, il va vers le point où lui-même ne doit plus être pris que comme fonds disponible(35).

UN AUTRE MONDE EST POSSIBLE

La liberté de pensée permet à chacun de penser ce qu’il veut en son for intérieur(36). Elle est juridiquement protégée par ces quelques textes fondamentaux : le préambule de 1946(37), les articles 10 et 11 de la Déclaration des droits de l’homme et du citoyen de 1789(38) et les articles 1 et 4 de la Constitution du 4 octobre 1958(39). Elle est aussi la somme d’une série de libertés particulières – liberté d’opinion, liberté de la conscience, liberté des culte, liberté de la presse, liberté de l’enseignement, liberté de réunion – qui tendent toutes au même but, posent des problèmes distincts et appellent des statuts juridiques différends(40). Ainsi définie, la liberté de pensée ne peut s’épanouir qu’avec l’aide indispensable du droit. 

La liberté de pensée […] apparait donc comme la possibilité pour l’homme de choisir ou d’élaborer lui-même les réponses qu’il entend donner à toutes les questions que lui pose la conduite de sa vie personnelle et sociale, de conformer à ces réponses ses attitudes et ses actes et de communiquer aux autres ce qu’il tient pour de vrai (41). 

Le droit peut être défini comme « l’ensemble des opérateurs expérimentaux par lequel un groupe humain donné se confère les moyens de réinventer sa structure (42) ». Il a une nature intrinsèquement expérimentale qui lui permet de bifurquer en inventant de nouvelles façons de penser, d’agir et de créer (43). Il porte en lui une cosmopoétique(44) qui l’amène à devoir influencer les relations entre les êtres et les choses. Il peut faire advenir une nouvelle poésie du monde qui neutralise définitivement la mainmise de la technique sur notre humanité. 

Imaginer, fictionnaliser, désordonner, articuler, expérimenter : voilà ce que la pensée du droit réclame aujourd’hui comme ce qui est dû au droit, et qui a été oublié depuis trop longtemps. Nous devons continuer. Nous devons opérer notre retour au droit(45). 

Marin De Nebehay

IDFRights

(1) Le Figaro avec AFP, « Chili : vote d’une loi protégeant les « neurodroits » ou droits du cerveau », Le Figaro, 30 septembre 2021. 

(2) Le HuffPost avec AFP, « Neurodroits : Le Chili veut protéger le cerveau de ses citoyens contre les technologies » HuffPost, 29 avril 2021.

(3) Sénateur chilien.

(4) Ibid.

(5) Sally Adee, « Zap Your Brain into the Zone : Fast Track to Pure Focus », New Scientist, 6 février 2012. Voir aussi R. Douglas Fields, « Amping Up Brain Function : Transcranial Stimulation Shows Promise in Speeding Up Learning », Scientific American, 25 novembre 2011. Lire également Sally Adee, « Better Living Through Electrochemestry », The Last Word On. Nothing, 9 février 2012.

(6) Kasperky Lab, The Memory Market : Preparing for a futur where cyberthreats target your past, octobre 2018.

(7) Anabelle Laurent, « Les neurotechnologies pourraient permettre la manipulation des masses », Usbek&Rika, 6 décembre 2018. 

(8) Article 3 de la Charte de l’Union européenne sur les droits fondamentaux.

(9) Loi n°2021-1017 du 2 août 2021 relative à la bioéthique.

(10) Les données de santé sont des « données relatives à la santé physique ou mentale d’une personne physique, y compris la prestation de soin de santé, qui relèvent des informations sur l’état de santé de cette personne ».

(11) Marie Lechner, « Une révolution numérique au goût d’acid party », Libération, 22 janvier 2013.

(12) Né en Californie à la fin des années 1980, le transhumanisme est une nébuleuse idéologique d’importance mondiale. Appuyé à la fois sur les nouvelles technologies, sur une philosophie mélioriste des sciences et sur le développement du capitalisme numérique, il a pour principe commun la transformation, l’amélioration et l’augmentation des êtres humains. Lire Franck Damour, « Le mouvement transhumaniste, Approches historiques d’une utopie technologique contemporaine », Vingtième siècle. Revue d’Histoire. N°138, 2018, Pp.143-156.

(13) Günther Anders, « Sur la honte prométhéenne », L’Obsolescence de l’homme, Sur l’âme à l’époque de la deuxième révolution industrielle (1956), Éditions de l’encyclopédie des nuisances, Éditions Ivrea, 2002, P. 37.

(14) Ibid.

(15) Ibid.

(16) Ibid.

(17) Ibid.

(18) Ibid.

(19) Définition de l’Anthropocène donnée par le dictionnaire le Larousse : « Période actuelle des temps géologiques, où les activités humaines ont de fortes répercussions sur les écosystèmes de la planète et les transforment à tous les niveaux ».

(20) Robert Oppenheimer dira de lui-même « Je suis devenu la mort, le destructeur des mondes ».

(21) Par exemple, Calico est une société de biotechnologie fondée le 18 septembre 2013 par Google dans le but de lutter contre le vieillissement humain et ses maladies associées, avec pour projet déclaré de « tuer la mort ».

(22) Günther Anders, « Sur la honte prométhéenne », L’Obsolescence de l’homme, Sur l’âme à l’époque de la deuxième révolution industrielle (1956), Éditions de l’encyclopédie des nuisances, Éditions Ivrea, 2002, P. 40.

(23) Ibid. Lire également Auguste de Villiers de L’Isle-Adam, L’Ève future, 1886.

(24) Ibid. P. 47.

(25) Voir le phénomène du Digital Make Up.

(26) Séverine Pierron, « Les filtres c’est une drogue ou la tyrannie du visage Instagram », Le Monde, 17 janvier 2020.

(27) Friedrich Nietzsche, Ainsi parlait Zarathoustra, 1885.

(28) Des constructions défectueuses, défaillantes, erronées. Pour l’armée américaine, c’est l’humanité de ses soldats qui est problématique. Lire également Robert Jungk, Le futur a déjà commencé, 1953.

(29) Günther Anders, « Sur la honte prométhéenne », L’Obsolescence de l’homme, Sur l’âme à l’époque de la deuxième révolution industrielle (1956), Éditions de l’encyclopédie des nuisances, Éditions Ivrea, 2002, P. 55.

(30) pompe à perfusion

(31) Martine Fournier. « Cyborgs d’hier et de demain », Sciences Humaines, vol. 233, no. 1, 2012, pp. 16-16.

(32) Publication sponsorisée par la AF School of Aviation Medecine San Antonio, Texas.

(33) Madeline Aktypi, « Donna Haraway et les technologies de l’ordinaire » dans Elsa Dorlin et Eva Rodriguez, Penser avec Donna Haraway, PUF, P.117

(34) Elon Musk pense la même chose en déclarant que l’augmentation technologique de l’humanité est le seul moyen de résister aux progrès de l’intelligence artificielle (IA). Neuralink a pour but de développer la connexion entre le cerveau humain et les ordinateurs afin d’éviter que l’homme ne soit dépassé par une IA.

(35) Martin Heidegger, « La question de la technique », Essais et conférences.

(36) Gérard Cornu, Association Henri Capitant, Vocabulaire juridique, Presse Universitaire de France.

(37) Le préambule de 1946 consacre la liberté de pensée dans le domaine particulier des relations de travail : « Nul ne peut être lésé dans son travail ou de son emploi en raison de ses opinions et de ses croyances. » De ce principe, l’ordonnance du 4 février 1959, portant statut de la fonction publique, fait une application particulière en prohibant au dossier du fonctionnaire, toute mention de « ses opinions politiques, philosophiques et religieuses ». De ce principe, l’ordonnance du 4 février 1959, portant statut de la fonction publique, fait une application particulière en prohibant, au dossier du fonctionnaire, toute mention de « ses opinions politiques, philosophiques ou religieuses ».

(38) Déclaration de 1789, article 10 : « Nul ne doit être inquiété pour ses opinions, même religieuse, pourvu que leur manifestation ne trouble par l’ordre public » ; article 11 : « La libre communication des pensées et des opinions est un des droits les plus précieux de l’homme ».

(39) Constitution de 1958, article 1 : « La France est une république laïque. Elle assure l’égalité devant la loi de tous les citoyens sans distinction d’origine, de race ou de religion. Elle respecte toutes les croyances. » ; article 4 : « Les partis et groupements politiques concourent à l’expression du suffrage. Ils se forment et exercent leur activité librement. Ils doivent respecter les principes de la souveraineté nationale et de la démocratie ». Une confirmation de ces principes est apportée par la disposition de la loi du 6 janvier 1978 « Loi informatique et libertés » interdisant dans les fichiers toute information relative aux opinions religieuses, politiques philosophiques ou syndicales.

(40) Jean Rivero, Les libertés publiques, Le régime principal des libertés, Presse Universitaire de France, P. 137.

(41) Ibid.

(42) Laurent de Sutter, Hors la loi, Théorie de l’anarchie juridique, Les liens qui libèrent, P.70.

(43) Ibid.

(44) Lire Giabasttista Vico, Origines de la poésie et du droit (1721), trad. Fr. Catherine Henri et Annie Henry, Paris, Allia, 2019. Lire aussi Jacob Grimm, Von der Poesie im Recht (1863) Darmstadt, Ort, 1963.

(45) Laurent de Sutter, Hors la loi, Théorie de l’anarchie juridique, Les liens qui libèrent, P.108.