Le 2 février 2024, après quelques atermoiements de la part de l’Allemagne, L’Italie et surtout de la France, a été validé l’accord politique proposé par la Présidence belge du Conseil de l’UE sur le règlement dont l’objectif est de réguler l’IA.

Les négociations ont été très tendues. L’équilibre trouvé est très fragile. 

Si l’Institut se félicite que le futur règlement ait validé néanmoins la possibilité pour les auteurs, les artistes ou les médias de refuser que leurs contenus participent à l’entraînement des modèles, il aurait préféré que le texte consacre une place plus importante à l’IA générative comme voulu par le Parlement européen au lieu de les noyer dans une catégorie plus large – et donc moins précise – qui est celle des systèmes des IA à usage général.

Pour le secteur culturel, l’IA générative qui permet de créer des œuvres de l’esprit à partir d’outils qui alimentent les bases d’entraînement de l’IA, est un grave danger puisqu’il se fonde sur l’utilisation massive d’œuvres protégées sans l’autorisation de leurs auteurs.

Il est indispensable de repenser le cadre juridique de l’IA entre la nécessité de permettre le développement de l’innovation et celle de conserver une protection efficace pour les œuvres qui relèvent du droit d’auteur et de la propriété intellectuelle.

L’Institut considère qu’il aurait été plus approprié de traiter ces enjeux spécifiques au monde des Arts dans cette règlementation, puisqu’elle était sensée réguler et encadrer les développeurs de systèmes d’IA. Vouloir proposer un texte spécifique pour les applications de l’IA en matière de droit d’auteur et de propriété intellectuelle fait prendre le risque de voir s’installer des dispositions contradictoires entre le règlement sur l’IA et une nouvelle proposition, ce qui non seulement compliquerait sa mise en œuvre mais ne manquera pas de conduire à l’introduction de procédures multiples devant la CJUE, qui compte tenu de leur durée, seront au final préjudiciables aux ayants droits. 

Plusieurs décideurs politiques esquivent cette question en expliquant que la révision de la Directive sur le droit d’auteur pourrait ainsi être complétée pour permettre rapidement d’instaurer un encadrement de l’IA générative dans ce secteur professionnel. C’est une vraie fausse bonne idée. La directive sur le droit d’auteur a été validée dans la douleur au Parlement européen en 2019 et au niveau européen, les mouvements en faveur d’un affaiblissement du droit de la propriété intellectuelle se poursuivent sous la pression des GAFAM. Prendre le risque de la rouvrir, c’est aussi prendre celui de voir les dispositions en faveur de la rémunération des œuvres protégées revues à la baisse et de bousculer le déjà fragile équilibre économique des acteurs dont l’activité est basée sur le droit d’auteur et la propriété intellectuelle. Ceci aurait pour conséquence une dégradation de l’identité culturelle européenne, car au-delà de l’enjeu de rémunération, le droit de la propriété intellectuelle et plus spécifiquement le droit d’auteur est un phénomène sociétal, comme le résumait très bien Jean-Michel Jarre: « c’est la propriété intellectuelle qui permet à une communauté de développer ses savoir-faire, ses créations, son artisanat, son patrimoine et de ne pas dépendre de la création des autres ».

Plus généralement, cette bataille ne concerne pas seulement la survie économique des créateurs, mais aussi la protection d’un marché européen des industries culturelles qu’EY évaluait dans son « 2ème Panorama européen des industries culturelles et créatives » à 643 milliards d’euros fin 2019, soit 4,4% du PIB de l’UE en termes de chiffre d’affaires (dernières évaluations avant la pandémie de Covid-19 et son impact négatif massif sur le secteur). D’où la nécessaire protection de ses contenus puisque les industries européennes ne dominent pas les réseaux et les tuyaux qui les véhiculent et l’enjeu d’obtenir par le droit et la loi le partage des richesses engrangées par ceux qui exploitent ces contenus et en tirent d’extravagants bénéfices qu’ils doivent apprendre à partager.

Par ailleurs, il faut aussi noter que l’Europe dispose déjà d’un ensemble de législations sur les services numériques pour protéger les consommateurs et leurs droits fondamentaux en ligne en établissant des règles proportionnées et rendre les plateformes plus transparentes vis-à-vis de leurs utilisateurs, particuliers et professionnels. Il y a encore des lacunes dans leur application. Les textes, souvent techniques et complexes, ne sont pas toujours cohérents entre eux, ce qui peut faire apparaître des difficultés au moment des transpositions en droit national, sans compter les tentatives pour contourner les dispositions européennes. 

Durant la mandature européenne qui s’achèvera avec les élections européennes du 9 juin prochain, l’Union européenne a complété son dispositif règlementaire pour encadrer le numérique : avec les textes sur les services et les marchés du numérique, elle a plutôt rattrapé le retard qui s’était creusé entre les marchés, les pratiques de certaines grandes multinationales et les attentes des consommateurs européens et les besoins de protection d’utilisateurs exposés à des contenus inappropriés et dangereux ou des services dont le modèle économique reposait sur des mirages tout aussi inappropriés et dangereux. Au centre de ce rééquilibrage et de la bataille, les données. Bien sûr, celles-ci sont aussi au cœur des discussions sur l’IA mais dans une perspective toute autre et bien plus large : il ne s’agit plus de rattraper un retard mais de devancer des risques face à l’inquiétude qu’a déjà faite naître certaines applications de l’IA, sur les données mais dans bien d’autres domaines fondamentaux du vivant. Dans une certaine mesure, l’AI Act répond à des inquiétudes d’aujourd’hui mais son approche par les usages vise à rendre le texte résistant à l’épreuve du temps et des futurs développements technologiques. Cependant, et l’on peut rejoindre la position française dans certaines de ses hésitations, ce pari sur l’avenir est pris à un moment où demeurent encore beaucoup d’inconnues, tant du côté des risques que des opportunités. Quelles seront-elles demain ? Ne nous interdisons pas de répondre plus tard à des questions qui ne se posent pas encore aujourd’hui mais qui n’en existent pas moins.

C’était un exercice difficile de construire les bases règlementaires d’un domaine aussi révolutionnaire que celui de l’IA : sans renier le travail accompli, remarquable à certains égards, l’Institut appelle à ne pas sacraliser l’AI Act comme ce fut le cas dans le passé avec certains textes, comme la directive e-commerce, gravée dans le marbre pour l’éternité, car ces textes traitaient de problématiques infiniment plus simples que celles posées par le développement de l’IA. Nous prenons donc l’AI Act comme une première pierre mais appelons à ne pas le considérer comme la forteresse ou le rempart qu’il ne peut déjà être. Il restera encore beaucoup à inventer et à construire et ce, dès la prochaine mandature européenne.

L’Institut prône la recherche d’un équilibre pour promouvoir un cadre règlementaire qui stimule l’innovation responsable afin que les entreprises puissent développer des technologies d’IA conformes aux valeurs européennes. Il va donc suivre de très près les évolutions de cette situation et à quelques mois des élections européennes, c’est un thème qu’il a bien l’intention d’évoquer avec les candidats pressentis.

Précisions sur l’accord politique autour du règlement #IA-ACT

Le texte a également été confirmé par les commissions parlementaires du Marché intérieur et des Libertés civiles du Parlement européen le 13 février. Pour que l’acte soit définitif adopté, le Parlement devra encore le voter dans son ensemble, lors de la séance plénière du 11 avril à Bruxelles. Il sera très probablement accepté en l’état par les Eurodéputés. Après ce vote, le Conseil de l’UE pourra entériner son approbation du texte final, dernière étape avant la signature officielle de l’Acte et sa publication au Journal Officiel de l’UE. 

La France a tenté de bloquer le projet, car elle aurait préféré une approche moins contraignante, qui n’aurait pas visé les modèles de l’IA mais les usages qui en sont faits. Elle reprochait tout particulièrement à l’accord de créer des obligations différenciées, qui pèsent sur les modèles puissants comme l’IA générative, et de vouloir les réguler trop vite en empêchant ainsi, selon elle, l’innovation européenne dans ce domaine. Isolée, elle a accepté de voter la proposition. Elle a toutefois demandé et obtenu des garanties de la part de l’exécutif européen afin que soit pris en compte le fait que la « performance des modèles d’IA évolue rapidement » lorsqu’il sera question de mettre à jour les paramètres concernant les modèles d’IA à usage général. Il est indéniable que cette déclaration cherche à amoindrir l’obligation de transparence pesant sur les développeurs de ces modèles d’IA quant aux données d’entraînement qu’ils utilisent.

Sur les « risques systémiques », le règlement sur l’IA confirme l’obligation pour toutes les sociétés du secteur concernées de s’assurer de la qualité des données utilisées dans la mise au point des algorithmes pour vérifier qu’elles respectent bien la législation sur les droits d’auteur. 

La France espère cependant qu’elle pourra continuer à exercer quelques pressions sur les Institutions sur ces points qu’elle ne souhaite pas voir prospérer, notamment par le biais de sa participation aux réunions du tout nouveau « bureau européen de l’IA » dont la création est prévue dans l’AI Act et qui sera chargé de la « rédaction du référentiel qui définira les informations sur les données d’entraînement que les entreprises de la tech devront partager avec les ayants droit ». Elle a obtenu satisfaction sur un point essentiel qui figurait dans ses lignes rouges pouvant motiver un rejet du règlement : la notion selon laquelle les données d’entrainement devront respecter la législation sur le secret des affaires, qui permettra de mentionner quelles informations commerciales devront rester confidentielles. Mais les décisions finales resteront à l’initiative de la Commission européenne.

Pour ce qui est des autres dispositions du texte, on note que les développeurs devront identifier les sons, images et textes afin de s’assurer qu’ils n’ont pas été générés à partir de contenus protégés. Les mesures de contraintes renforcées ne s’appliqueront qu’aux seuls systèmes les plus puissants. 

Enfin le règlement s’adresse aussi à l’ensemble des systèmes d’IA considérés « à haut risque ». Ces systèmes sont déjà identifiés et listés dans l’annexe III du texte comme ceux utilisés dans des domaines sensibles comme l’éducation, les ressources humaines ou la sécurité nationale. Ils seront soumis à une série d’obligations de leurs développeurs et déployeurs, qui devront notamment s’assurer d’un contrôle humain, établir une documentation technique et mettre en place un mécanisme de gestion des risques.

Colette Bouckaert

Secrétaire générale de l’iDFRights