POSITION PAPER par l’iDFRIGHTS – L’intelligence artificielle : La proposition de la commission européenne

21 mai 2021

POSITION PAPER par l’iDFRIGHTS. Le 21 avril dernier, Margrethe Vestager et Thierry Breton ont présenté la proposition de la Commission européenne pour une “nouvelle réglementation en matière d’Intelligence artificielle. C’est dans ce cadre que l’iDFrights a rédigé une première analyse générale du texte. Comme nous l’avons fait pour le DSA/DMA, nous relaierons dans les semaines à venir des contributions de professionnels, d’universitaires et de juristes qui détailleront les positions prises par la Commission.

A marche forcée, l’année 2021 est décidément des plus étonnantes pour le monde numérique. Après le paquet DMA/DSA, la Commission européenne a présenté le 21 avril dernier, une nouvelle règlementation en matière d’Intelligence artificielle (IA).

L’objectif est de mettre l’accent sur les valeurs de l’UE et de conforter la confiance des citoyens européens à l’heure où il se pose de plus en plus de questions dans la société civile sur ce sujet. La Commission édicte donc dans ce texte un certain nombre de garde-fous fondé sur l’approche par les risques.

Elle fournit une définition de ce qu’elle entend par “intelligence artificielle”. Il s’agit d’un logiciel capable, pour un « ensemble donné d’objectifs définis par l’homme, de générer des résultats tels que du contenu, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels ils interagissent ». Il s’agit d’une définition assez large permettant d’englober de nombreux aspects technologiques et toute forme de système d’IA.

La proposition vise à encadrer de manière horizontale et transversale la plupart des applications de l’IA, mais ce règlement s’attache davantage à l’encadrement des usages qu’à une règlementation de la technologie elle-même.

Sur le modèle du DSA (Digital Service Act), elle fait reposer sa stratégie sur une approche basée sur l’évaluation du risque classé en 4 catégories :

1 – les usages représentant des risques minimes : la proposition autorise notamment l’utilisation libre d’applications telles que les jeux videos. Le projet ne prévoit pas d’intervention dans ces cas de risques minimes, voire nuls, pour les droits ou la sécurité des citoyens.

2 – Les usages représentant des risques limités qui devront pour leur part, respecter des règles de transparence, comme par exemple, de devoir spécifier aux utilisateurs en ligne, le fait qu’ils interagissent avec un « chatbot » (robot conversationnel qui est un dialogue personne/machine)

3 – Les systèmes de l’IA considérés à haut risque sont ceux utilisés dans les infrastructures notamment en matière de transport (les véhicules autonomes), d’éducation, de formation, de sécurité des produits ou encore dans le domaine de l’emploi et des services privés. Ces systèmes devront être labellisés pour être commercialisés en Europe, donc être conformes à des obligations strictes et soumis à un contrôle humain. Il faudra de plus, que la qualité des données et qu’une transparence totale soient de mise. Ces IA devront enfin produire une documentation détaillée du système accessible.

4- Cette catégorie concerne une interdiction pure et simple des systèmes représentant un risque qualifié d’inacceptable. Sont inclus tous les usages de l’IA menaçant la sécurité, les moyens de subsistance et les droits des personnes. Le « social scoring » en particulier qui est une application qui trie les citoyens en fonction de leurs comportements sociaux afin de leur allouer un score qui leur permette ou pas l’accès à certains services, sera interdit.

Les systèmes d’identification biométrique à distance en temps réel des personnes se trouvant dans l’espace public sont pour leur part qualifiés « à haut risque ». Cependant ils pourront être utilisés dans le cadre d’exceptions lorsqu’il sera question de prévenir une menace terroriste spécifique et imminente, d’identifier ou de localiser un suspect d’une infraction pénale grave ou de rechercher un enfant disparu. Dans ces cas, le recours à ces systèmes devra être autorisé par une instance judiciaire ou un organe indépendant. L’autorisation comprendra des limitations en termes de durée, de portée géographique, et elle devra préciser les bases de données qui pourront être consultées.

Notons l’effort de simplification du législateur qui est revenu à des termes préexistants et a abandonné certains concepts peu clairs. Ainsi les acteurs évoqués par le texte demeurent simplement fournisseur, utilisateur, mandataire, importateur et distributeur.

D’autre part, les éditeurs de logiciels classés « à haut risque » devront mettre en place un « représentant légal » en Europe. Ces derniers, placés sous la surveillance des autorités nationales de régulation compétentes, devront veiller au respect des règles édictées. Le texte prévoit également l’élaboration de « codes de conduite » facultatifs pour encadrer l’usage des systèmes ne présentant pas de « risque élevé » et des « regulatory sandboxes » pour encourager l’innovation responsable.

Les organisations de défenseurs des droits fondamentaux et des consommateurs ont fait part de leur déception car pour elles les règles proposées ne protègent que faiblement les consommateurs.

Le Parlement européen et le Conseil de l’UE vont maintenant entamer leurs travaux dans le cadre de la procédure législative ordinaire.

Par ailleurs, la Commission qui a proposé un plan coordonné avec les Etats membres pour renforcer les investissements et l’innovation dans l’UE et notamment ceux concernant les projets développant de l’IA, va poursuivre la mise en œuvre des actions annoncées dans ce plan.

 

Jean-Marie Cavada

Jean-Marie CAVADA, Député européen de 2004 à 2019, ancien Président de Radio France et de Réseau France Outremer, créateur de France 5. Président du Mouvement Européen France de 2012 à 2016. Au Parlement européen, Jean-Marie CAVADA a successivement occupé les fonctions de Président de la Commission des Libertés civiles, justice et Affaires intérieures, de Président du groupe de travail sur les droits d’auteur et la propriété intellectuelle, de Vice-président de la Commission des Affaires juridiques, et Président de l’intergroupe Média.

Colette Bouckaert

Directrice de Cabinet de Jean-Marie Cavada dans l’exercice de son mandat de Député européen pendant dix ans, Colette Bouckaert a mis à profit son expertise juridique en matière de droit de la propriété intellectuelle, acquise au cours de sa carrière de juriste pour assister et accompagner ce dernier dans l’ensemble des travaux qu’il a menés dans la Commission des Affaires juridiques et celle de la Culture et de l’éducation.

Benjamin Martin-Tardivat

Associé fondateur du Cabinet d’avocats WITETIC, Benjamin Martin-Tardivat accompagne les entreprises et les créateurs depuis plus de 20 ans dans la gestion de leur patrimoine immatériel que ce soit en matière de propriété intellectuelle (stratégies, audits, protections, valorisations, défense, …) ou en matière de compliance (mise en conformité RGPD). Spécialisé dans la protection des données personnelles, il intervient comme Data Protection Officer (« DPO ») auprès de nombreuses sociétés et associations françaises et étrangères. Il forme étudiants, créateurs d’entreprises et administrations afin de les sensibiliser aux problématiques du droit d’auteur, de la propriété industrielle et de la protection des données dans la société de l’information et l’impact des nouvelles technologies et de l’IA dans ces domaines.

L’Institut

À la fois enjeu de nos sociétés démocratiques et ingrédient stratégique pour les acteurs économiques, les données numériques sont au coeur des grands questionnements autour du monde digital. La gouvernance des données ne peut plus s’en remettre au hasard des initiatives isolées ou aux simples lois du marché : elle doit être, à différents niveaux, régulée, organisée, codifiée. Si le règlement européen RGPD constitue une avancée majeure reconnue bien au-delà des frontières de l’UE, il ne suffira pas.

Initiative de juristes, chercheurs, universitaires, ONG, acteurs de l’écosystème numérique et personnalités publiques, l’Institut des Droits Fondamentaux Numériques est né de cette importance et de l’urgence d’une réelle gouvernance des données, protectrice à la fois des droits des individus (citoyens, consommateurs), et de ceux des entreprises et organisations.

Plus d’articles

INVENTER LA CONTRIBUTION FINANCIERE DES GAFA

INVENTER LA CONTRIBUTION FINANCIERE DES GAFA

JP Spitzer
Depuis plusieurs années, tant certains Etats membres que l’Union Européenne elle-même cherchent à « taxer » les GAFAM (Google-Apple-Facebook-Amazon-Microsoft).
Leur motivation consiste à soutenir que ces entreprises, géants mondiaux, payent leurs impôts dans des paradis fiscaux, choisis pour y déclarer leurs bénéfices. Au lieu de les payer dans les Etats où ils réalisent effectivement leurs bénéfices.

lire plus
LA COUR DE JUSTICE DE L’UE : L’Avocat Général rend ses conclusions dans l’affaire opposant la Pologne au Parlement Européen et le Conseil de l’Union européenne sur la compatibilité de l’article17 de la Directive droit d’auteur avec la liberté d’expression et d’information

LA COUR DE JUSTICE DE L’UE : L’Avocat Général rend ses conclusions dans l’affaire opposant la Pologne au Parlement Européen et le Conseil de l’Union européenne sur la compatibilité de l’article17 de la Directive droit d’auteur avec la liberté d’expression et d’information

Colette Bouckaert
Le 15 juillet, l’Avocat Général a rendu ses conclusions dans l’affaire opposant la Pologne au Parlement européen et au Conseil de l’UE devant la Cour de Justice del’UE (Aff C-401/19).

lire plus
Les industries dépendant le plus des droits de la propriété intellectuelle sont essentielles pour l’économie européenne

Les industries dépendant le plus des droits de la propriété intellectuelle sont essentielles pour l’économie européenne

Paul Maier
L’importance des droits de propriété intellectuelle (DPI) ne saurait être sous-estimée. Une série d’études conjointes menées par l’Office de l’Union européenne pour la propriété intellectuelle (EUIPO) et l’Office européen des brevets (OEB) ont quantifié la contribution apportée à l’économie de l’UE par les industries à forte intensité de DPI.

lire plus

Contactez-nous

Adresse

179, boulevard Haussmann 75008 Paris

Restez informés

Recevez régulièrement les actualités de

Suivez-nous sur les réseaux