IA act Europe : équilibrer innovation et réglementation, ChatGPT au cœur de la nouvelle régulation.

Face à l’évolution rapide de l’intelligence artificielle (IA), notamment avec des IA génératives, telles que ChatGPT, Claude 2, Mixtal X ou encore Gemini, l’Union européenne (UE) a décidé de réglementer leur utilisation eu sein de l’Europe.

Ainsi, après plus d’une année de préparation, de concertation de débat sur l’IA, l’Union européenne [1] a souhaité instaurer un règlement spécifique à cette nouvelle technologie en plein essor.

Ce cadre réglementaire doit concilier deux objectifs distincts : équilibrer la prévention des risques liés à l’IA et la nécessité de permettre aux sociétés évoluant sur ce marché européen de rester compétitives.

C’est la raison pour lequel un processus d’adoption au sein de l’UE a été mis en œuvre afin de concilier un équilibre entre un exercice de haute précision juridique et technologique, nécessitant une collaboration étroite entre divers organes de l’UE et une prise en compte approfondie des implications multidimensionnelles de l’IA.

1. Le processus d’adoption d’une nouvelle réglementation de l’IA au sein de l’UE.

Pour bien comprendre les enjeux actuels liés à l’intégration d’une règlementation de l’IA au sein de l’UE, il faut avoir en tête quel est le processus d’adoption d’un projet législatif eu sein de l’Union (A), et la situation actuelle de la législation sur l’IA dans l’UE (B).

A) Le processus d’adoption d’un projet législatif au sein de l’union.

Le processus d’adoption d’un projet législatif en matière d’IA au sein de l’Union européenne (UE) s’inscrit dans un cadre réglementaire et procédural distinctif, reflétant les spécificités et les enjeux inhérents à cette technologie émergente.

Élaboration d’une proposition par la Commission Européenne.

Dans le domaine spécifique de l’IA, la Commission Européenne prend l’initiative en élaborant une proposition législative. Cette étape est cruciale et s’appuie sur une évaluation approfondie des implications technologiques, éthiques et sociétales de l’IA.

La commission peut, par exemple, consulter des experts en IA, des parties prenantes de l’industrie, ainsi que le public, pour s’assurer que la proposition répond aux besoins et aux préoccupations de toutes les parties concernées.

Processus de codécision entre le Parlement et le Conseil, ainsi que le rôle renforcé des comités spécialisés.

Une fois la proposition formulée, elle est soumise au Parlement européen et au conseil de l’UE. Dans le cadre du processus de codécision, qui est le mécanisme législatif standard de l’UE, ces deux organes doivent parvenir à un consensus sur le texte. Leurs délibérations tiennent compte des spécificités techniques et éthiques de l’IA, mettant l’accent sur des aspects tels que la protection des données, la non-discrimination, la transparence et la responsabilité.

Étant donné la complexité de la matière, des comités spécialisés au sein du Parlement Européen, tels que ceux axés sur les nouvelles technologies ou les affaires juridiques, jouent un rôle crucial dans l’examen et l’amendement de la proposition.

Ces comités apportent une expertise technique et juridique indispensable pour façonner une législation adaptée aux défis posés par l’IA.

Procédure de conciliation, accord et adoption.

Si le conseil et le Parlement ne parviennent pas à un accord en deux lectures, une procédure de conciliation est engagée. Actuellement et depuis le 24 janvier 2023, le Conseil est parvenu à un accord avec l’ensemble des états membre de l’UE. Reste au Parlement d’adopter le texte ou de le rejeter. Après l’adoption du texte par le Parlement, la législation sera mise en œuvre.

Il est essentiel de garder à l’esprit que dans le cas de l’IA, cette mise en œuvre peut inclure des directives spécifiques pour les États membres sur la manière de réguler les applications d’IA au niveau national, tout en respectant le cadre général établi au niveau de l’UE.

Enfin, étant donné l’évolution rapide de la technologie de l’IA, le cadre juridique adopté est susceptible de faire l’objet d’une surveillance et d’une évaluation continues. Cela permet d’assurer que la législation reste pertinente et efficace face aux développements technologiques.

B) Situation actuelle de la législation sur l’IA dans l’UE : vers une 1ère réglementation mondiale.

En l’absence de cadre légal spécifique et dédiée à l’intelligence artificielle, la Commission européenne avait décidé dès 2021 de travailler sur un texte visant à établir des normes uniformes pour l’IA.

La nouvelle législation envisagée a pour dessein principal d’assurer la sécurité des systèmes d’IA mis sur le marché européen.

Cette initiative prend racine dans le respect indéfectible des droits fondamentaux et la préservation de l’état de droit, deux piliers de l’ordre juridique de l’union.

La réglementation projette de fournir un terreau fertile à l’innovation et aux investissements dans le secteur florissant de l’IA, en instaurant un climat de sécurité juridique. Elle vise à renforcer la gouvernance et l’application effective des standards sécuritaires et des droits essentiels associés à l’usage de l’IA. En outre, elle ambitionne de promouvoir l’émergence d’un marché unifié pour les applications d’IA qui soient conformes à la loi et sécurisées, dans le but de contrer la fragmentation actuelle du marché.

2. La mise en œuvre de dispositions spécifiques pour réglementation de l’IA au sein de l’UE.

Concilier la sécurité tout en permettant aux acteurs européen de l’IA de poursuivre leur développement, telle est la mission que s’est fixée la Commission Européenne (A).

Pour autant, ce projet de réglementation n’est pas exempt de toute critique (B).

A) Des objectifs sécuritaires louables.

1. Les axes fondamentaux de la proposition de règlement de l’IA au sein de l’Union.

• Interdictions et restrictions : il s’agit d’instaurer une interdiction catégorique sur certaines pratiques d’IA jugées inacceptables, et de définir des critères rigoureux pour les systèmes d’IA considérés comme hautement risqués.

• Règles de transparence : des exigences de transparence sont posées pour les systèmes d’IA qui interagissent directement avec les humains, pour ceux qui sont capables de reconnaissance émotionnelle et de catégorisation biométrique, ainsi que pour les systèmes génératifs de contenu.

• Alignement sur les normes européennes : la proposition s’aligne méticuleusement avec la Charte des droits fondamentaux de l’Union européenne et la législation existante sur la protection des données et d’autres domaines critiques tels que la consommation, la non-discrimination et l’égalité des genres. Elle est conçue pour minimiser le risque de discrimination algorithmique, imposant des obligations spécifiques telles que des tests rigoureux, une gestion des risques prudente, une documentation exhaustive et une supervision humaine tout au long du cycle de vie des systèmes d’IA.

• Avantages et risques de l’IA : si les pays membres de l’UE reconnaissent le potentiel de l’IA à générer des bénéfices sociaux et environnementaux, ils s’accordent également pour prendre en considération les risques et les impacts négatifs possibles. C’est le défi de cette règlementation : permettre à certaines pépites de la tech de se développer afin que l’Europe soit un territoire innovant, tout protégeant les usagers des dérives possibles.

2. Un projet de réglementations différenciées selon les niveaux de risque.

Les nouvelles directives stipulent des responsabilités distinctes pour les fournisseurs et utilisateurs d’IA en fonction du degré de risque associé. Même si de nombreux systèmes d’IA sont jugés à faible risque, ils requièrent néanmoins une évaluation.

Le texte décrit ainsi les nouvelles réglementations de l’Union Européenne (UE) concernant les fournisseurs de systèmes d’intelligence artificielle (IA) [2] et la classification des risques associés à ces systèmes.

Les catégories de risques et réglementations associées :

• Risques minimes ou nuls : la plupart des systèmes d’IA, considérés comme sans risque, ne sont pas sujets à une réglementation spécifique et peuvent continuer à fonctionner sans restrictions.

• Risques limités : les systèmes d’IA présentant des risques limités sont soumis à des exigences minimales de transparence, comme l’obligation d’informer les utilisateurs que le contenu a été généré par l’IA.

• Risques élevés : les systèmes d’IA à haut risque sont autorisés dans l’UE, mais doivent respecter des exigences strictes et diverses obligations pour accéder au marché.

• Risques inacceptables : certains usages de l’IA, jugés à risque inacceptable, sont interdits dans l’UE. Cela inclut la manipulation comportementale cognitive, la police prédictive, la reconnaissance des émotions au travail et dans l’éducation, ainsi que la notation sociale.

L’utilisation des systèmes d’identification biométrique à distance, comme la reconnaissance faciale, est également largement interdite, avec quelques exceptions.

Ces réglementations de l’UE visent à équilibrer le développement et l’utilisation de l’IA avec la protection des citoyens contre les risques potentiels, en établissant un cadre juridique clair pour les différents niveaux de risque associés aux systèmes d’IA.

Certaines exceptions seront envisageables pour des usages policiers spécifiques. Les systèmes d’identification biométrique à distance en « temps réel » seront permis dans des circonstances graves et limitées, alors que les systèmes d’identification biométrique à distance différée, où l’identification survient après un laps de temps conséquent, seront autorisés pour enquêter sur des délits majeurs, mais seulement après validation judiciaire.

B) Critiques et perspectives de cette réglementation de l’IA.

1. L’encadrement particulier des IA génératives comme ChatGPT.

La Commission Européenne considère que la priorisation d’une IA « licite, sûre et digne de confiance » est indispensable pour garantir la protection des données personnelles et la prévention des risques associés à une IA potentiellement hostile.

Cette approche s’aligne sur le respect des droits fondamentaux et la conformité au droit de l’Union européenne, assurant ainsi une utilisation éthique et responsable de l’IA.

Une attention particulière a été portée sur les IA génératives, telles que ChatGPT dont l’utilisation auprès des avocats se généralise de plus en plus [3]. Ces dernières ont connu un développement fulgurant au cours de l’année qui vient de s’écouler.

Ces modèles d’IA présentent un risque systémique et doivent faire régulièrement l’objet d’évaluations détaillées afin qu’il soit porté à la connaissance des instances dirigeantes tout incident significatif pouvant avoir des conséquences négatives à moyen et long terme.

Ainsi, les IA génératives seront soumises aux obligations de transparence suivantes :

• signaler que le contenu est généré par l’IA
• concevoir le modèle pour éviter la production de contenu illégal
• publier des synthèses des données soumises au droit d’auteur utilisées pour l’entraînement.

ChatGPT est ainsi visé comme étant source potentielle d’un risque modéré.

Ces systèmes d’IA à risque modéré devront se conformer à des obligations de transparence fondamentales, permettant aux utilisateurs de prendre des décisions avisées.

Après interaction avec les applications, ils pourront choisir de poursuivre ou non leur utilisation. Il est impératif d’informer les utilisateurs lorsqu’ils interagissent avec l’IA, y compris avec les systèmes générant ou manipulant du contenu visuel ou audio (ex : les deepfakes, qui sont des contenus falsifiés rendus réalistes grâce à l’IA).

2. Les risques d’une réglementation trop stricte.

Cette réglementation, tout en étant louable pour son engagement envers la légalité, la sûreté et la fiabilité, soulève des questions critiques quant à son impact sur l’innovation et la compétitivité des entreprises européennes spécialisées en IA.

En imposant des cadres rigoureux, la proposition de loi soutenue par la commission risque de limiter la flexibilité nécessaire pour l’expérimentation et le développement rapide des technologies IA.

Cette situation pourrait placer les entreprises européennes dans une position désavantageuse par rapport à leurs homologues internationaux, notamment dans des régions où les réglementations en matière d’IA sont moins contraignantes.

De plus, en restreignant la liberté de développement de l’IA, l’Europe pourrait perdre son potentiel d’innovation dans un domaine clé du futur numérique. Bien que la sécurité et la conformité soient cruciales, il est essentiel d’équilibrer ces exigences avec le besoin d’innovation et de compétitivité commerciale.

En conclusion, bien que l’objectif de la Commission Européenne pour l’adoption responsable de l’IA est nécessaire, il doit veiller à ne pas entraver l’innovation et la compétitivité des entreprises européennes.

Un équilibre délicat doit être trouvé entre réglementation et liberté pour que l’Europe reste un acteur clé dans le domaine de l’IA, tout en protégeant les droits de ses citoyens et en assurant la sécurité publique.