L’agent conversationnel (« chatbot ») généraliste ChatGPT fait actuellement sensation dans le milieu des professionnels du droit. Au-delà de la question largement débattue de la pertinence des « réponses » aux questions posées et, partant, de son efficacité dans le cadre d’un usage professionnel, se pose la question de l’encadrement juridique de son utilisation.

En testant, depuis la fin de l’année 2022, la version bêta gratuite de l’agent conversationnel ou « chatbot » ChatGPT, nous avons pu constater ses performances, assez remarquables, en matière de dialogue sur un sujet général et constater, par ailleurs, les limites assez évidentes du modèle de langage (GPT 3.5.) [1] tel qu’il existe aujourd’hui, notamment dans le cadre d’un usage professionnel. Rappelons que ChatGPT est spécifiquement conçu pour le dialogue et la génération de texte et non pour fournir une texte fiable [2].

En réalité, les réponses ne sont pas produites par un raisonnement [3], mais par un calcul probabiliste. Or, compte tenu de la taille et des limites [4] du « corpus d’entraînement » [5], il contient nécessairement des données incomplètes, obsolètes et erronées. Si l’on y ajoute les inévitables biais algorithmiques (qui sont mutatis mutandis à l’ « intelligence artificielle » ce que les biais cognitifs sont au raisonnement humain), les résultats obtenus sont parfois décevants, parfois surprenants et parfois drôles. Aussi peut-on obtenir, par exemple, la description, avec un style péremptoire et sans réserve, d’un « œuf de panda » !

Plus grave, ChatGPT peut générer une réponse juridique parfaitement fantaisiste, « validant » une catégorie de personne morale totalement inventée, hybride monstrueux entre une association et une société par actions simplifiée :

« Décris-moi » une association à but non lucratif par actions simplifiée « française » :

« Une » association à but non lucratif par actions simplifiée (ASBL) est une forme juridique en France pour une organisation qui poursuit un objectif social, culturel, sportif, humanitaire, éducatif, environnemental, etc. sans but de lucre. Une ASBL peut être constituée sous forme d’une SAS, ce qui lui permet de mieux gérer ses activités commerciales tout en conservant son statut de but non lucratif. Les associés d’une ASBL-SAS n’ont pas le droit de percevoir de dividendes et tous les bénéfices doivent être utilisés pour poursuivre les objectifs de l’association. Les ASBL peuvent émettre des actions, mais elles sont soumises à des restrictions strictes quant à leur utilisation et à leur cession. Les ASBL doivent également respecter les règles de transparence et de responsabilité en matière de gestion et de « finances ».

L’usage massifié de cet outil conduit à exiger transparence, contrôle et définition claire du régime de responsabilité [6].

Au-delà de la question des risques qui découlent de son utilisation professionnelle, se posent notamment des questions relatives à la protection des données à caractère personnel et à la protection de la propriété intellectuelle sur les œuvres traitées et générées.

I. Le régime de l’utilisation de ChatGPT

La prise de décision automatisée, lorsqu’elle a des conséquences juridiques ou qu’elle affecte significativement, et de manière similaire, une personne physique est, en principe, interdite par l’article 22.1. du RGPD, à moins que celle-ci ait donné son consentement explicite à la prise de décision automatisée, que la décision soit nécessaire à l’exécution d’un contrat ou qu’elle soit autorisée par le droit de l’Union européenne ou le droit d’un État membre [7].

Si la décision prise au moyen de ChatGPT ne s’inscrit pas dans un processus plus large qui comprendrait une intervention humaine significative [8] et qu’aucune des dérogations n’est applicables, elle contrevient à l’article 22 du RGPD.

Dans le cadre d’un « échange » avec ChatGPT le 16 janvier 2023 au sujet de la possibilité de l’utiliser professionnellement, le chatbot a généré le texte suivant :

« … il y a encore des limites et des biais dans mes réponses, car je suis entraîné à partir de données issues de sources variées qui peuvent contenir des erreurs, des incompréhensions, des biais ou des informations obsolètes, il est donc important de vérifier et de contextualiser les informations que je fournis avant de les utiliser de manière professionnelle ».

Un professionnel du droit qui rédigerait des écritures ou une consultation en se fondant sur une « mauvaise réponse » de ChatGPT pourrait engager sa responsabilité à l’égard de son ou ses clients.

Rappelons que la responsabilité professionnelle d’un avocat s’apprécie en recherchant si « sa compétence [9] est à la hauteur de ce qu’on peut attendre d’un professionnel du droit » [10]. Il s’ensuit que l’avocat ne peut manifestement pas se fonder, pour rédiger ses écritures ou sa consultation, sur un agent conversationnel présentant les caractéristiques de ChatGPT (absence de raisonnement déductif, contextualisation limitée, absence de fiabilité des textes générés, absence de citation des sources, faculté d’ « invention »…).

De sorte que ChatGPT ne doit être utilisé [11] que pour une aide annexe à la rédaction, à la réflexion et, le cas échéant, à la décision, notamment dans les domaines qui sortent de ses domaines d’expertise, mais jamais pour se substituer à une décision humaine.

II. La protection des données à caractère personnel traitées par ChatGPT

La « FAQ » de ChatGPT, rédigée par OpenAI est assez claire [12] : « (…) nous examinons les conversations pour améliorer nos systèmes et pour nous assurer que le contenu est conforme à nos politiques et aux exigences de sécurité ».

ChatGPT, dans sa version grand public actuelle, n’étant pas conçu pour traiter des données à caractère personnel en garantissant leur protection, le professionnel qui l’utilise pour traiter des données concernant ses clients, ne doit lui soumettre aucune donnée à caractère personnel, en faisant traiter exclusivement des données anonymes ou pseudonymisées.

La politique de confidentialité d’OpenAI (« Privacy Policy ») [13], qui se présente comme conforme aux « privacy rights » de l’Etat de Californie – ce qui reste à vérifier – contient un certain nombre de mentions d’informations. En revanche, elle n’est pas, à ce jour, conforme aux dispositions du RGPD et de la loi « informatique et libertés ». La politique de confidentialité n’informe pas, par exemple, sur les bases légales sur des traitements, ni sur la durée de conservation des données traitées, ni sur les droits de limitation et de portabilité, ni sur la possibilité de retirer son consentement au traitement des données et notamment au traitement des données sensibles de l’article 9 du RGPD, catégorie qui n’est évoquée dans aucune documentation.

ChatGPT, interrogé sur la protection des données à caractère personnel a notamment répondu qu’il était « également important de consulter des avocats spécialisés en droit des données pour s’assurer que l’utilisation de ChatGPT est conforme à la loi. » (Un bon « conseil » 😊).

III. La protection de la propriété intellectuelle des textes traités et générés par ChatGPT

L’adaptation du droit d’auteur à la création, par des systèmes d’intelligence artificielle, d’images, de textes ou, plus généralement, d’œuvres « algorithmiques » a fait l’objet, le 27 janvier 2020, d’un rapport du Conseil supérieur de la propriété littéraire et artistique (CSPLA).

Pour résumer, le droit interne ainsi que le droit de l’Union évolue vers une « objectivation » du critère d’originalité [14]. L’utilisation des techniques d’échantillonnage (« sampling ») [15] , de fouille (« mining ») [16] et de « crawling » [17] ne seraient pas, per se, de nature à porter atteinte aux droits relatifs aux œuvres préexistantes présentes dans les bases de données.

La seule limite consiste à faire en sorte que la génération (de texte pour ChatGPT) n’aboutisse pas à créer une « œuvre de résultat » reflétant « des composantes essentielles et reconnaissables de l’oeuvre initiale » [18]. Or, si l’on demande, par exemple, à ChatGPT de produire une œuvre de fiction reproduisant fidèlement une page d’un ouvrage de Modiano, il s’exécute sans broncher…

L’utilisation professionnelle de ChatGPT doit donc, dans tous les cas, s’inscrire dans le cadre d’un processus décisionnel où l’humain « garde la main » [19], sans jamais se laisser séduire par cet outil qui exploite l’un des penchants les plus naturels de l’être humain, la paresse.

Pascal Alix Avocat associé du cabinet VIRTUALEGIS Doctorant en droit de l'IA à Paris I - Panthéon Sorbonne www.virtua-legis.com