Vers une atteinte à la vie privée généralisée ?

Le droit à l’image découle directement du droit à la vie privée tel que protégé par l’article 9 du Code civil [1], qui garantit à chacun le respect de sa vie privée.

Selon le Règlement Général sur la Protection des Données (RGPD), toute collecte et traitement de données personnelles doivent être effectués de manière légale, loyale et transparente.

Les utilisateurs doivent être informés de la finalité du traitement de leurs données et leur consentement doit être obtenu de manière explicite et éclairée. Dans le contexte des tendances « Ghibli » et « Starter pack » [2], il est impératif que les utilisateurs soient pleinement conscients des implications de soumettre leurs photos à un système d’Intelligence Artificielle (la question de la minorité d’une large part du public utilisant ces plateformes interroge, notamment au regard des tendances des réseaux sociaux…). Cela inclut la manière dont ces données seront utilisées, stockées, et potentiellement partagées avec des tiers. L’absence d’une telle transparence pourrait constituer une violation du RGPD voire du droit à l’image, exposant les opérateurs de ces systèmes à des sanctions légales [3].

Les développeurs et opérateurs de ces systèmes doivent mettre en place des mécanismes pour prévenir l’utilisation abusive des données personnelles et la violation des droits d’auteur. Cela inclut l’intégration de contrôles pour garantir que les utilisateurs sont bien informés des risques et des conditions d’utilisation, ainsi que des mesures techniques pour empêcher la génération de contenus illicites. En l’absence de telles mesures, les opérateurs pourraient être tenus responsables des violations résultant de l’utilisation de leur technologie.

L’IA Act [4], dont certaines dispositions sont d’ores et déjà entrées en vigueur, constitue une avancée majeure dans l’encadrement des systèmes d’intelligence artificielle au sein de l’Union européenne. Ce texte établit notamment une interdiction des systèmes d’IA considérés comme présentant des risques inacceptables, tout en prévoyant un régime juridique spécifique pour les modèles d’IA à usage général. Les obligations relatives à ces derniers points entreront (normalement) en application à compter du 2 août 2025. Cette législation s’inscrit dans un contexte où la protection des droits fondamentaux, tels que la vie privée et la protection des données personnelles, est primordiale. En effet, l’IA Act prend en compte l’impact potentiel des systèmes d’IA sur ces droits tout en soulignant la nécessité de protéger les enfants [5].

Cependant, l’Union européenne envisage un "assouplissement de cette réglementation" [6] (sans entrer plus dans les détails des mesures qui feront l’objet d’assouplissement) pour ne pas être distancée par les États-Unis et la Chine dans la course à l’innovation technologique. La Commission européenne a ainsi proposé un plan d’action visant à stimuler le développement de l’IA en Europe, notamment par la création de "giga-usines d’IA" et de centres de données. Cette initiative soulève des questions sur la capacité des législations à suivre le rythme rapide des avancées technologiques. Les préoccupations relatives à la vie privée, mises en lumière par l’utilisation croissante de systèmes d’IA pour générer des contenus (notamment visuels) à partir de données personnelles, ce qui illustre les défis auxquels les régulateurs sont confrontés pour garantir une protection adéquate des droits des individus tout en favorisant l’innovation.

En conclusion, les tendances « Ghibli » et « Starter pack » de ChatGPT soulèvent des questions d’intérêt public en matière de droit de la vie privée et de propriété intellectuelle. Les utilisateurs doivent être informés des risques associés à l’utilisation de leurs données personnelles.

Loin de toute théorie complotiste, il ne faut pas écarter la possibilité que les systèmes d’IA exploitent les tendances gratuites de génération d’images à partir d’images personnelles, ce qui pourrait conduire à une collecte massive de photos et de profils d’individus, permettant ainsi la création ultérieure de visuels "humains" de meilleure qualité.