3 bonnes raisons de devenir (déjà) Délégué à l’éthique du numérique.

Frédéric Boissart, DPO externe et DEN.

1) Être au cœur du droit de demain.

L’importance du numérique, notamment de l’intelligence artificielle (IA), dans notre quotidien ne peut être niée.

: Frédéric Boissart

Nous sommes probablement, aujourd’hui, qu’au début d’un bouleversement, d’une révolution, aux conséquences possiblement aussi importantes que celles nées de la révolution industrielle au XIX siècle. De la médecine à l’automobile, en passant par les réseaux sociaux les applications pratiques sont nombreuses et semblent sans limite et avec un cadre juridique à dessiner. Être délégué à l’éthique du numérique c’est travailler sur des sujets, des projets novateurs et vivre la construction du Droit d’aujourd’hui et de demain.

2) Être l’acteur d’une démarche transverse.

Le poste de délégué à l’éthique du numérique est fait pour celles et ceux qui aiment à la fois la transversalité, la confrontation des points de vue, la prise de hauteur. Pour faire émerger une démarche éthique, la prendre en considération dès la conception des outils (ethic by design) il faut créer les conditions d’un dialogue, notamment entre les concepteurs du code, les juristes, le marketing. Le poste de DEO est donc fait pour celles et ceux qui aiment la transversalité.

"Le DEN est à même de promouvoir un numérique fondé sur le respect des droits fondamentaux et concilier tous les intérêts en présence."

3) Rassurer pour une meilleure différenciation.

Parce que les technologies ne sont pas neutres ; initiées par des concepteurs qui peuvent être influencés par « leur vision personnelle du monde », leur schéma de pensée, le numérique est à la fois source d’espoir et de crainte. Les peurs sont multiples : peur de voir ses comportements « dictés par des machines », peur que la technologie puisse être utilisée par des régimes totalitaires pour mieux contrôler les populations. Lutter contre les craintes nécessite de gagner la confiance de la Société civile.

Le rôle du délégué à l’éthique du numérique, semblable à celui que le RGPD reconnaît au DPO, le conduit à anticiper les conséquences du numérique sur les droits fondamentaux. Par son approche qui dépasse le seul sujet de la protection des données personnelles, le délégué à l’éthique du numérique est à même de promouvoir un numérique fondé sur le respect des droits fondamentaux et concilier tous les intérêts en présence. Ainsi, par ses actions il permet de placer l’Homme au cœur des réflexions dès la conception. Il est facteur de confiance pour les salariés, clients, administrés et donc de différenciation pour les entreprises, associations, administrations.

Johanne Carmel, Analyste d’Affaires, Juriste spécialisée en droit des affaires, de l’internet et des systèmes d’information et DEN.

1) Contribuer à l’avènement du principe de « Human by design ».

Face notamment à l’essor exponentiel de l’IA, les questionnements éthiques révélateurs d’inquiétude et d’une certaine défiance, amenés par le développement soutenu des usages qui découle de cette nouvelle économie numérique et des technologies de l’IA en particulier, sont désormais légion.

: Johanne Carmel

Régulièrement pointé du doigt pour ses possibles déviances et autres dérives, le temps insouciant et euphorique d’un numérique libérateur et émancipateur des possibles individuels et collectifs n’est plus. Car outre ses multiples avantages, le numérique (et l’IA en particulier) présente également des risques et des enjeux conséquents, liés à une utilisation malveillante ou à l’accroissement des inégalités. Biais des outils (discrimination vis-vis des femmes ou des minorités), protection des données, respect de la vie privée (exploitation opaque des données personnelles), impacts environnementaux (gouffre énergétique des datas centers, épuisement de certains minerais rares), neutralité et transparence des algorithmes (vecteurs d’inégalités sociales), déontologie des concepteurs de solutions, autant de points de crispations qu’il importe aux acteurs du numérique d’aborder.
Dès lors, ramener l’humain au cœur des préoccupations, tel pourrait être le leitmotiv du DEN.

"Ramener l’humain au cœur des préoccupations, tel pourrait être le leitmotiv du DEN."

Si avec le principe de Privacy by design, le Règlement Général sur la Protection des Données introduit nativement la protection des données personnelles dans le consortium numérique, il s’agit dans le prolongement de cette avancée notable d’insuffler désormais le principe de Human by Design dans l’innovation digitale. Le DEN permet ce passage du « Privacy by design » vers une approche « Ethic by Design voire « Human (rights) by design » ; d’une politique de protection des données personnelles vers une politique plus large d’éthique du numérique. Être DEN c’est replacer l’humain (les droits humains) au cœur des préoccupations et enjeux de la transformation digitale, c’est contribuer à réaligner la technologie avec notre humanité.

2) Contribuer à faire du droit un levier de performance économique durable.

Aujourd’hui, la volonté de côtoyer un numérique plus responsable et plus vertueux se fait entendre. On observe une prise de conscience des consommateurs et l’émergence d’une véritable responsabilité individuelle chez l’usager. Convoquer l’éthique est un indispensable pour tout acteur du marché qui souhaite apporter de la confiance auprès de ses consommateurs, un indispensable pour tout acteur du marché qui tend à se développer de façon pérenne et à se démarquer. S’il en ressort un enjeu réputationnel
évident, au-delà de la relation au consommateur (au partenaire, à l’usager ou au salarié), se joue également, la capacité à terme de l’organisation à recruter des talents désormais en quête de sens et par conséquent, de plus en plus soucieux de la stratégie adoptée par l’entreprise qu’ils souhaitent en phase avec leurs valeurs. Les organisations doivent ainsi sortir des simples déclarations d’intention et s’inscrire dans une véritable démarche de conformité et d’éthique numérique.

Parce-que, devenir DEN c’est être en capacité de manager les enjeux éthiques et juridiques du numérique et de l’IA en particulier, c’est être en capacité de reconnaître mais surtout d’anticiper les biais technologiques, c’est être en capacité de développer des offres et services éthiques, responsables voire durables ; devenir DEN c’est être un vecteur incontournable de performance pour toute organisation, être un outil stratégique de la transformation de l’organisation, c’est être au service de l’innovation responsable.

3) « Gagner les cœurs et les esprits ».

L’éthique constitue en soi une approche plus humaine voire "humaniste" du numérique et des enjeux qui en découlent ; une approche humaine qui supplante la simple contrainte réglementaire que représente par exemple le RGPD. Il existe en effet, un caractère intrinsèque déterminant, déployer une démarche d’éthique numérique impliquant indubitablement de questionner les valeurs de l’organisation.
L’éthique, n’est-ce-pas une mise en application des valeurs que l’organisation entend défendre par des actions ?

L’éthique numérique constitue dès lors un véritable potentiel en terme de pommunication, d’image et d’impact réputationnel faisant écho tant chez le Politique, qu’auprès des acteurs de la société civile, mobilisant ainsi toutes les strates d’une organisation. C’est un levier de collaboration, d’intelligence collective au service de l’innovation. Une démarche fédératrice dont le DEN est le chef d’orchestre. Devenir DEN ou comment susciter l’engagement émotionnel sur des questions de droit !

Céline Barbosa, Avocate au Barreau de Paris et DEN.

En tant qu’avocat, développant mon activité dans le secteur de l’industrie et de ses usages numériques, il m’a semblé essentiel de comprendre les enjeux éthiques pouvant avoir une influence sur les marchés existants.

Imaginer les orientations que pourrait prendre notre profession dans un tel éco-système n’est pas simple. S’agit-il de se former, d’utiliser les outils ou s’agit-il de prendre en main de nouvelles problématiques et se les approprier en tant que service d’aide à la décision ?

: Céline Barbosa

1) Participer à la création d’une profession et/ou de softskills sur un nouveau marché.

Devenir DEN permet de travailler dans une fonction nouvelle ou d’ajouter une corde à son arc.

Si un juriste ou un jeune avocat souhaite travailler spécifiquement sur la ou les questions des droits fondamentaux, une voie toute nouvelle s’ouvre à eux, sur un marché en cours de construction et sans concurrence. Là où les profils sont rares, il y a un marché à prendre.

Le seul moyen d’éviter cet écueil est d’observer le marché actuel. Le marché des DEN à construire est un marché de niche. Toutes les idées, les dynamiques sont bienvenues. Cette dynamique est certainement collective, le domaine étant peu connu.

La particularité du DEN est de devoir connaître à la fois les services, les droits fondamentaux, les processus d’entreprise, la conformité.

Depuis une dizaine d’années, des solutions logicielles sont proposées aux Directions Juridiques, aux avocats, afin de valider les contrats, les archiver. Des outils de machine learning sont proposés pour optimiser et faciliter le travail.
Les professions juridiques n’avaient me semble-t’il pas encore l’opportunité de dévoiler tous leurs savoirs, dans l’accompagnement des services qui utilisent l’IA et souhaitent accompagner les métiers dans la création, le développement de nouveaux produits.

Le DEN pourra être soit un spécialiste de son activité (droit des données personnelles, droit pénal) et traitera des droits fondamentaux, du droit du numérique ou il pourra être un généraliste du droit qui à l’occasion du développement de l’activité de sa société aura besoin de faire vérifier avant le lancement d’un projet, que ce projet respectera les droits fondamentaux, les valeurs de l’entreprise.

Les softskills du DEN sont à développer et feront partie des outils auxquels toutes les Directions juridiques devront se référer.

2) Dynamiser ses savoirs avec des droits, des activités transverses.

Pour ce qui me concerne, il s’agit de concilier une quête d’apprentissage dans des domaines opérationnels variés (construction, BI, outils de reporting d’activités) et de créer des connexions entre différents domaines du droit (contrats EPC, exploitation d’unités complexes, données d’usage, IA).

Dans mon activité, cette activité ce n’est que la continuité des conseils déjà mis en avant auprès des entreprises.
Le droit vu par le DEN n’est pas abordé de manière verticale, c’est ce qui me plaît et qui pourrait plaire à des juristes. Il est en interface constante avec les métiers, le droit, la Direction.

Nous vivons une époque dans laquelle, les entreprises souhaitent bénéficier des avantages de l’Intelligence Artificielle ou plutôt du machine learning. Ce n’est plus la conformité qui est en jeu mais une utilisation intelligente et contrôlée d’un outil qui fonctionne seul, alimentée par des données.
Une IA digne de confiance est une IA licite, éthique et robuste.

Le juriste « technicien » du droit se lance également dans la connaissance des produits techniques. Bien évidemment, la démarche des ingénieurs vers plus de connaissance du droit est déjà amorcée, mais elle n’est pas forcément toujours concluante. Le juriste est habitué à conditionner son raisonnement en émettant des hypothèses de travail.

Cette manière d’envisager les sujets englobe toutes les questions de fait et juridiques ce qui n’est pas forcément le point de vue de l’ingénieur qui doit faire fonctionner son produit en priorité. La place du DEN dans une démarche de responsabilisation dès la conception a toute sa place.

Le DEN n’est pas le spécialiste du droit de la conformité.

Il est dans l’air du temps, de s’assurer que l’entreprise adopte et mette en œuvre une politique de conformité. Le Règlement Européen portant sur la protection des données personnelles est appliqué dans tous les services de l’entreprise ou devrait l’être. Les lois anti-corruption contraignent également les entreprises.

Cependant, si les règles de conformité existent bien dans les procédures internes, est-ce à dire qu’elles sont auto-portantes de la bonne foi de l’entreprise et qu’elles permettent d’assurer une absence de responsabilité ? Non.

Si vous ouvrez un rapport annuel, vous constatez que la conformité est au centre des procédures internes mais que dans le même temps, si cette procédure est rédigée, appliquée, elle ne garantit pas qu’aucun problème de rédaction ne figurera dans un contrat ou dans les faits.

Un scénario alternatif est de sensibiliser, via une prise de conscience sur les problèmes rencontrés en s’immergeant dans une situation donnée et en comprenant les processus qui nous amènent à telle ou telle prise de décision.
Le DEN peut sensibiliser les Services grâce à certains outils numériques à sa disposition.

3) Une quête de sens du DEN et une évolution.

Même en voguant dans une profession qui nous donne satisfaction, une quête de sens est bienvenue, surtout dans une époque où les situations sont complexes, où les domaines du droit sont nombreux, transverses et doivent évoluer pour adapter les règles aux circonstances de l’espèce ou pour obliger les individus tout comme les entreprises à intervenir différemment dans leurs activités habituelles.

C’est cet état d’esprit que nous constatons à travers les échanges que nous avons pu avoir entre membres : la quête de sens réunit les membres de l’Association des DEN dont je fais partie.

L’accompagnement des entreprises est différent. La démarche intellectuelle d’accompagnement des entités (entreprises, associations) est complémentaire des activités de conseil habituelles. Dans une activité habituelle, nous exposons des risques et des axes d’amélioration. Le projet est en cours de réalisation, ou dans une phase de lancement. La satisfaction du DEO provient d’un accompagnement de son client sur la définition des valeurs de l’entreprise dès le début du projet.

La responsabilisation des acteurs prend alors sa place, au sens des valeurs à respecter, et non au sens de la sanction à venir si je ne respecte pas la règle. Il s’agit de faire naître une prise de conscience des parties prenantes à un projet de toutes les composantes des droits fondamentaux, et de la nécessité de vérifier les données de base ayant servi à l’élaboration de ses services ou du produit.

Ce nouveau métier peut plaire à un profil de juristes généralistes qui aiment s’informer constamment sur les évolutions du droit qu’ils ne pratiquent pas forcément de manière habituelle ; de la jurisprudence, des contextes.