arrow drop search cross

Les technologies connectées posent des défis inédits au droit

Avec les objets connectés, les applications pour smartphone, la dématérialisation des services financiers, les activités humaines se traduisent en une masse considérable de données numériques. Or ces nouveaux outils, autrement appelés « deep techs », en prolongeant l’humain sous une forme non humaine, posent des défis inédits au droit. Ces technologies, par leur nature, remettent en question les fondements du raisonnement juridique, ses acquis et ses croyances. L’autonomie de décision de ces nouveaux outils met par exemple en question la responsabilité juridique du détenteur de la technologie. La facilité dérisoire qu’il y a à installer une application sur son téléphone amène à s’interroger sur le consentement de l’utilisateur à communiquer des données personnelles et à l’usage qui en sera fait. Par ailleurs, les algorithmes sous-jacents aux deep techs ne raisonnent pas comme nous. L’Intelligence Artificielle apprend à raisonner à partir d’immenses bases de données, sur un mode statistique. En écho à ces problématiques, Marina Teller et Caroline Lequesne, chercheuses en droit à Université Côte d’Azur, ont eu l’idée de créer le projet « Deep Law For Tech ». L’enjeu est d’amener les juristes à comprendre les fondements scientifiques des deep techs, afin de cerner au mieux les enjeux de leur intégration à la vie sociale et de trouver comment transposer les textes de loi existants aux situations inédites. Dans le même esprit, les étudiants sont invités à rejoindre une « fabrique du droit », ou « Fablex », au sein de laquelle ils peuvent travailler sur des cas concrets. Enfin, les chercheuses souhaitent créer une passerelle avec les lieux où la technologie est mise en oeuvre, en créant un observatoire des entreprises.


Publication : 04/09/2020
Partager cet article :

 

 

Les « deep techs » ou nouveaux dispositifs technologiques ajoutent une dimension abstraite, dématérialisée, à nos faits et gestes.  Des actions très concrètes, comme manipuler de l’argent liquide, signer un contrat, se perdre dans les actes notariés, établir un constat lors d’un accident de voiture, ont peu à peu la possibilité d’être régies dans un univers où les données parlent pour nous. « Par exemple, plutôt que d’avoir un état avec un cadastre qui détient tous les registres des droits de propriété, on peut envisager d’avoir une blockchain qui rende compte de tous les changements de titularité des droits de propriété », explique Marina Teiller, Professeur de droit privé et Directrice de la Chaire 3IA "Droit & IA ». La blockchain, une des deep techs les plus en vogue et sans doute les plus mal comprises du grand public, est ainsi en passe de rabattre les cartes dans une multitude de domaines touchant à notre vie courante. Elle a été créée il y a à peine plus de dix ans avec l’invention d’une monnaie cryptée et virtuelle devenue célèbre car très lucrative : le bitcoin. 

Les détenteurs de ces combinaisons de chiffres et de lettres, uniques et impossibles à restaurer peuvent suivre l’évolution de leur cours, opérer des achats auprès de certains marchands, faire transiter leurs biens à travers le monde et même, maintenant, retirer de l’argent dans une devise classique sur des bornes dédiées. Or, tout cela peut se faire sans posséder de compte en banque. Chaque mouvement de bitcoin, réalisé sous couvert de l’anonymat, est enregistré simultanément chez tous les utilisateurs du réseau. Cette façon de stocker l’information de façon distribuée, transparente et sécurisée, caractérise ce qu’on appelle désormais la technologie blockchain. Néanmoins en 2020, cette deep tech ne se cantonne plus au fonctionnement du bitcoin ou de toute autre cryptomonnaie. Elle s’étend à l’exécution et la négociation de « contrats intelligents », à l’application des droits d’auteur, aux transferts de propriété et pourquoi pas, à terme, au vote électronique. « Or, au-delà de leur aspect pratique très séduisant, les deep techs posent des enjeux et des difficultés inédits pour les juristes », souligne Marina Teller. 

En premier lieu, « comme elles reposent la plupart du temps sur des données numériques, elles instaurent un gouvernement par la masse », prévient-elle. Ensuite, les intelligences artificielles qui traitent ces données construisent leur « raisonnement » à partir d’un traitement statistique des données. Par exemple, si on valide un nombre suffisant de fois qu’un chat est un chien alors à terme, pour l’IA, un chat sera toujours un chien. Or en droit, ce qui sert d’architecture au raisonnement est la causalité, savoir pourquoi un chat ne peut être qu’un chat. « Les deeps techs modifient ainsi le rapport à la réalité. Elles opèrent une remise en cause fondamentale des acquis et des croyances des juristes », insiste Marina Teller. « En écho à tout ça, on a voulu mettre en place le projet Deep Law For Tech (DL4T) qui consiste à développer et à ré-interpréter le droit fondamental, pour lui permettre de donner des réponses adaptées aux deep techs », résume sa co-fondatrice. DL4T a donc été conçu pour accueillir différentes spécialités du droit selon les problématiques à traiter. À l’origine, Marina Teller, spécialiste des questions de droit financier et de la blockchain, a ainsi joint son expertise à celle de Caroline Lequesne Roth, spécialiste de droit public. 

 Avec le développement précipité de l’application StopCovid au printemps dernier, par exemple, il a fallu décider en quelques semaines s’il était acceptable d’autoriser une application numérique de contrôle des individus. « Le gouvernement s’est demandé si on pouvait poser comme base légale à l’application le consentement », révèle Marina Teller. Autrement dit, si on pouvait considérer qu’en téléchargeant l’application, l’utilisateur consentait à l’utilisation de ses données. « Mais les juristes ont avancé que le fait d’avoir une démarche volontaire, la volonté, n’est pas pareil que le consentement, qui en droit signifie consentir à tous les usages dans un cadre pleinement de liberté. On voit à travers cet exemple tout le travail qu’il y a à faire sur les concepts juridiques pour les adapter au contexte des deep techs, ce qui est au coeur des activités de DL4T », illustre Marina Teller. Finalement, si l’application a été autorisée après le dépôt de référés liberté, saisine du conseil constitutionnel, du conseil d’état, avis de la Commission nationale de l’informatique et des Libertés, du Conseil national du numérique, c’est qu’elle respectait suffisamment de principes inscrits dans les directives juridiques. 

L’émergence des smart cities, les systèmes de surveillance par reconnaissance faciale, comme la perspective de voir apparaître les véhicules autonomes sur le marché de l’automobile suscitent par ailleurs leur lot de réflexions. « Le véhicule autonome, par exemple, rompt une chaîne qui était relativement linéaire et simple à comprendre entre un conducteur, un véhicule et potentiellement un dommage. La présomption de responsabilité pouvait peser sur le conducteur pour indemniser au mieux la victime. Mais ici, le conducteur pourra n’avoir ni l’usage ni la maîtrise de son véhicule. Donc qui va être responsable ? le conducteur est-il en délégation complète de conduite ? le concepteur devra-t-il répondre d’un dommage ? Comment prouver que le conducteur aura repris à un moment la commande ? La victime devra-t-elle établir les preuves ? Et qui dit véhicule autonome dit route connectée, sinon cela n’a pas de sens. Les deep techs sont faites pour fonctionner en résonance », remarque Marina Teller. Il en va de même du fonctionnement de DL4T. « On ne pense pas en vase clos. Le travail juridique prend comme point de départ la technologie. Car nous devons comprendre son fonctionnement pour pouvoir ensuite mettre le droit en adéquation avec la technologie », précise la directrice de la chaire « Droit & IA ».  

« Pour reprendre l’exemple de StopCovid, il y avait deux manières de penser lapplication : est-ce quon utilise le téléphone en passant par le bluetooth ou par les données de géolocalisation ? Lerreur aurait été de croire quil sagissait simplement dun choix technologique. En réalité, les conséquences n’étaient pas du tout les mêmes. Le choix de la géolocalisation aurait été beaucoup plus intrusif, attentatoire en terme de liberté individuelle », illustre Marian Teller. L’équipe de DL4T travaille ainsi en étroite collaboration avec les chercheurs spécialistes de l’Intelligence Artificielle, de la modélisation et de la simulation, comme de l’Informatique. Dans le même esprit, DL4T espère à terme développer un Observatoire des entreprises. « Nous pourrions alors discuter avec ceux qui mettent en oeuvre la technologie. Nous voudrions que ces partenaires nous soumettent leurs cas d’usage. On pourrait aussi se tourner vers eux pour répondre à certaines problématiques. Nous avons vocation ainsi à fédérer des entreprises qui accepteraient d’être nos référents », explique Marina Teller. 

Enfin, pour former les étudiants en droit au travail que requièrent les deep techs, ces dernières étant amenées à croître considérablement dans les prochaines années, DL4T compte une Fablex, c’est-à-dire, une « clinique du droit », comme il en existerait en médecine. Les étudiants ont d’ores et déjà réalisé une étude de droit comparé  sur les usages européens de la reconnaissance faciale, accessible en ligne (https://dl4t.org/la-reconnaissance-faciale-dans-lespace-publique/).