Big Data et Intelligence Artificielle – Un cadre de responsabilités à définir

En collaboration avec Maître Nicolas HERZOG, associé-fondateur du Cabinet H2O Avocats

L’Intelligence Artificielle (IA), longtemps reléguée au rang de fantasme de science-fiction, trouve aujourd’hui de multiples applications concrètes en lien avec le Big Data. Des évolutions rendues possibles avec la numérisation massive des activités humaines.

 

La combinaison du Big Data et de l’Intelligence Artificielle

La médecine est un parfait exemple du couple Big Data / IA permettant aujourd’hui d’envisager sinon des diagnostics automatiques, la mise à disposition de systèmes d’aide au choix. En mammographie par exemple, des logiciels de reconnaissance de « modèles » mettent en surbrillances des zones suspectes sur les clichés, vérifiées ensuite par les radiologues. Autre exemple : le laboratoire d’intelligence Artificielle de Stanford a créé une vaste base de données d’images de cancer de la peau et a formé son algorithme pour identifier un risque potentiel. Les résultats se sont révélés d’une grande précision, la machine ayant obtenu des résultats semblables aux conclusions de 21 dermatologues.

Big Data et Intelligence Artificielle permettent également d’envisager un nouveau mode de déploiement des outils de cybersécurité. Comme l’avait révélé Edward Snowden en son temps, la NSA a d’ailleurs développé une plateforme baptisée MonsterMind qui est non seulement en mesure d’appliquer une stratégie de protection, mais également de riposter automatiquement à une attaque : un « War Games » des temps modernes.

 

L’Open Law

Plus proche de nos métiers de l’assurance et de l’expertise, le Droit aussi est directement concerné. Maître Nicolas HERZOG – Avocat au Barreau de Paris – Cabinet H2O Avocats – a développé ce sujet dans un article particulièrement éclairant « Big Data et Open Law – De l’ouverture des données juridiques publiques vers l’avènement des outils de justice prédictive » (Dalloz Avocats – n°1 – Janvier 2017).

C’est sur le fondement de l’article 15 de la Déclaration des droits de l’homme et du citoyen selon lequel « la société a le droit de demander compte à tout agent public de son administration » et l’évolution d’une législation de 1978 à fin 2016 (loi Lemaire du 7 octobre 2016) qu’il a été acté de « la mise à disposition du public à titre gratuit et en format ouvert de l’exhaustivité des décisions de justice prononcées par l’ensemble des juridictions de l’ordre judiciaire et administratif et librement réutilisables par des systèmes de traitement automatisé des données ». Maître HERZOG rappelle que ce sont plus de 4 000 000 de décisions de justice qui sont rendues chaque année en France.

C’est sur ce socle de données colossales que 5 start-ups françaises ont créé une offre « legatech » de justice prédictive. Sur la base de mots clés saisis dans un moteur de recherche, des algorithmes intelligents scannent l’ensemble des décisions de justice pour aider à la définition de la meilleure stratégie en permettant d’affiner l’évaluation des risques.

 

Nouvelles applications, nouveaux risques

La grande force et le grand danger de ces outils constitués par ce couple Big Data / IA est qu’ils sont auto-apprenants. Ils ont vocation à devenir de plus en plus pertinents à mesure que leur base de connaissance s’accroît.

Les exemples que nous avons évoqués ci-dessus ne sont pas triviaux : ils concernent directement la santé des individus ou des entreprises.

Et qu’en sera-t-il en cas de litige. En effet, une défaillance dans l’exécution d’une prestation amènera à en rechercher les causes et responsabilités.

En l’espèce, comment les responsabilités pourront et seront-elles arrêtées entre qualité des données, puissance de l’algorithme et part d’intervention humaine ? Ou bien, tout ou partie de ces outils auront-ils vocation à devenir autonomes à terme ? Sans tomber dans la caricature post-apocalyptique, avec la prise en main du destin du Monde par les robots (Terminator, Matrix…), cette option ne semble pas pour autant farfelue.

C’est donc sans doute sur le sujet de l’intervention humaine qu’une réflexion de fond doit être portée. En effet, qu’il s’agisse de Droit, de santé, ou de tout autre domaine, nul doute que c’est bien l’Homme, le conseil juridique ou technique avisé qui permettra de conserver éthique et discernement dans l’utilisation de l’outil.

Dans la limite des technologies actuelles, cette mesure semble relever du bon sens pour que les systèmes apprenants ne deviennent pas des systèmes autoalimentés se nourrissant de leurs propres décisions, qui se reproduiraient dès lors à l’infini. Le parfait exemple est sans doute le système « evidence-based sentencing » employé dans certains Etats américains, en charge de calculer la durée d’incarcération des prisonniers pour limiter les risques de récidive. L’administration Obama l’a rapidement abandonné ayant constaté des résultats discriminatoires.

Maître Nicolas HERZOG, associé-fondateur du Cabinet H2O Avocats
Olivier GEVAUDAN, Expert Nouvelles Technologies de l’Information et de la Communication