Décider avec les algorithmes | Sonia Desmoulin-Canselier et Daniel Le Métayer

Sonia Desmoulin-Canselier et Daniel Le Métayer, Décider avec les algorithmes. Quelle place pour l’Homme, quelle place pour le droit ?, Paris : Dalloz, coll. « Les sens du droit », 2020, 275 p.

Compte rendu par Laurence Dumoulin (Politiques publiques, Action politique, Territoires (PACTE), Sciences Po Grenoble-CNRS)

Dans l’effervescence actuelle sur les algorithmes et l’intelligence artificielle, bien des publications se contentent de reprendre ce que l’on sait déjà, comme une sorte d’effet écho qui se prolonge excessivement, sans plus guère apporter de surprises. Tel n’est pas le cas de cet ouvrage qui pratique l’art de la synthèse accessible à un public relativement large – en tout cas pas strictement académique conformément à la philosophie de la collection dans laquelle il paraît – tout en renouvelant un peu le regard et en apportant de quoi stimuler la réflexion.

Co-écrit par deux auteurs, une juriste et un informaticien, l’ouvrage se présente comme un état des lieux des questions posées par le développement des systèmes algorithmiques d’aide à la décision (SAAD) actuellement utilisés dans différents secteurs de la vie sociale, principalement en France. Face au constat d’opacité et de complexité de ces algorithmes, les auteurs se proposent de faire le point sur les solutions techniques ou juridiques permettant de ‘garder la main’ c’est-à-dire de conserver un niveau acceptable de maîtrise sociale, politique et démocratique des décisions qu’ils équipent ou automatisent.

Le premier chapitre est consacré à établir le déploiement de ces systèmes.  Présents dans nos vies sous des formes variables, ils ne sont pas seulement une perspective d’avenir mais irriguent déjà nos quotidiens. Ils recouvrent des outils de traitement de données (par exemple de fouille et de classification de décisions de justice comme le proposent certains opérateurs privés comme Predictice ou Case law analytics), de scoring (COMPAS, algorithme utilisé dans certains juridictions américaines pour évaluer les risques de fuite ou de récidive de personnes suspectées ou condamnées), de datavisualisation (ainsi Paved qui permet à la Gendarmerie de visualiser sur une carte nationale les zones dans lesquelles les risques de cambriolages et de dégradations de véhicules sont particulièrement élevés à une période donnée) et peuvent aller jusqu’à des dispositifs de décision entièrement automatisée (par exemple Score Coeur qui établit des classements des patients en attentes de greffe en fonction de leur degré de priorité définit le patient qui bénéficiera du greffon disponible1 ). Le chapitre s’appuie sur des exemples français mais aussi européens et états-uniens, empruntés aux domaines de la médecine, de la police, de la justice et d’autres activités administratives (l’enseignement par exemple avec Parcours Sup). Ce constat dressé, à partir d’outils en fonctionnement ou en expérimentation, le chapitre 2 s’attache à recenser les principaux enjeux émergents dans chacun des secteurs considérés. L’originalité consiste à les regrouper en 5 catégories : légitimité ; efficacité et fiabilité ; discrimination et biais ; contrôle et intelligibilité ; protection des données personnelles et de la vie privée et ainsi de passer en revue la manière dont ces enjeux se déclinent dans chaque domaine d’activité. Les chapitres 3 et 4 explorent les « solutions » respectivement qualifiées de juridiques et de techniques pour répondre efficacement à ces enjeux. Les « ressources » du droit français et européens sont examinées sur le plan des principes généraux et des dispositions spécifiques à chacun des secteurs considérés. Les techniques informatiques et computationnelles relatives à la limitation des données collectées, à la garantie de leur qualité sont elles aussi détaillées. Force est de constater à la lecture de ces deux chapitres que si les deux dimensions (juridique / technique) sont dissociées dans un souci pédagogique, leurs interactions et effets de contraintes réciproques, parfois pointées, mériteraient d’être davantage explorées et représentent d’ailleurs un véritable chantier de recherche. Enfin, le dernier chapitre dessine des perspectives en assumant un propos plus prospectif. S. Desmoulin-Canselier et D. Le Métayer argumentent en faveur de la mise en place d’un cadre juridique global relatif à l’automatisation des décisions. L’enjeu est ici politique et démocratique : permettre que l’intelligibilité et la transparence réelles du fonctionnement de l’algorithme mais aussi l’explicabilité des décisions prises soient accessibles à l’ensemble du public, en dehors des seuls acteurs de la décision et destinataires de celle-ci, ce que les dispositions juridiques actuelles ne permettent pas.

L’intérêt de cet ouvrage est de proposer une synthèse à spectre large, couvrant différents domaines, tout en ne sacrifiant pas les enjeux propres à chacun des types d’algorithmes mentionnés (avec ou sans phase d’apprentissage) et à chacun des types d’activités équipées. Face à la montée en puissance d’expressions dont le succès est aussi fulgurant que leur pouvoir analytique est contre-productif (on pense en particulier à celle de ‘justice prédictive’ que les auteurs n’utilisent pas), il est appréciable qu’une catégorie générique comme celle de système algorithmique d’aide à la décision soit retenue (et expliquée à l’instar d’autres dans un glossaire très bien fait). À défaut d’offrir une réflexion sur la notion de décision elle-même et sur ses équipements pluriels, elle permet de se défaire des a priori technophiles et technophobes qui pullulent dans les discours actuels sur les algorithmes et d’aborder le sujet sérieusement. C’est déjà ça, comme dirait Alain Souchon.

 

  1. Cela ne signifie pas bien entendu que les médecins n’aient pas des marges de manœuvre (lorsqu’ils entrent ou pas certaines caractéristiques de leur patient sur la plateforme) mais la décision d’attribution du greffon est automatisée : le médecin en charge du patient qui attend la greffe peut seulement accepter ou refuser le greffon. Clément Hénin, « Confier une décision vitale à une machine », Séminaire de la Chaire Société algorithmique, Grenoble, 13 novembre 2020, https://algorithmicsociety.github.io/news/2020/11/13/Seminaire-AlgSoc-Clement-Henin.html []

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search