Les principes de la transparence algorithmique sont relativement simples.
Depuis la Déclaration des Droits de l’Homme et du citoyen de 1789 « la société a le droit de demander compte à tout agent public de son administration » (article 15). C’est au nom de ce principe de redevabilité, que chaque citoyen peut contester et obtenir des explications lorsqu’une décision le concernant ne lui convient pas. A l’ère du tout numérique, le législateur a sagement décidé de préserver ce principe fondamental : en cas de décision individuelle prise par un traitement automatisé (un algorithme), la transparence doit prévaloir.
La loi pour une République numérique du 7 octobre 2016 a jeté les premières bases. Après de nombreux soubresauts législatifs et réglementaires (voir ici un papier de NextInpact) la disposition la plus contraignante entre en vigueur le 1er juillet 2020 : toute décision individuelle prise sur le fondement d’un traitement algorithmique qui n’aurait pas donné lieu à une information des citoyens concernés est présumée nulle.
La mise en œuvre des textes applicables est complexe.
Rassemblés dans le Code des relations entre le public et l’administration (articles L.311-3-1, R.311-3-1-2 et L.312-1-3) ils mêlent des principes spécifiques au monde administratif et des principes généraux qui relèvent de la transposition du RGPD. Pour faire simple :
- Toute administration qui utilise un traitement algorithmique pour gérer une décision individuelle (attribuer une aide, calculer un tarif, proposer un service…) doit impérativement informer l’usager du recours à un algorithme sous peine de nullité de la décision.
- En cas de demande complémentaire, toute administration a l’obligation d’expliquer à l’usager qui en fait la demande le fonctionnement de cet algorithme : quelles sont les données utilisées, comment le calcul est opéré, comment le logiciel est paramétré…
- Si en plus l’administration est concernée par les obligations d’open data (collectivité de plus de 3 500 habitants avec plus de 50 agents en équivalent temps plein) alors elle doit publier en ligne les règles qui régissent les traitements algorithmiques qu’elle utilise. Nous sommes donc dans le registre de la « transparence algorithmique par défaut ».
Il est clair que ces dispositions légales sont aujourd’hui très largement méconnues des collectivités comme des administrations d’Etat. Les quelques territoires pionniers avec lesquels CIVITEO travaille sur le sujet découvrent surtout que, contrairement à leurs premières intuitions, ils utilisent beaucoup d’algorithmes…
Ce chantier nouveau est d’autant plus important, qu’une récente décision du Conseil constitutionnel concernant Parcoursup vient de rappeler de façon très opportune la valeur constitutionnelle de l’article 15 de la Déclaration des Droits de l’Homme de 1789, rendant obligatoire la transparence des algorithmes locaux utilisés pour la sélection des étudiants dans les universités.
Pour plus d’informations et pour savoir comment CIVITEO travaille auprès de collectivités locales sur le sujet, n’hésitez pas à nous contacter : contact@civiteo.fr