LES ALGORITHMES VONT-ILS PRENDRE LE POUVOIR DANS LES ADMINISTRATIONS ?
Les algorithmes sont de plus en plus utilisés dans les
administrations, ils permettent de gagner en efficacité, mais ils peuvent aussi
produire des effets discriminatoires, c’est pourquoi le législateur devrait
créer des obligations de transparence pour que les citoyens puissent garder un
œil sur leur fonctionnement.
Aujourd’hui ces algorithmes concourent à optimiser les
politiques publiques dans des domaines très variés, mais sont le plus
souvent invisibles aux yeux des usagers, voire des agents.
Qu’est-ce qu’un algorithme ? La Cnil (Commission
nationale de l’informatique et des libertés) le définit comme « une
suite finie et non ambiguë d’instructions permettant un résultat à partir
d’éléments fournis en entrée ».
Les domaines d’application des algorithmes sont multiples,
c’est pourquoi ils sont le plus souvent présentés comme des assistants aux
pouvoirs numériques extraordinaires mais peuvent devenir de véritables
« boites noires », dont les décisions sont difficiles à
expliquer, ou pire, à comprendre !
Tout d’abord, il s’est agi d’attribuer ou de calculer le
montant de prestations sociales ou de l’impôt. Ensuite, les administrations ont
employé des algorithmes pour réaliser des appariements entre une
« offre » et une « demande » (au sens large des termes).
Enfin, l’usage d’algorithmes « apprenants » est beaucoup plus récent
et n’est pas encore généralisé dans les administrations publiques.
Dans la plupart des cas, ces outils sont une aide à la
décision, ils ne prennent pas la décision eux-mêmes. Quand c’est le cas,
depuis le 1er juillet 2020, la mention est obligatoire sous peine de
nullité de la décision.
Attributions de subventions, de places en crèche ou de
logements, logiciel Parcoursup pour des inscriptions des étudiants dans
l’enseignement supérieur, en principe, au plus près de leurs choix, gestion des
flux de déplacements, logiciels de police prédictive ou de reconnaissance
faciale… la liste des cas d’usages des algorithmes fondant des décisions
individuelles est longue et reste à écrire : des décisions au moins en
partie automatisées, il y en a partout, mais le sujet est minoré, voire
invisibilisé.
En mai 2020, le Défenseur des droits a même tiré la sonnette
d’alarme avec la Cnil, en rappelant que « le système algorithmique, neutre
en apparence, peut produire des discriminations » et appelant à une
« mobilisation collective ». Car, tout numérique qu’il soit,
l’algorithme n’est au final, que la retranscription de choix humains.
Cette prise de conscience doit conduire à prendre en
compte la dimension éthique dans le choix des outils et ce de la conception
à la phase opérationnelle de tout projet, le Défenseur des droits recommandant
notamment la réalisation d’études d’impact pour anticiper les effets
discriminatoires des algorithmes.
C’est-à-dire, en amont des projets, se poser les bonnes
questions : quel problème veut-on résoudre ?
Est-on vraiment sûr qu’un outil algorithmique soit la meilleure
solution ? Quelles sont les alternatives, y compris non
technologiques ?
(Source : la Gazette des Communes du 24/08/20)