LES ALGORITHMES VONT-ILS PRENDRE LE POUVOIR DANS LES ADMINISTRATIONS ?

Les algorithmes sont de plus en plus utilisés dans les administrations, ils permettent de gagner en efficacité, mais ils peuvent aussi produire des effets discriminatoires, c’est pourquoi le législateur devrait créer des obligations de transparence pour que les citoyens puissent garder un œil sur leur fonctionnement.

Aujourd’hui ces algorithmes concourent à optimiser les politiques publiques dans des domaines très variés, mais sont le plus souvent invisibles aux yeux des usagers, voire des agents.

Qu’est-ce qu’un algorithme ? La Cnil (Commission nationale de l’informatique et des libertés) le définit comme « une suite finie et non ambiguë d’instructions permettant un résultat à partir d’éléments fournis en entrée ».

Les domaines d’application des algorithmes sont multiples, c’est pourquoi ils sont le plus souvent présentés comme des assistants aux pouvoirs numériques extraordinaires mais peuvent devenir de véritables « boites noires », dont les décisions sont difficiles à expliquer, ou pire, à comprendre !

Tout d’abord, il s’est agi d’attribuer ou de calculer le montant de prestations sociales ou de l’impôt. Ensuite, les administrations ont employé des algorithmes pour réaliser des appariements entre une « offre » et une « demande » (au sens large des termes). Enfin, l’usage d’algorithmes « apprenants » est beaucoup plus récent et n’est pas encore généralisé dans les administrations publiques.

Dans la plupart des cas, ces outils sont une aide à la décision, ils ne prennent pas la décision eux-mêmes. Quand c’est le cas, depuis le 1^er juillet 2020, la mention est obligatoire sous peine de nullité de la décision.

Attributions de subventions, de places en crèche ou de logements, logiciel Parcoursup pour des inscriptions des étudiants dans l’enseignement supérieur, en principe, au plus près de leurs choix, gestion des flux de déplacements, logiciels de police prédictive ou de reconnaissance faciale… la liste des cas d’usages des algorithmes fondant des décisions individuelles est longue et reste à écrire : des décisions au moins en partie automatisées, il y en a partout, mais le sujet est minoré, voire invisibilisé.

En mai 2020, le Défenseur des droits a même tiré la sonnette d’alarme avec la Cnil, en rappelant que « le système algorithmique, neutre en apparence, peut produire des discriminations » et appelant à une « mobilisation collective ». Car, tout numérique qu’il soit, l’algorithme n’est au final, que la retranscription de choix humains.

Cette prise de conscience doit conduire à prendre en compte la dimension éthique dans le choix des outils et ce de la conception à la phase opérationnelle de tout projet, le Défenseur des droits recommandant notamment la réalisation d’études d’impact pour anticiper les effets discriminatoires des algorithmes.

C’est-à-dire, en amont des projets, se poser les bonnes questions : quel problème veut-on résoudre ?

Est-on vraiment sûr qu’un outil algorithmique soit la meilleure solution ? Quelles sont les alternatives, y compris non technologiques ?

(Source : la Gazette des Communes du 24/08/20)