La CAF est la première administration a avoir développé un algorithme de notation généralisé de la population. Véritable outil dystopique chargé d’analyser nos comportements en quasi-temps réel à la recherche de « comportements suspects », cet algorithme attribue un « score de suspicion » à chaque allocataire. Lorsque ce score se dégrade trop, un contrôle est alors déclenché.

A ceci s’ajoute le fait que cet algorithme vise délibérément les plus précaires. Être pauvre, bénéficier des minima sociaux, être au chômage ou vivre dans un quartier défavorisé : autant de paramètres dégradant la note d’un·e allocataire et augmentant d’autant la probabilité d’être contrôlé·e. Alertés dès 2022 sur cet algorithme par les collectifs Stop Contrôles et Changer de Cap, nous nous attachons depuis à le dénoncer tout en faisant la lumière sur son fonctionnement inique.

Une quinzaine d’associations ont annoncé, mercredi 16 octobre 2024, saisir le Conseil d’Etat pour lui demander de mettre fin au système mis en place par la CNAF pour orienter ses contrôles.

Ce recours demande que la Caisse nationale des allocations familiales abandonne son système interne de notation des allocataires, jugé « discriminatoire ».

Ce sont désormais 25 organisations et syndicats dont la CGT, Solidaires, le Mouvement des mères isolées, Amnesty International France, la Ligue des droits de l’homme, le collectif Changer de cap ou le Syndicat des avocats de France qui attaquent en justice la Caisse nationale d’allocations familiales (Cnaf), à l’initiative de la Quadrature du Net, pour demander à la branche familiale du système français de protection sociale de cesser le traitement algorithmique des données des allocataires des CAF en vue de cibler ses contrôles.

Depuis janvier, la caisse d’allocations familiales dispose d’un nouvel algorithme de contrôle des allocataires, le DMDE 2026. Son code est open source et la Cnaf revendique transparence et éthique dans sa conception.

La CAF se justifie en insistant sur l’éthique de sa démarche et publie une charte garantissant l’égalité, la non-discrimination et la transparence en proposant « Des solutions garantes de l’égalité et de la non-discrimination ».

« Le comité d’éthique des usages des données, des algorithmes et de l’intelligence artificielle a été installé en mars 2025. “Il appuie la Cnaf pour identifier les risques éthiques, formuler des points de vigilance et proposer des moyens de les atténuer”, précise-t-elle.

Outre l’ouverture du code source, la Cnaf indique avoir appliqué des “choix concrets” pour réduire les risques, en particulier de biais. Cela commence par l’utilisation de données “fiables” et d’un échantillon de contrôles aléatoires.

L’administration précise aussi avoir écarté certaines variables pour limiter les risques de discrimination directe. C’est le cas, par exemple, de la nationalité, du genre, de l’adresse, et du lieu de résidence. En outre, “la démarche exclut également des données de « comportement » (connexions à l’espace « Mon compte », contacts, échanges de pièces…) ainsi que les informations relatives à des contrôles ou contentieux. »

Bien lui en prit car cela a entraîné le ralliement de 10 nouvelles organisations au recours porté à l’origine par les 15 premières devant le Conseil d’Etat.

« Le recours a été porté devant le Conseil d’Etat au nom du droit de la protection des données personnelles et du principe de non-discrimination. Cet algorithme attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l’objet d’un contrôle. Chaque mois, l’algorithme analyse les données personnelles de plus de 32 millions de personnes et calcule plus de 13 millions de scores. Parmi les facteurs venant augmenter un score de suspicion on trouve notamment le fait d’avoir de faibles revenus, d’être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l’allocation adulte handicapé (AAH). »

« Alimenté par les données personnelles de millions de personnes, il cible délibérément les personnes les plus défavorisées. La grave discrimination inhérente à l’algorithme a été confirmée par la Défenseure des droits dans des observations transmises à la justice en octobre dernier. »

« Notre nouvelle coalition élargie rassemble diverses organisations européennes et françaises issues de domaines variés. Cela montre que le Conseil d’État devrait renvoyer l’affaire devant la Cour de justice de l’Union européenne afin que celle-ci puisse rendre une décision applicable à l’ensemble de l’Europe », déclare Bastien Le Querrec, juriste à La Quadrature du Net.

RD