Face au nombre croissant de décisions administratives individuelles prises sur la base de résultats livrés par des algorithmes ou systèmes d’IA, la Défenseure des droits s’inquiète des risques qu’induit cette algorithmisation des services publics pour les droits des usagers. Elle présente plusieurs recommandations afin que les garanties prévues par la loi soient pleinement concrétisées.
Les algorithmes des systèmes de protection sociale ciblent les plus précaires
Pour « traquer » les fraudeurs aux prestations sociales, le Danemark utilise des algorithmes aux paramètres discriminatoires. Le fait d’avoir des liens avec un pays étranger fait notamment partie des critères de suspicion de fraude. C’est ce que nous révélons dans un nouveau rapport qui vient illustrer une tendance inquiétante observée en Europe. Amnesty International.
