Orientation scolaire, organisation du contrôle des fraudes aux aides sociales, emploi et recrutement…

Autant de domaines ou le numérique est utilisé comme outil d’aide à la décision.

Les outils numériques sont présentés comme neutres. L’algorithme ne travaille pas à la tête du client.

Ces outils sont-ils vraiment neutres ?

CONFERENCE DEBAT

17 mars à 18h30

Salon de l’hôtel de ville METZ

 avec Olivier TESQUET

OLIVIER TESQUET

Journaliste à Télérama
Depuis plus de 10 ans, il s’intéresse à la façon dont le numérique, et plus particulièrement le contrôle de nos données recompose notre environnement.
Il est l’auteur de :

• Comprendre wikileaks
• A la trace
• Dans la tête de Julian Assange (co-auteur)

Prix RELAY de la meilleure enquête en 2019 pour son travail sur les ventes d’armes à l’Egypte (publiée dans TELERAMA)

Un aperçu, pour donner envie d’en savoir plus et de débattre…

RAPPORT du DEFENSEUR des DROITS

Dans son rapport concernant le contrôle des usagers, le défenseur des droits   « déplore que des organismes publics puissent renforcer les préjugés entretenus par une partie de l’opinion
à l’égard de certaines populations ».

Cela fait suite aux incitations faites par la Direction Nationale de Lutte contre les Fraudes (DNLF) .
«« Pour être efficace [le projet de « data
mining »] doit bien délimiter la population à examiner pour être en mesure d’identifier les facteurs d’influence de la fraude […] et ainsi
sélectionner les individus statistiques les plus à risque »
En savoir plus -voir pages 20 et 21

IDENTIFIER à PARTIR DE VOTRE VISAGE VOTRE ORIENTATION SEXUELLE

« La figure de monsieur Guillaume annonçait la patience, la sagesse commerciale, et l’espèce de cupidité rusée que réclament les affaires » — Honoré de Balzac, La maison du chat qui pelote .

L ‘affirmation de cette possibilté vient de Michal KOSINSKI et Ylun WANG.
Ils affirment que les sytèmes peuvent être programmés pour repèrer d’autres caractéristiques à partir du visage : le QI, les opinions politiques.
Au XIXème siècle, on appelait cela la physiogonomie, une pseudo science à l’origine de bien des discours racistes.

Michal KOSINSKI et Ylung WANG travaillent à l’université de Stanford.
Leurs thèses ont été reprises par The Economist et publiées dans le journal of personality and social psychology

Michal KOSINSKI est l’un des chercheurs dont les travaux ont été utilisés par Cambrige analytica

LE NUMERIQUE, NOUVELLE BOULE DE CRISTAL?

En Catalogne, le logiciel SAVRY, basé sur des algorithmes d’apprentissage automatique, est utilisé pour évaluer le niveau de risque de récidive des mineurs.

Une étude menée par des scientifiques a mis en évidence qu’au regard des critères tels que le sexe et la nationalité, des discriminations apparaissaient.

Données personnelles, assignations numériques…
Oubliez les données : c’est de vous, c’est de moi, qu’il est question.
Traces, profils contribuent à définir cet autre nous numérique, qui est aussi un autre que nous, et dont il devient impossible de se débarrasser.

—