Vidéosurveillance – Société numérique

Publié le A la une, Vidéosurveillance - Société numérique

LES ALGORITHMES VONT-ILS PRENDRE LE POUVOIR DANS LES ADMINISTRATIONS ?

LES ALGORITHMES VONT-ILS PRENDRE LE POUVOIR DANS LES ADMINISTRATIONS ?

Les algorithmes sont de plus en plus utilisés dans les administrations, ils permettent de gagner en efficacité, mais ils peuvent aussi produire des effets discriminatoires, c’est pourquoi le législateur devrait créer des obligations de transparence pour que les citoyens puissent garder un œil sur leur fonctionnement.

Aujourd’hui ces algorithmes concourent à optimiser les politiques publiques dans des domaines très variés, mais sont le plus souvent invisibles aux yeux des usagers, voire des agents.

Qu’est-ce qu’un algorithme ? La Cnil (Commission nationale de l’informatique et des libertés) le définit comme « une suite finie et non ambiguë d’instructions permettant un résultat à partir d’éléments fournis en entrée ».

Les domaines d’application des algorithmes sont multiples, c’est pourquoi ils sont le plus souvent présentés comme des assistants aux pouvoirs numériques extraordinaires mais peuvent devenir de véritables « boites noires », dont les décisions sont difficiles à expliquer, ou pire, à comprendre !

Tout d’abord, il s’est agi d’attribuer ou de calculer le montant de prestations sociales ou de l’impôt. Ensuite, les administrations ont employé des algorithmes pour réaliser des appariements entre une « offre » et une « demande » (au sens large des termes). Enfin, l’usage d’algorithmes « apprenants » est beaucoup plus récent et n’est pas encore généralisé dans les administrations publiques.

Dans la plupart des cas, ces outils sont une aide à la décision, ils ne prennent pas la décision eux-mêmes. Quand c’est le cas, depuis le 1er juillet 2020, la mention est obligatoire sous peine de nullité de la décision.

Attributions de subventions, de places en crèche ou de logements, logiciel Parcoursup pour des inscriptions des étudiants dans l’enseignement supérieur, en principe, au plus près de leurs choix, gestion des flux de déplacements, logiciels de police prédictive ou de reconnaissance faciale… la liste des cas d’usages des algorithmes fondant des décisions individuelles est longue et reste à écrire : des décisions au moins en partie automatisées, il y en a partout, mais le sujet est minoré, voire invisibilisé.

En mai 2020, le Défenseur des droits a même tiré la sonnette d’alarme avec la Cnil, en rappelant que « le système algorithmique, neutre en apparence, peut produire des discriminations » et appelant à une « mobilisation collective ». Car, tout numérique qu’il soit, l’algorithme n’est au final, que la retranscription de choix humains.

Cette prise de conscience doit conduire à prendre en compte la dimension éthique dans le choix des outils et ce de la conception à la phase opérationnelle de tout projet, le Défenseur des droits recommandant notamment la réalisation d’études d’impact pour anticiper les effets discriminatoires des algorithmes.

C’est-à-dire, en amont des projets, se poser les bonnes questions : quel problème veut-on résoudre ?

Est-on vraiment sûr qu’un outil algorithmique soit la meilleure solution ? Quelles sont les alternatives, y compris non technologiques ?

(Source : la Gazette des Communes du 24/08/20)

Publié le A la une, Vidéosurveillance - Société numérique

Appli Stop Covid : les Dassault, Cap-Gemini et autres font l’aumône à l’Etat de quelques lignes de code

Le secrétaire d’Etat Cédric O déclare que « l’application n’a rien couté au gouvernement, hormis le salaire des agents publics qui ont participé à son développement, car les entreprises qui ont travaillé sur stop Covid l’ont fait gratuitement » La Voix du Nord 1/06/2020.

Les agents publics qui ont participé au développement apprécieront surement de constater que leurs salaires sont juste un peu plus que « rien ».

Ainsi, après avoir fait les poches de l’Etat en particulier à travers le crédit impôt recherche ou la commande publique militaire, les Dassault, Cap-Gemini et autres Orange font l’aumône à l’Etat de quelques lignes de code. Quelle grandeur d’âme !

Publié le A la une, Vidéosurveillance - Société numérique

Le virus, la crécelle et le smartphone

Il fallait s’y attendre, un peu partout dans le monde, les petits malins ont vite reniflé la possibilité de se faire de la com, ou de juteux profits (ou les deux à la fois) en proposant des applications d’identification et de pistage des personnes ayant contracté le COVID 19.  Il en tombe comme à Gravelotte et venant de tous les pays et d’abord des pays « leaders » de la surveillance de masse : Chine, USA, Israël, etc.

Dans notre pays, on retiendra particulièrement la proposition d’une entreprise qui propose l’application dénommé CoronApp « développé en 78h » ! Autant dire que, malgré la présentation flatteuse qui en est faite, elle utilise une technologie éculée, aussi innovante que l’utilisation de la roue pour déplacer une grosse pierre.

« Le principe : l’application suit les mouvements des utilisateurs pendant 14 jours. Si un porteur du virus se déclare comme infecté par le Covid-19, l’algorithme va retracer son parcours pour vérifier les personnes qu’il/elle a croisées et les informera via une notification [sur smartphone] alors de l’heure et de la date à laquelle ils ont été en contact avec cette personne. » (in : Strategies)

Sans préjuger des intentions des concepteurs de cette application – présenté par Stratégies comme « une démarche citoyenne » – plusieurs observateurs font remarquer que la précision de la géolocalisation est en moyenne de l’ordre de dix mètres, donc incompatible avec le but que se propose CoronApp. Il n’est donc même pas nécessaire d’aborder des questions aussi cruciales que : qui collecte les données ? qui les stocke ? et surtout qui peut garantir que ces données et ce type d’applications ne seront pas ultérieurement utilisées à d’autres fins ? Cette application participe de la très dangereuse banalisation de la géolocalisation de masse sous prétexte d’urgence médicale, alors que le porteur du virus, pour protéger autrui d’une contagion, dispose de solutions qui sont d’une banalité rassurante : un masque et une paire de gants en latex.

Finalement, cette débauche de technologie nous démontre que l’humanité fait du surplace depuis le haut moyen âge, époque pendant laquelle les lépreux étaient contraints de se déplacer dans la cité en actionnant une crécelle, de sorte que les biens portants puissent passer au large. C’était déjà de la géolocalisation !

Certes, CoronApp n’oblige pas le lépreux du XXIème siècle à se déclarer comme tel, mais des dispositions individuelles de mise en quarantaine de personnes susceptibles d’être malades adoptées il y a peu dans le cadre de l’« état d’urgence sanitaire » pourraient les y contraindre. (1)

A y regarder de près, on peut se poser la question de savoir si « la servitude volontaire » à laquelle invite cette application n’est pas plus terrible que l’obligation qui jadis était faite aux lépreux.

(1) L’expérience de la législature précédente montre que les dispositions d’urgence et à caractère provisoire ont une fâcheuse tendance en France à se convertir en dispositions permanentes, définitivement inscrites dans le marbre de la loi.

Publié le Vidéosurveillance - Société numérique

« hiérarque de la police municipale et proche du maire »

Le quotidien « Nice Matin » relate, dans son édition du 20 février 2020, un incident survenu quelques jours plus tôt dans les rues de Nice ; il rapporte une algarade entre une personne qu’il qualifie d’ « histrion » et Mme Bertin, qualifiée, elle, de :

« hiérarque de la police municipale et proche du maire« 

Cette phrase d’apparence anodine devrait tous nous alerter sur les dangers potentiels d’un éventuel accroissement des compétences des maires en matière de police et de maintien de l’ordre, accroissement systématiquement réclamé par le maire de Nice, depuis des années, en particulier en tant que président de la  commission consultative des polices municipales.

Mme Bertin était la responsable du centre de supervision urbaine (CSU) de la ville de Nice ce funeste jour du 14 juillet 2016. C’est à cette occasion que nous avions appris, par la presse nationale, que la responsable du CSU était une « proche du maire »  cliquez ici :  nice-csu-1

On aurait pu penser que c’était une vieille affaire qui date de 2016 et que Mme Bertin avait été sagement éloignée du CSU de Nice après ces révélations ; mais il n’en est rien. Un article publié le 22/02/2020 par Courrier International, nous apprend que cette dame gravite toujours autour du dispositif de vidéosurveillance de la ville cliquez ici :  nice-csu-2

C’est le droit le plus absolu de Mme Bertin d’être « une proche du maire » mais vous trouveriez normal qu’une haute responsable de la police municipale aux pouvoirs renforcés, le cas échéant par de la reconnaissance faciale, soit une « proche du maire » ? Il n’est pas difficile d’imaginer les dérives possibles …

 

Publié le A la une, Vidéosurveillance - Société numérique

reconnaissance faciale Vs renseignement humain

Dans cette période de campagne électorale pour les municipales, attendons-nous à des propositions maximalistes de la part des élus dont la surveillance de masse et invisible est le principal (et souvent unique) cheval de bataille politique : reconnaissance faciale, des humeurs, des odeurs, des bruits et même dune démarche « anormale » voilà la panoplie qui sera proposé par ceux qui jouent à « plus high tech que moi, tu meurs ». L’argument massue, qui se voudrait définitif est : il faut stopper les djihadistes.
A ceux-là, voici ce qu’il faut répondre :
58 des 59 attentats déjoués depuis six ans l’ont été grâce au renseignement humain

Alors que la France a justifié la construction et le financement de puissants outils de surveillance et de collecte de données, c’est l’intervention d’une source humaine qui permet quasiment à chaque fois d’éviter le pire.

Ici, article du Monde (octobre 2019) : attentats déjoués renseignement humain

 

Publié le Vidéosurveillance - Société numérique

L’impact de la vidéosurveillance sur les crimes et délits dans la ville de Nice.

Dans le site Data-Gouv  – Ministère de l’Intérieur – on trouve les statistiques, commune par commune, de l’ensemble des crimes et délits recensés par la police nationale et la gendarmerie depuis 2012 et jusqu’à 2018 ; pendant la même période, le nombre de caméras de vidéosurveillance abusivement dénommées de « vidéoprotection » installées dans la ville de Nice a presque triplé, passant de moins de 900 à plus de 2600 caméras.
 
Nous avons analysé l’évolution entre 2012 et 2018 de deux items recensés par le commissariat central de la ville de Nice , sachant qu’un des arguments mis en avant par les promoteurs de la vidéosurveillance généralisée et systématique est est le fameux « ça vous protège ».
 
Parmi les crimes et délits répertoriés, nous en avons retenu deux qui nous semblent particulièrement significatifs, d’une part parce qu’ils portent sur un nombre  d’actes suffisamment important pour être statistiquement significatifs et d’autre part parce qu’ils relèvent d’un type de criminalité qui attire particulièrement l’attention des citoyens.
  • « autres coups et blessures volontaires criminels ou correctionnels »
  • cambriolages »
 
Que constate-on ?
 
Concernant le nombre de  « autres coups et blessures volontaires » , il a augmenté à Nice, si on compare 2012 à 2018, de + 13% !
Autres coups et blessures volontaires – criminels ou correctionnels
Variation par rapport à l’année 2012.
année nombre variation
2012 1 955
2013 2 064 +5,5%
2014 2 121 +8,4%
2015 2 270 +16,1%
2016 2 273 +16,2%
2017 2 180 +11,5%
2018 2 217 +13,4%
Concernant le nombre de cambriolages, malgré le triplement du nombre de caméras, il est resté pratiquement identique si on compare 2012 avec 2018 : diminution de -1,4% avec une pointe d’augmentation en 2017 de + 10,4 %
Cambriolages
Variation par rapport à l’année 2012
année nombre variation
2012 2 321
2013 2 185 -5,8%
2014 2 635 +13,5%
2015 2 283 – 1,6%
2016 2 171 – 6,4%
2017 2 563 + 10,4%
2018 2 287 – 1,4%
Nous savons que de nombreux biais, structurels ou conjoncturels, peuvent influer sur les statistiques de crimes et délits et affecter les comparaisons des communes entre elles  ; toutefois, l’analyse des évolutions la seule ville de Nice sur une période relativement longue de sept ans, met en évidence que l’impact de la vidéosurveillance sur des crimes ou délits importants comme le sont les coups et blessures volontaires et les cambriolages est quasiment nul.

 

Publié le A la une, Vidéosurveillance - Société numérique

La reconnaissance faciale, ce sont les hommes du 19ème siècle qui en parlent le mieux

La reconnaissance faciale, ce sont les hommes du 19ème siècle qui en parlent le mieux

Petite revue de presse

Suite à l’avis de la CNIL indiquant que l’expérimentation de la reconnaissance faciale dans deux lycées de la région Sud-Paca était illégale, nous avons analysé les réactions à chaud de messieurs Muselier et Estrosi sur les réseaux sociaux Facebook et Twitter les 29 et 30 octobre 2019, ainsi que dans un article de Nice-Matin daté du 30 octobre 2019.

Une idéologie positiviste du XIXème siècle

On observe tout d’abord une série de réactions qualifiant la CNIL d’organisme « poussiéreux » ayant « un siècle de retard », « obstinée » et provoquant des « blocages ». Estrosi et Muselier, eux, se rangent dans le camp de la « dynamique » et de « l’expérimentation ». Ils proposent des outils de sécurité « efficaces et modernes ». Il y aurait donc d’un coté les ringards qui n’ont rien compris et de l’autre MM Estrosi et Muselier à l’avant-garde de la high tech. Un sommet est tout de même atteint par M. Estrosi qui qualifie les principes posés par le règlement général de protection des données (RGPD) de « principes dépassés ». Voilà deux hommes politiques tenants béats – ou intéressés – du positivisme façon 19ème siècle, selon lequel science et progrès vont forcément de pair.

Casser le thermomètre, plutôt que de faire baisser la température

Faute de pouvoir, pour le moment, tordre le bras à la CNIL, M. Estrosi déclare à Nice-Matin qu’il faut « des réformes pour réduire l’influence de la CNIL ». Une commission vous indique que là, vous dépassez les bornes ? Pourquoi on s’embarrasserait d’une commission « caillou dans les bottes » qui empêche M. le maire de surveiller qui il a envie de surveiller et M. l’industriel de faire de confortables marges avec la reconnaissance faciale ? La solution est simple, réduisons la CNIL au rang de bureau d’enregistrement comme le sont les commission nationales et départementales de la vidéosurveillance.

L’objectif policier de l’expérimentation dans les lycées

Dans le dossier de présentation de l’expérimentation du contrôle par reconnaissance faciale à l’entrée des lycées, il n’était question que d’une innocente gestion des flux et d’un banal contrôle des lycéens à l’entrée de leur établissement ; mais soudainement, après que la CNIL l’ait déclarée illégale, le véritable objectif policier de l’opération se laisse découvrir à travers la déclaration de M. Estrosi à Nice-Matin, lorsqu’il évoque « la guerre contre le terrorisme » et l’utilisation des fichiers du ministère de l’intérieur combinés avec la reconnaissance faciale : « Les technologies liées à l’intelligence artificielle, dont fait partie la reconnaissance faciale, permettent de localiser et de suivre un de ces individus pour l’empêcher de nuire. » Le véritable projet qui se profile est celui d’une surveillance généralisée, permanente, automatisée et invisible de la totalité de la population.

L’intérêt sécuritaire de l’expérimentation d’une vidéo surveillance à comparaison faciale à l’entrée des lycées serait donc de repérer l’intrusion ou la tentative d’intrusion de l’un de ces individus présumés dangereux et fichés par les services de l’État. On imagine bien en effet un tel individu, formé, préparé pour perpétrer un attentat se présenter sans cagoule à l’entrée d’un établissement, sous l’œil attentif des caméras, afin de passer proprement et sans histoires le portique d’entrée, en ayant fait la queue peut-être ?

Habituer la population, banaliser l’utilisation de la reconnaissance faciale.

Les politiciens pro reconnaissance faciale et les industriels qui développent ces produits le savent parfaitement : les français n’aiment pas la reconnaissance faciale. Ils vont donc procéder exactement comme ils l’ont fait pour imposer la vidéosurveillance généralisée. Il faut tout d’abord habituer progressivement la population à supporter la reconnaissance faciale dans les lieux publics, d’où l’intérêt majeur d’habituer les jeunes lycéens. Il est aussi nécessaire de faire croire à la population que cette technologie est « parfaitement encadrée par les services de l’Etat » comme le déclare M. Estrosi à Nice-Matin, comme si l’Etat était un modèle du genre en matière de protection des libertés individuelles. Ainsi, dans ce schéma de pensée, pouvoir en contre-pouvoir s’incarnent dans la même institution ; ce n’est pas banal !

Notre sécurité, la « guerre contre le terrorisme » que M. Estrosi souhaite mettre en avant pour justifier ce projet actuellement mis en veilleuse, sont des enjeux trop importants pour que nous laissions certains politiciens et les industriels directement intéressés qui les inspirent en sous-main, laisser croire à nos concitoyens que la technologie va résoudre tous les problèmes de sécurité ; à Nice, nous le savons plus qu’ailleurs. 58 des 59 attentats déjoués depuis six ans en France l’ont été grâce au renseignement humain.

 

Publié le A la une, Vidéosurveillance - Société numérique

La CNIL juge illégale l’expérimentation de la reconnaissance faciale dans les lycées de la Région Sud-Paca

28 octobre 2019- 22h30

Nous venons d’apprendre (Médiapart : ICI )  avec une grande satisfaction que la CNIL juge illégale la mise en place d’un dispositif expérimental de reconnaissance faciale aux entrées des lycées des Eucalyptus à Nice et Ampère à Marseille.
La Quadrature du net, la Ligue des droits de l’Homme, la FCPE et le syndicat CGT Educ ont déposé un recours en annulation contre la délibération du Conseil Régional Sud-Paca qui a autorisé cette expérimentation au demeurant entièrement financée par l’entreprise privée Cisco.
Nous ne doutons pas un seul instant que le lobby des grands groupes privés français, américains, israéliens ou chinois, va revenir à la charge, sous une forme ou sous une autre, toujours à l’affut des énormes profits escomptés grâce au déploiement des technologies de reconnaissance biométrique.
Un coup d’arrêt doit désormais être mis au raz-de-marée technologique et quantitatif annonçant une société d’omnisurveillance généralisée qui pourrait sous peu se trouver hors de tout contrôle démocratique.
Publié le A la une, Vidéosurveillance - Société numérique

Reconnaissance faciale : lettre ouverte aux proviseurs et aux communautés éducatives des lycées Ampère de Marseille et des Eucalyptus de Nice.

Lettre ouverte aux proviseurs et aux communautés éducatives des lycées Ampère de Marseille et des Eucalyptus de Nice.

Le conseil régional SUD PACA a décidé d’utiliser vos deux établissements pour expérimenter le contrôle de l’accès aux établissements d’enseignement par reconnaissance faciale ; vos établissements se trouvent désormais en première ligne dans une bataille qui pourrait être décisive, non seulement pour vos communautés éducatives, mais aussi pour toutes celles de France.

Ce qui est en jeu, c’est avant tout d’accoutumer les adolescentes et adolescents dont vous avez la responsabilité à ce type de contrôle, afin qu’ils finissent par l’accepter.

Ce qui est aussi en jeu, ce n’est pas le confort d’un inutile contrôle d’accès qui se prétend infaillible, mais la liberté d’aller et de venir sans être en permanence sous la surveillance de dispositifs électroniques à l’intérieur comme à l’extérieur des établissements ; pour vous, comme pour tous les autres établissements de France qui seront soumis à ces contrôles invasifs si vous les acceptez à Nice et à Marseille.

Les promoteurs du dispositif vous assurent que vos libertés individuelles seront sauvegardées et garanties par ce type de contrôle, mais une fois mis en place, vous ne pourrez plus empêcher des évolutions encore plus invasives, voire vous n’en serez même pas informés. Ce sera trop tard et vous ne pourrez plus vous opposer à l’interfaçage de ce contrôle d’accès avec toute une série d’autres contrôles de la population existant déjà dans vos villes, sous le prétexte de « safe city ».

Si le contrôle par reconnaissance faciale venait par malheur à se mettre en place dans vos lycées, si vous cédez, vous ne constituerez qu’un maillon dans le contrôle généralisé et permanent de la population, de nos faits et gestes, qui est en train de se mettre peu à peu en place.

Nous vous appelons donc à refuser cette expérimentation.

La Quadrature du Net            Les Sections de Nice et de Marseille de la Ligue des droits de l’Homme

 

 

 

 

 

Publié le A la une, Events, Vidéosurveillance - Société numérique

Quand le lobby sécuritaire de Nice se pique de philisophie

La fondation « Université cote d’Azur » a crée une chaire intitulée « Smart City », confiée à une philosophe, chargée de jouer le rôle d’influenceuse comme on en voit tant dans les réseaux sociaux. Cette chaire « Smart City », financée (1) par des entreprises directement intéressées par le développement des activités « Smart City », n’est, selon nous, qu’un outil d’influence douce – soft power en anglais – (2) – parmi d’autres – au service du lobby sécuritaire.
Elle organisait un colloque le 25 mars 2019 intitulé, excusez du peu, « Le catastrophisme ». Parmi les invités un certain Diego Fusaro, très peu connu en France, mais que nos amis italiens nous ont rapidement signalé comme étant un idéologue qui se réclame du populisme et écrit dans la presse d’extrême droite italienne. Un autre universitaire attirait l’attention : Michel Maffesoli, qui s’était distingué en son temps en dirigeant la thèse de doctorat de l’astrologue Elizabeth Tessier (mais qu’en pense le labo de zététique de l’université de Nice ? https://frama.link/zetetique).
Tollé parmi les universitaires niçois ; finalement, le colloque est annulé. Pour notre part, nous n’avons pas demandé l’annulation de ce colloque, c’est contraire à notre adn ; mais ce qui nous pose problème, c’est qu’aucun organe de la presse locale n’ait mis en évidence ce qui est le plus choquant : le déguisement du loup sécuritaire en inoffensive mère-grand philosophe.Qu’il soient « smart » ou « safe » ces dispositifs sont pervers dans la mesure où il introduisent silencieusement de puissants outils de surveillance de masse à l’intérieur d’outils de gestion urbaine, utiles et acceptables.

*

(1) totalement ou partiellement et pour quels montants ? C’est un secret. La fondation a refusé de nous communiquer des informations aussi élémentaires que ses statuts ou les délibérations de son conseil d’administration. Merci pour la transparence ! la CADA a été saisie.
(2) quoi de plus doux, raisonnable et inoffensif qu’un philosophe ?

*

Une  très intéressante émission sur France Culture (02/05/2019) : « Pourra-t-on échapper à la surveillance des smart cities ? »  durée : 30 mn intervenant.e.s : Régis Chatellier (CNIL), Elodie Lemaire (cf supra) et Carlos Moreno (Sc Po Paris)  le lien, cliquez ici : https://frama.link/surveillance_des_smart_cities