Souriez, vous être filmés

De quelle société les GAFA sont-ils porteurs si l’on n’y prend garde ? Facebook en a fourni un avant-goût en utilisant hors de tout contrôle les données personnelles de ses utilisateurs, ouvrant en grand un débat sur leur propriété, comme s’il s’agissait d’ailleurs d’une marchandise. Disposant d’une puissance financière inégalée, ils partagent chacun à leur manière une vision de la société de demain au sein de laquelle ils se voient appelés à jouer un rôle central en s’appuyant sur le développement et l’accaparement des nouvelles technologies.

Sidewalk Labs, une filiale de Google, fournit un exemple accompli de leur dérive avec son projet d’aménagement d’une vaste zone de Toronto, avançant l’ambition « d’établir de nouveaux standards pour une planète plus saine ». Mais la publication de ses grandes lignes a soulevé un tollé chez les élus et dans la population. Présenté comme un rêve, il a été ressenti comme un cauchemar. Non pas en raison de ses aspects futuristes et de ses nobles intentions écologiques, mais parce qu’il offre la vision « d’une ville gouvernée par le marché, où la technologie régule tout », comme l’a dénoncé le collectif d’opposants #BlockSidewalk.

Somme toute, la réalisation de ce projet reviendrait à créer une zone économique spéciale dont la gouvernance serait privatisée, les autorités municipales chargées de gérer les services – de transport, d’urbanisme, de voirie, etc – écartées de leurs responsabilités au profit d’organes de gouvernance ad hoc crées par Sidewalk Labs. Ceux-ci s’appuieraient sur l’enregistrement massif de données par des capteurs implantés sur la voie publique et sur l’analyse des usages par des systèmes d’intelligence artificielle. Dans le projet, cela va jusqu’à l’occupation des bancs publics… Le tout représente le fantasme d’une cité idéale reposant sur la dictature des algorithmes.

Face à la contestation, et afin de rester dans le jeu, la filiale de Google a depuis annoncé revoir à la baisse ses ambitions, et un accord recadrant le projet en ce sens a finalement été passé avec les autorités de Toronto. La décision finale prévue pour la fin 2020 n’a pas encore été prise dans l’attente d’une évaluation détaillée.

Google a eu le tort de voir en grand. Il s’est inscrit dans un profond courant favorisant l’utilisation intrusive des nouvelles technologies, à commencer par la reconnaissance faciale qui est déjà opérationnelle. Le régime chinois est aux avant-postes en s’appuyant sur ses propres stars de l’économie numérique, mais faut-il croire qu’une société que l’on peut indifféremment appeler de surveillance, de contrôle ou d’inquisition n’est pas chez nous dans les tuyaux, si l’on n’y prend pas garde  ?

En France même la reconnaissance faciale progresse déjà sous la pression des industriels et des services de police. Le rêve d’un contrôle d’identité résultant de l’interfaçage entre la vidéo surveillance généralisée et les fichiers de la police n’y est pas dissimulé. En attendant, les expérimentations publiques et privées se multiplient, faisant progresser la conception des algorithmes qui sont au cœur de ces systèmes.

La CNIL s’est tout dernièrement opposée à deux projets de reconnaissance faciale et vocale, l’un de la région PACA à l’entrée de lycées, l’autre de la ville de St-Étienne afin de détecter les « bruits anormaux » de la rue par des micros baptisés « capteurs » pour rendre la chose plus anodine. Mais va-t-elle être en mesure de bloquer un mouvement irrésistible car insidieux ? Il y a matière à réflexion quand on apprend la découverte par des locataires que leur maison est équipée de caméras de surveillance cachées dans la salle de bain, la chambre et le salon, dont les images peuvent être visionnées à distance…

La question initiale de cet article est-elle bien posée ? Les GAFA sont désormais en première ligne, mais ce qu’ils expriment a une origine plus profonde, dans un monde où la concentration extrême du pouvoir économico-financier est déjà très avancée. En crise chronique, dans l’incapacité avérée de s’amender, le capitalisme financier cherche aujourd’hui une issue et s’inquiète de la montée du « populisme ». Et, même si le pire n’est pas toujours sûr, il pourrait dans l’impasse rechercher celle-ci dans l’avènement d’une société de surveillance dont nous assisterions à l’expérimentation. En ne retenant que la face noire de l’innovation technologique. Les grandes inventions façonnent leur époque, pas exclusivement en bien lorsqu’on pense à la bombe atomique !