LES ALGOS ET LA DYSTOPIE CHINOISE, par François Leclerc

Billet invité.

L’époque est plus propice aux dystopies qu’aux utopies, leur opposé, quand bien même ces dernières peuvent aujourd’hui se prévaloir du réalisme, elles aussi dans l’air du temps. Mais s’il est aisé de décrire sombrement l’avenir qui se présente, il est moins facile d’y résister.

Sous les auspices de son Parti-État, la Chine est engagée à nouveau dans une longue marche. Cette fois-ci, l’objectif n’est pas de prendre le pouvoir mais d’instaurer un contrôle social généralisé de sa population, afin de le conserver. Le traumatisme de la chute de l’URSS hante en effet la direction chinoise. Illustrant l’importance du projet dénommé « système de crédit social » inscrit au 13ème plan quinquennal, le comité chargé de le piloter a le président Xi Jinping à sa tête.

Afin qu’il aboutisse, la Chine s’est dotée d’un laboratoire réunissant les représentants du régime et d’une poignée des grandes compagnies commerciales du pays opérant sur Internet. Il progresse à pas de géant, disposant de bases de données de centaines de millions de consommateurs chinois utilisant les très populaires services en ligne.

Les chercheurs chinois s’inspirent du principe adopté par la National Security Agency (NSA) américaine, selon lequel il faut ratisser large et récupérer le plus de données possibles pour que les algorithmes qui trient les données soient utilisés au maximum de leur efficacité. Dans la compétition qui les oppose aux Américains dans le domaine de pointe de l’Intelligence Artificielle, les autorités chinoises ont cet incontestable avantage qui fait dire à certains experts qu’ils arriveront premiers.

L’objectif poursuivi à Pékin est d’attribuer une note à chaque internaute selon un système de bonus-malus, assortie de primes ou bien restreignant l’accès à certains produits ou prestations particulièrement recherchés. Un tel système de notation a pour ancêtre l’historique de crédit bancaire permettant d’attribuer ou non un prêt, depuis longtemps en vigueur aux États-Unis, en beaucoup plus sophistiqué car il enregistre non seulement les défauts de payement mais décèle également, grâce à la puissance des algorithmes utilisés, les comportements potentiellement déviants. Comble d’efficacité, il associera un puissant outil de marketing et un autre de surveillance sociale, sans équivalent dans le monde entier.

Une importante étape sera franchie. Nous n’en sommes plus à distinguer « l’employé du mois » cher aux entreprises américaines, dont la photo est affichée dans leurs locaux, mais à la recherche des « bons citoyens » qui pourront avoir les honneurs d’une mention sur Internet. Les autres se seront eux-mêmes désignés comme sujets à une surveillance renforcée. Le vieux système chinois du « dangan » a trouvé son glorieux successeur, tout comme les « passeports intérieurs » soviétiques, les Comités de défense de la Révolution cubains ou la Stasi du temps de la RDA…

Un nouvel outil prometteur commence à être implanté en Chine, des systèmes de reconnaissance faciale à faible coût étant chargés des missions les plus diverses. Ils prennent la place des badges autorisant l’accès aux entreprises ou permettant de retirer de l’argent à des automates, ou bien encore de procéder à des contrôles d’identité sur la voie publique. Connectés aux réseaux de caméras de surveillance qui ont fait florès dans le monde entier, les technologies de reconnaissance faciale et d’analyse des comportements suspects vont remplacer les humains dépassés par la tâche. Leur fiabilité est telle qu’elles sont déjà expérimentées avec succès comme moyen de payement dans des supermarchés chinois.

Qui parle de dystopie ?

Recommandez par mail Recommandez par mail

Partagez