Crédit social : faut-il craindre un système à la chinoise ?

Depuis quelques années, le système de crédit social chinois alimente les débats autour de la surveillance de masse et des libertés individuelles. Selon ce modèle, chaque citoyen se voit attribuer un capital de points, censé refléter sa fiabilité financière, sociale, voire morale. Ce score impacte directement son accès à certains droits, services et opportunités.

Souvent caricaturé, ce dispositif de notation a été popularisé dans l’imaginaire collectif par plusieurs œuvres fictionnelles, comme la célèbre série dystopique Black Mirror.

À l’heure où les nouvelles technologies évoluent à une vitesse effrénée, permettant de collecter et analyser des volumes de données massifs à l’échelle mondiale, une question se pose : sommes-nous réellement à l’abri d’un tel modèle en Europe ? À bien y regarder, ce système de social scoring ne serait-il pas déjà silencieusement à l’œuvre dans nos sociétés occidentales ? Décryptage.

Crédit social chinois : de quoi parle-t-on au juste ?

Les origines du système de crédit social chinois

Le système de crédit social chinois (SCS) a été officiellement instauré en 2014 par le gouvernement de Xi Jinping, via la publication du « Plan de planification pour la construction d’un système de crédit social (2014-2020) » par le Conseil des affaires de l’État. Ce document de référence fixait l’objectif suivant : doter la Chine, d’ici 2020, d’un système national permettant d’évaluer la fiabilité de ses citoyens et de ses entreprises dans tous les secteurs de l’économie et de la vie sociale.

Mais ce système de notation prend véritablement racine dès les années 1980 et 1990. À cette époque, la Chine amorce une transition massive vers l’économie de marché qui fait rapidement émerger une multitude de problèmes : explosion des fraudes commerciales, hausse des défauts de paiement, scandales sanitaires à répétition… En outre, le pays ne dispose pas d’un système bancaire aussi développé qu’en Occident et une grande partie de la population ne possède pas d’historique de crédit, ce qui érode d’autant plus la confiance entre acteurs économiques.

Pour pallier ces difficultés, les autorités chinoises commencent à réfléchir à des mécanismes capables de restaurer cette confiance à grande échelle et de construire progressivement une “culture du crédit”, afin de sécuriser les échanges, de lutter contre les fraudes et de renforcer le respect des obligations contractuelles.

Dès le début des années 2000, plusieurs initiatives locales voient ainsi le jour, telles que des bases de données sur les entreprises ou des systèmes de notation financière expérimentaux.

Parallèlement, le numérique connaît un essor fulgurant dans le pays, avec le développement massif des paiements mobiles, du e-commerce et des plateformes technologiques, entre autres. Cette digitalisation à outrance favorise considérablement la collecte et l’exploitation de données à grande échelle.

Comment fonctionne le système de crédit social chinois ?

Contrairement à certaines idées reçues, le système de crédit social chinois ne fonctionne pas à partir d’une note globale et unique attribuée à chaque citoyen. Il s’agit en réalité d’un ensemble hétérogène de politiques publiques et de dispositifs complémentaires visant à évaluer la « fiabilité » ou la « confiance » d’un individu ou d’une entreprise en se basant sur ses comportements économiques, sociaux ou administratifs (respect des lois, remboursement des dettes, respect du code de la route, interactions sociales, comportement financier…).

Parmi les mécanismes mis en place, on peut notamment citer :

• Des bases de données gouvernementales qui recensent les infractions commises (fraudes, dettes, non-respect de décisions de justice…) ;
• Des listes noires (blacklists) pour les individus ou entreprises jugés « non fiables » et des listes rouges (redlists) pour les personnes ou entreprises aux comportements considérés comme exemplaires. Ces listes sont gérées par différentes agences gouvernementales, telles que la Commission nationale de développement et de réforme (NDRC), le ministère des Finances, la Banque populaire de Chine, l’Administration générale des douanes, ou encore la Commission de régulation des valeurs mobilières (CSRC) ;
• Des systèmes locaux ou sectoriels et des projets pilotes régionaux, expérimentés dans certaines zones géographiques ou industries ;
• Des systèmes de notation privés développés par des géants du numérique comme le Sesame Credit (ou Zhima Credit Score) mis en place par la société de financement Ant Financial Group, une filiale d’Alibaba. Selon ce dispositif, un score est attribué à chaque utilisateur à partir de plusieurs critères (historique de paiement, habitudes de consommation…), afin d’évaluer sa solvabilité et sa fiabilité financière. Plus le score est élevé, plus l’utilisateur peut bénéficier d’avantages (conditions de prêt préférentielles, cautions réduites…), tandis qu’un score faible peut entraîner des restrictions ou un accès plus limité à ces services.

En somme, les comportements jugés positifs sont récompensés, tandis que ceux jugés négatifs sont sanctionnés.

La collecte des données se fait via des outils en ligne (big data, plateforme numériques, historique de navigation, réseaux sociaux, applications mobiles…), mais aussi hors ligne (caméras de surveillance, reconnaissance faciale, enregistrements administratifs, contrôles de police…).

Exemples de récompenses et de sanctions

Pour mieux comprendre la portée du système de social credit en Chine, voici quelques exemples de sanctions et récompenses liées à ce dispositif.

Les personnes ou entreprises blacklistées peuvent notamment se voir interdire :

• L’achat de billets de train à grande vitesse ou de billets d’avion ;
• L’accès à certains emplois publics (banques, entreprises d’État…) ;
• L’obtention de prêts bancaires ;
• L’accès à certains services tels que des hôtels de luxe, des terrains de golf, mais aussi des écoles privées ou universités sélectives pour leurs enfants ;
• La possibilité de créer ou diriger une entreprise ;
• L’accès à des marchés publics ou à des appels d’offres ;
• L’accès à certains marchés financiers ;
• L’accès à une connexion internet stable et rapide ou à certains services numériques ;
• …

Le cas du journaliste d’investigation chinois Liu Hu, qui a fait le tour du monde, illustre bien les dérives du système de crédit social chinois. Inscrit sur la liste noire de la Cour Populaire Suprême pour avoir dénoncé des actes de corruption gouvernementale, il a été arrêté pour diffamation et forcé à publier des excuses publiques. Ses réseaux sociaux ont été fermés et il lui a été interdit d’acheter des billets de train, de contracter des emprunts et de se déplacer sur le territoire ainsi qu’à l’étranger.

Les individus inscrits sur listes noires peuvent également subir une atteinte à leur réputation. En effet, certains systèmes locaux publient les noms des débiteurs « défaillants » sur des écrans dans les lieux publics ou dans les transports, selon le principe du name & shame.

À l’inverse, les individus bien notés peuvent bénéficier de conditions de crédit avantageuses, d’un accès prioritaire à certains services publics, de cautions réduites pour la location d’un logement ou d’un véhicule, de procédures administratives accélérées, de tarifs préférentiels sur certains services…

Les risques d’un tel modèle

Le système de crédit social chinois pose de toute évidence plusieurs problèmes majeurs, parmi lesquels :

– Un accès conditionné à des libertés fondamentales

En conditionnant l’accès d’un individu aux transports, à l’éducation, à l’emploi ou au crédit bancaire, le système transforme des libertés fondamentales en privilèges fondés sur une notion de « mérite » biaisée.

Un citoyen blacklisté pour, par exemple, un retard de remboursement, une amende impayée ou une publication jugée inappropriée sur les réseaux sociaux, peut se voir ainsi privé de droits essentiels à son émancipation sociale, à sa mobilité et à sa capacité à subvenir aux besoins de sa famille, sans avoir commis d’infraction pénale. Cette logique de restriction peut rapidement conduire à une forme d’exclusion sociale et à une situation de précarité irréversible.

– Une atteinte au respect de la vie privée

Ce système soulève également de nombreuses inquiétudes quant au respect de la vie privée et à l’exploitation des données personnelles. Son fonctionnement repose en effet entièrement sur la collecte massive et continue d’informations privées (transactions financières, déplacements, comportements en ligne…). Chaque fait et geste d’un individu devient potentiellement un élément d’évaluation.

– Un système d’évaluation arbitraire et opaque

En outre, les critères d’évaluation du modèle chinois sont arbitraires, opaques et très variables en fonction des régions et des administrations concernées. Un individu peut se retrouver pénalisé sans en connaître précisément les motifs, et sans disposer de voies de recours claires pour contester sa situation.

– Un risque de division sociale

Enfin, le social scoring divise automatiquement les citoyens entre deux grandes catégories. D’un côté, ceux « dignes de confiance », qui accèdent pleinement aux ressources et aux opportunités et, d’un autre, ceux considérés comme « indignes de confiance », qui voient leurs droits et libertés restreints.

Cette hiérarchisation des individus, ainsi institutionnalisée, brise toute cohésion sociale et augmente les risques de défiance, de ressentiment et de discrimination entre citoyens.

– Une précarisation des individus

Ce modèle à la chinoise s’accompagne également d’un risque majeur de précarisation des populations les plus vulnérables. En effet, un individu en situation de précarité est statistiquement plus exposé aux manquements susceptibles de dégrader son crédit social (retard de paiement faute de liquidités, accès limité aux démarches administratives en ligne, mobilité réduite compliquant l’accès à certains services…). Or, en sanctionnant ces comportements par des restrictions supplémentaires (refus de crédit, restriction de l’accès à l’emploi, exclusion de certains services…), la personne, déjà en situation de fragilité, voit ses chances de réinsertion et d’émancipation se réduire encore plus. Cela l’expose à de nouveaux manquements et donc à de nouvelles sanctions.

Non seulement le système de crédit social ne corrige pas les inégalités, mais il a même tendance à les cristalliser.

La notation invisible : sommes-nous déjà concernés en Occident ?

Si, en Occident, il n’existe pas de système de crédit social centralisé et officiel comparable à celui de la Chine, plusieurs mécanismes existants s’en rapprochent toutefois dangereusement, tels que :

Le scoring financier et assurantiel

Aux États-Unis et en Europe, les établissements bancaires et les compagnies d’assurance ont depuis longtemps recours à des systèmes de notation algorithmiques pour évaluer le profil de leurs clients.

L’un des dispositifs les plus connus est le credit score, un indicateur financier calculé à partir de l’historique bancaire d’un individu (remboursement de prêts, taux d’endettement, utilisation du crédit, incidents de paiement…). La note conditionne directement l’accès à un prêt immobilier, à un crédit à la consommation ou à certains produits financiers.

De la même manière, dans le secteur des assurances, de plus en plus de données comportementales (kilométrage, style de conduite, habitudes de santé…) sont utilisées pour moduler les primes.

Si ces pratiques semblent se cantonner à la sphère privée et à des fins commerciales, elles reposent toutefois sur la même logique de fond : traduire des comportements individuels en une note, pour en faire découler des droits ou des restrictions d’accès.

La surveillance au travail

Le monde de l’entreprise n’échappe pas non plus à cette logique de notation et de surveillance comportementale. Dans de nombreux pays occidentaux, les employeurs ont de plus en plus recours à des outils numériques permettant de monitorer en temps réel l’activité de leurs salariés : suivi des emails, analyse du temps passé sur chaque application, géolocalisation des véhicules de fonction, contrôle des badges d’accès, voire analyse du ton et du contenu des communications internes grâce à des logiciels spécialisés.

Certaines entreprises américaines vont encore plus loin, en attribuant à leurs employés des scores susceptibles d’influencer leurs perspectives d’évolution ou de rémunération, ou en adoptant des pratiques de management algorithmique.

Microsoft permet par exemple aux entreprises de calculer un « score de productivité », noté sur 800, à partir des données de travail de leurs salariés (fréquence d’envoi des mails, temps passé sur Teams, participation aux réunions en ligne, volume de fichiers partagés, régularité des connexions…). Initialement, cet outil permettait même d’accéder à ces métriques au niveau individuel, exposant nominativement chaque salarié. Suite à de nombreuses critiques, une partie des données a finalement été anonymisée.

Autre exemple : chez Amazon, des systèmes automatisés mesurent en permanence la cadence des entrepôts et peuvent déclencher des avertissements, voire des licenciements, sans intervention humaine directe. Et chez Uber ou Deliveroo, ce sont les chauffeurs et livreurs qui sont évalués en continu par leurs clients et par la plateforme elle-même. En dessous d’un certain seuil de note, ils peuvent être purement et simplement « désactivés », c’est-à-dire exclus de la plateforme, sans procédure formelle.

Si ces pratiques sont encore encadrées par le droit du travail et par les législations sur la protection des données (notamment le RGPD – Règlement Général sur la Protection des Données, en Europe), la généralisation de ces pratiques, facilitée par la démocratisation des outils d’intelligence artificielle, soulève de nombreuses inquiétudes.

Les aides sociales conditionnées

Dans de nombreux pays occidentaux, l’accès aux aides sociales est également conditionné à certains comportements (recherche active d’emploi, formation, respect de critères administratifs…).

En France, la récente réforme du RSA (Revenu de Solidarité Active) illustre bien cette tendance. Les allocataires sont désormais tenus de s’engager dans un parcours d’insertion de 15 à 20 heures d’activité hebdomadaires, sous peine de voir leurs prestations suspendues.

Au Royaume-Uni, le système Universal Credit est aussi vivement critiqué pour son fonctionnement algorithmique, qui peut suspendre automatiquement les allocations d’un bénéficiaire en cas de manquement ou d’écart de comportement détecté.

Aux Pays-Bas également, un scandale d’envergure avait éclaté en 2017 quand il a été révélé que l’administration fiscale avait utilisé un algorithme pour cibler automatiquement 20 000 familles en situation de précarité, pour la plupart issues de minorités, les accusant à tort de fraude à l’aide sociale.

Ces différents exemples mettent en lumière une tendance de fond préoccupante, avec une logique de social scoring à double vitesse dans les sociétés occidentales. D’un côté, ce sont les citoyens les plus précaires qui se retrouvent en première ligne, contraints de prouver leur bonne conduite pour accéder à des droits pourtant fondamentaux. De l’autre, des outils de notation tout aussi puissants, bien que moins visibles, ont l’air d’être portés par des acteurs privés, au premier rang desquels les géants du numérique comme Amazon et Microsoft.

D’où vient ce besoin de contrôle ? Des racines économiques et sociales

L’essor de ces systèmes de notation et de surveillance de masse soulève une question complexe : d’où vient réellement ce besoin de contrôle ?

En réalité, il est loin d’être nouveau. Toute société organisée a, de tout temps, cherché à réguler les comportements de ses membres et à distinguer les individus « fiables » de ceux qui ne le seraient pas. Dans la Rome antique déjà, le census (recensement) classait les citoyens selon leur fortune, leurs obligations militaires et leur réputation morale. Autant de critères qui déterminaient leur rang social et leurs droits civiques. Les censeurs étaient d’ailleurs investis d’un pouvoir redoutable, la nota censoria, une sanction morale et sociale infamante qui privait automatiquement un citoyen de ses droits et de son statut en cas de comportements jugés indignes ou contraires aux valeurs romaines. Près de 2 000 ans plus tard, la logique reste, de façon troublante, assez similaire.

Ce qui a radicalement changé, c’est la capacité à exercer ce contrôle à une échelle et avec une précision sans précédent.

La numérisation massive de nos vies quotidiennes (achats en ligne, déplacements tracés par nos smartphones, interactions sur les réseaux sociaux, transactions bancaires dématérialisées…) a généré un volume colossal de données personnelles, transformant chaque individu en une somme de comportements mesurables et quantifiables. À titre d’exemple, chaque minute, 251,1 millions d’emails sont envoyés et près de 5,9 millions de recherches Google sont effectuées, selon une étude.

Outre la dimension technologique, cette volonté de contrôle peut aussi s’expliquer par la peur du manque. En effet, face à la pénurie des ressources (emplois stables, logements abordables, aides sociales…), le scoring devient un outil de tri, permettant de distinguer ceux qui « méritent » d’y accéder de ceux qui en seraient jugés « indignes ».

À cela s’ajoute un contexte de défiance croissante. Défiance des États envers leurs citoyens dans un contexte de montée des fraudes et des inégalités, défiance des entreprises envers leurs employés dans un monde du travail en pleine mutation, défiance des plateformes envers leurs utilisateurs…

Dans un modèle néolibéral fondé sur la concurrence et la responsabilisation individuelle, la méfiance devient un principe de gouvernance à part entière. Puisque chaque individu est réputé n’agir que dans son propre intérêt, la notation et le contrôle apparaissent comme des instruments nécessaires pour maintenir l’ordre social, forcer le respect des engagements et limiter les comportements jugés opportunistes.

Or, ce sont souvent les mêmes politiques économiques qui, en creusant les inégalités et en fragilisant les plus vulnérables, créent les conditions mêmes qui justifient ensuite un renforcement de la surveillance.

La Sécurité Économique et Sociale (SES) : l’anti-crédit social

Et si la réponse n’était pas plus de surveillance, mais moins de précarité ?

À rebours du système de crédit social à la chinoise, le projet de loi de Sécurité Économique et Sociale (SES) propose un tout nouveau modèle économique, fondé avant tout sur la confiance, la transparence, la solidarité et l’égalité.

L’idée est la suivante : prélever une fraction de la richesse générée par les entreprises afin de la redistribuer de manière équitable à l’ensemble des acteurs économiques (travailleurs indépendants, micro-entreprises, PME, ETI et grands groupes) sous la forme d’une allocation mensuelle fixe par emploi équivalent temps plein.

Cette allocation serait donc financée exclusivement par les entreprises, via une contribution basée sur la richesse produite, sans faire appel aux finances publiques ni alourdir la fiscalité des ménages.

Là où le crédit social conditionne l’accès aux droits à la « bonne conduite » (en sous-texte : « comporte-toi bien, et tu pourras accéder aux ressources »), la SES part d’un postulat radicalement opposé selon lequel chaque individu qui participe à la vie économique et sociale d’une collectivité est, par définition, légitime à en recevoir une part équitable. Et ce, quels que soient son âge, son statut, sa situation familiale, son métier, son secteur d’activité et son niveau de qualification.

Autrement dit, la sécurité économique d’un individu n’est plus une récompense liée au mérite, mais un droit inconditionnel et universel.

Ce faisant, la SES libère l’individu de la pression de survie immédiate et de l’angoisse du manque (se loger, se nourrir, rembourser ses dettes…) qui, comme on l’a vu, est précisément à l’origine des comportements que les systèmes de scoring cherchent à surveiller et sanctionner. En réduisant ainsi les inégalités à la source et en garantissant à chaque travailleur un socle économique stable et inconditionnel, la SES recrée les conditions d’une société apaisée, où la notation punitive perd sa raison d’être.

En définitive, le crédit social, qu’il soit officiellement assumé comme en Chine ou silencieusement normalisé comme en Occident, apparaît comme la réponse technocratique d’une société dominée par la méfiance et les inégalités. La Sécurité Économique et Sociale propose, à contre-courant du modèle chinois, une réponse humaniste et démocratique, qui choisit d’utiliser l’économie pour libérer et émanciper les individus plutôt que pour les asservir.

Si vous croyez, comme nous, que notre société ne doit pas reposer sur la surveillance des individus mais sur la sécurité économique pour tous, la confiance mutuelle et le respect de la dignité de chacun, soutenez notre projet en adhérant à l’ALSES.

Sources :

• Stanford Center on China’s Economy and Institutions
• Mercator Institute for China Studies
• IRSEM (Institut de Recherche Stratégique de l’École Militaire)
• « China ‘social credit’: Beijing sets up huge system » – BBC
• « En Chine, un incroyable «Big Brother» pour trier les bons et les mauvais citoyens » – Le Figaro
• « Microsoft productivity score feature criticised as workplace surveillance » – The Guardian
• Des outils de Microsoft mesurent “le score de productivité” de chaque employé – France Info
• How Amazon automatically tracks and fires warehouse workers for ‘productivity’ – The Verge