Social Credit System (SCS)

« Notre Social Credit System (système de crédit social SCS) a permis d’interdire 11 millions de voyages en avion et 4 milllions en train » indique le gouvernement chinois.  Je suis tombé par hasard sur cet  inquiétant sujet en lisant cette brève. En 2020 chaque citoyen chinois se verra attribuer une note sociale ou un score social qui évoluera en fonction de son comportement notamment à travers la collecte et l’analyse de ses datas numériques. Avec le social credit system chinois, Big Brother is scoring you. Impensable dans nos démocraties occidentales. Pas si sûr! L’application Sesame Credit attribue d’ores et déjà une note sociale à 200 millions de Chinois, a été développée par … une société privée filiale du géant Alibaba.

SOCIAL CREDIT SYSTEM OU LA GAMIFICATION DE VOTRE VIE

Gamification : le terme de gamification est un néologisme de langue anglaise qui désigne le fait de reprendre des mécaniques et signaux propres aux jeux, et notamment aux jeux vidéos, pour des actions ou applications qui ne sont pas à l’origine des jeux.

Social credit system : littéralement système de crédit social (en utilisant le mot crédit pas au sens financier mais dans son sens accorder du crédit à quelqu’un). On pourrait le traduire par système d’évaluation de la réputation sociale. Dans un tel système, un citoyen se voit attribuée une note dite « crédit social » .

La chercheuse Katika Kühnreich introduit ainsi sa conférence sur le SCS. « Imaginez que vous pouvez jouer toute la journée, que chaque action du quotidien vous donne des points. Vous pourriez vous amuser à battre à votre propre score, celui de vos proches. Et puis vous pouvez gagner des récompenses en améliorant votre score. Mais je vous recommande de faire attention car ce jeu c’est votre vie. Et vous ne faites pas que gagner des points, vous pouvez aussi avoir des pénalités. Voulez-vous vraiment que votre vie devienne un jeu dont l’élaboration des règles s’est faite sans vous. Ce problème de la notation sociale n’est pas seulement un sujet chinois. Il nous concerne tous ». J’ai été particulièrement interpellé par cette introduction qui pose les enjeux du SCS avec beaucoup de justesse.

LA BOULIMIE CHINOISE DU E-COMMERCE

Partons maintenant pour l’Empire du Milieu. Les Chinois se sont appropriés avec gourmandise les outils numériques. 700 millions d’internautes, plus de 400 millions de smartphones vendus chaque année, les Chinois passent en moyenne plus de 3 heures par jour sur leur téléphone se classant à la deuxième place mondiale. Les chinois ont leurs GAFA à eux les BAT aussi gros et puissants : Baidu « le Google chinois » avec son moteur de recherche et son service de géolocalisation, Alibaba « l’Amazon chinois », Tencent leader mondial du jeu vidéo et sa messagerie instantanée Wechat aux 900 millions d’utilisateurs mensuels.

Ces sociétés se livrent une concurrence féroce pour satisfaire la boulimie consommatrice des internautes chinois. On peut tout acheter et payer depuis son smartphone grâce aux écosystèmes complets développés par Alibaba et Tencent intégrant réseaux sociaux, sites de E-commerce et paiement via smartphone. La Chine est ainsi le pays le plus en pointe du monde en termes d’expérience de shopping depuis un mobile. Alibaba et Tencent contrôlent à eux deux 85% de ce E-commerce.

SESAME CREDIT /ZHIMA CREDIT : DU E-COMMERCE AU SOCIAL CREDIT SYSTEM

Qui dit E-commerce dit paiement. Qui dit paiement dit crédit. L’écosystème E-commerce d’Alibaba inclut toutes ces fonctionnalités : vous achetez sur Aliexpress, vous payez avec Alipay et Alibaba peut vous proposer des prêts avec sa filiale Ant Financial Services. En 2015, Alibaba a lancé Sesame Credit un système de notation  attribuant à chaque consommateur un score entre 300 et 800 points en fonction de son comportement social. Mais il ne s’agit pas d’un simple « credit score » comme le pratiquent de nombreuses sociétés américaines mais d’une véritable notation sociale s’appuyant sur des critères beaucoup plus larges.

Rentrons maintenant dans le jeu. Comment faire monter son Sesame Credit score? De manière assez classique, vos revenus et votre comportement payeur ont une influence forte sur le modèle. Mais votre mode de vie est également jugé à travers l’analyse de toutes les datas que vous laissez à Alibaba par vos achats ou sur les réseaux sociaux. Vous jouez trop aux jeux vidéo, votre score baisse. Puis vous achetez des couches, votre score monte. Vous achetez sur Alibaba des produits chinois, votre score monte. Après vous craquez pour le dernier smartphone japonais pour écouter de la K-pop, votre score baisse. Vous traversez au feu rouge devant une caméra de reconnaissance faciale, votre score baisse. Enfin vous faites sur les réseaux sociaux des posts favorables au gouvernement, votre score monte…. Vous payez vos amendes en retard, votre score baisse grâce à une connexion à la base de données des tribunaux….

ALIBABA UN ÉCOSYSTÈME COMPLET

Plus grave, l’éco-système d’Alibaba inclut une analyse de vos contacts sur les réseaux sociaux. Alibaba partage votre score avec vos contacts et vice-versa. La compétition peut démarrer. Vous avez des contacts avec des bas scores, votre score baisse. Le système vous incite donc à couper le lien avec les personnes jugées peu dignes de confiance par le système. Malheur aux faibles scores, ils verront leurs réseaux sociaux s’évaporer.

Le système Sesame Credit n’est pas obligatoire mais un score élevé vous ouvrira de nombreuses portes (d’où le nom Sesame, ils sont trop forts ces chinois!!!) : facilités de crédit, accès aux systèmes de vélo en libre-service dans les rues, caution bancaire limitée pour louer une voiture ou un appartement, facilité pour la délivrance d’un visa pour voyager à l’étranger…. La frénésie de consommation en Chine est telle que les Chinois ont adopté ce système sans broncher. Vous cherchez à rencontrer l’âme soeur sur Baihe le principal site de rencontre chinois. On vous demandera désormais votre Sesame credit score avant votre photo.

2020 UNE NOTATION SOCIALE POUR TOUS LES CHINOIS

L’état chinois a annoncé une généralisation à tous les citoyens d’un social credit system pour 2020. Nul ne connaît les détails de son mode de fonctionnement mais l’objectif affiché est clair : « ruiner les personnes discréditées socialement » suivant le slogan « once untrustworthy, always restricted ». Les chiffres publiés officiellement sur l’interdiction de prendre les moyens de transport modernes liées suite à une mauvaise notation illustrent bien cette volonté. En officialisant la note sociale de chacun, le régime compte bien créer une forme moderne de bannissement des dissidents : un contrôle social par la gamification bien plus efficace et moins coûteux qu’une brutale répression policière.

Pour mettre en place son système, l’état chinois travaille en partenariat avec les BATX. Il pourra ainsi s’appuyer sur toute l’expertise en termes d’algorithme d’Alibaba et de Tellcent et capitaliser sur des expériences comme celle de Sesame Credit. Nul doute que cette « collaboration public-privé » aura permis de au régime de gagner de « précieuses » années dans la mise en oeuvre de son projet et de couvrir une étendue sans précédent de la vie des gens grâce aux big datas.

BIENTÔT UN SOCIAL CREDIT SYSTEM EN OCCIDENT?

Impensable chez nous, me direz-vous! C’est aussi ce que je croyais en commençant mes recherches sur le SCS. Je pensais écrire un article sur les risques de dérives totalitaires de l’état chinois permises par les nouvelles technologies. J’ai en fait découvert, avec Sesame Credit, un système développé et mis en oeuvre par une entreprise privée ressemblant aux GAFA et assez facilement accepté par la société chinoise. L’expérience récente a montré que la protection des données était loin d’être parfaite, y compris dans nos démocraties.

La mise en place de ce système a certes nécessité l’accord de l’Etat mais il n’y joue qu’un rôle secondaire. Aujourd’hui sur la toile, nous notons communément tous les jours produits comme services. Mais à travers le service, quand nous notons un chauffeur Uber, nous commençons à noter l’individu. Le terrain est glissant entre la notation des services et des individus.

Projetons-nous en 2020. Imaginons, scénario de fiction, une méga-fusion entre Amazon / Linkedin & Facebook pour faire face à la concurrence des BATX. Le nouveau groupe proposerait une notation sociale aux employeurs fondée sur l’analyse croisée des datas des 3 entreprises. Pour nous faire adhérer à cette notation sociale, elle offrirait des avantages commerciaux significatifs sur Amazon aux mieux notés.

COMME DANS BLACK MIRROR!!!

Pour voir ce qu’il se passerait ensuite, j’ai regardé le terrible épisode Nodesive de la série Black Mirror… Nous ne pourrons pas dire que nous ne savions pas. Nous avons déjà accepté l’utilisation commerciale sans retenue de nos données. Enfin, nous avons consenti sans broncher à ce que nos Iphones nous suivent à la trace. Nos sociétés occidentales sauraient-elles résister à la mise en place d’un tel jeu en apparence « so fun ».

BREAKING NEWS….. On m’annonce que la lecture de ce blog rapporterait un extra-bonus de 50 points au SCS car il a un impact immédiat sur le crédit que l’on peut accorder à un lecteur. Vous voulez remonter votre score. Vous savez ce qu’il vous reste à faire….

Mise à jour du 27/09/2018 : Linkedin donne une note sociale à ses utilisateurs

J’ai découvert par hasard que mon réseau social préféré Linkedin me note et me classe. J’ai un SSI de 56 sur 100 qui me classe parmi le top 3% de mon secteur et 28% de mon réseau. La méthode de calcul est pour le moins opaque. Pour l’ameliorer, le premier conseil est de s’abonner à Linkedin Sales Navigator!!! One peut pas dire que Linkedin mette fortement en avant qu’il nous note… en tout cas aujourd’hui. Le SSI de Linkedin deviendra-t’il demain un passage obligé des entretiens d’embauche?

Mise à jour du 24/11/2018 : le système de crédit social chinois sera opérationnel à Pékin en 2020

La ville de Pékin confirme la mise en place d’un programme de notation par points de ses 22 millions de citoyens et qui sera opérationnel d’ici fin 2020. Un pas de plus vers la mise en place d’un SCS national pour toute la Chine.

Mise à jour du 19/02/2019 : l’appli du parti qui permet de gagner des points

Le département de la propagande du comité central du parti communiste chinois a lancé depuis le 1er janvier une nouvelle application appelée « xuexi qiangguo » ce qui signifie « étudier pour rendre la Chine forte », mais également « étudier Xi, rendre le pays plus fort ». Ce portail déjà téléchargé plusieurs dizaines de millions de fois fonctionne selon le principe de la gamification. A chaque article lu ou chaque vidéo visionné, vous gagnez un point. Suit ensuite un quizz. Si vous répondez correctement, vous gagnez 10 points. Les points accumulés permettent de gagner des cadeaux. Un nouveau pas vers un social credit system généralisé et la dictature numérique.