China gaat tegen 2020 een sociale betrouwbaarheidsranglijst voor burgers creëren

Voor het eerst geschetst in 2014, toen het document “Planningsschema voor de bouw van een sociaal kredietsysteem“, het systeem voor het bouwen van een sociale vertrouwensrangschikking door China is nog in de implementatiefase en zou in 2020 verplicht moeten worden.

Het idee is om een big data-systeem die, op basis van op het netwerk verzamelde informatie over burgers, een merk op dat mensen worden geclassificeerd. 

Het vliegtuig galmt langs de boekenplanken waar de beste dystopische klassiekers als “1984"En"Bewonderenswaardige nieuwe wereld” Houd goede voorbeelden van hoe een samenleving met dit systeem van waardering sociaal.

Een andere preview werd ook gegeven door de serie Zwarte spiegel. Fans herinneren zich zeker één aflevering in het bijzonder: Duikvlucht. In het verhaal, de hoofdpersoon Lacie pond (Bryce Dallas Howard) komt door haar 'rating' in een spiraal van angst en sociale druk terecht waardoor ze in de meest uiteenlopende situaties van paranoia terechtkomt, totdat ze achter de tralies belandt.

In de aflevering zijn de relaties met de huidige samenleving subtiel en expliciet tegelijk. Cruciaal is dat de aflevering de mogelijkheid van een "Orwelliaanse" wereld aan het licht brengt. Als Black Mirror op sommige momenten fictie lijkt, is de flirt met de huidige realiteit op andere momenten direct, en een duidelijk voorbeeld is de China's sociale kredietsysteem in kwestie, gepland voor 2020.

Sesamkrediet - het persoonlijke kredietsysteem van China

Vooruitlopend op de officiële goedkeuring in 2020, volgt de Chinese overheid de strategie van observeren, testen en leren. Momenteel, acht Chinese bedrijven hebben systemen en algoritmen die mensen indelen op basis van hun 'sociale krediet'. Het is niet verwonderlijk dat twee reuzen van de Chinese technologie-industrie de twee belangrijkste systemen beheren.

Misschien wel de bekendste, de Sesam tegoed, staat onder controle van Ant Financiële Dienstengroep, een gelieerde onderneming van online verkoopgigant Alibaba. Het andere hoofdinitiatief wordt geleid door Snelle financiering in China, partner van het Chinese sociale netwerk Tencent en maker van WeChat, berichten-app met meer dan 850 miljoen gebruikers.

Met name Sesame Credit wordt ook ondersteund door andere dataplatforms zoals Didi Chuxing, dat kocht de lokale operatie van Uber, en Baihe, de grootste online datingservice van China. Al deze platforms leveren gegevens voor Sesame om burgers te verwerken en te beoordelen.

Voorlopig is deelname aan het sociaal kredietsysteem vrijwillig. Maar vanaf 2020 is het verplicht.

Hoe werkt het classificatiesysteem voor sociale betrouwbaarheid?

Dus hoe worden mensen geclassificeerd en geëvalueerd? Op Sesame Credit worden mensen gerangschikt volgens a cijfer variërend van 350 tot 950 punten. De exacte manier waarop het cijfer wordt berekend is niet bekend, aangezien het algoritme niet openbaar is. Alibaba heeft echter de top 5 van factoren onthuld die door het systeem zijn beoordeeld. Zijn zij:

• Financiële historie (betaalt de burger de rekeningen op tijd?);
• het vermogen van de gebruiker om contractuele verplichtingen na te komen;
• Persoonlijke karaktertrekken;
• Gedrag en voorkeuren (misschien wel de meest controversiële van allemaal);
• Interpersoonlijke relatie;

Als je erover nadenkt, worden financiële geschiedenis en contractuele verplichtingen al geëvalueerd in datasystemen in de meeste westerse landen. Er is bijvoorbeeld geen gebrek aan zwarte lijsten van wanbetalers. Waaronder de beroemde kredietrating-indexen van ratingbureaus (zoals Fitch en Mody's), die het risico van beleggen in bepaalde bedrijven en landen rangschikken.

Het belangrijkste punt is binnen classificatie van voorkeuren, gedrag en persoonlijke kenmerken. Het geven van een officiële score aan deze factoren raakt een zeer gevoelige plek. Met dit soort systeem kunnen triviale dingen zoals winkelen en eetgewoonten, tijd besteed aan het spelen van videogames of in de sportschool, worden gebruikt om iemands karakter te classificeren.

Kortom, het is geen systeem dat alleen gedragingen classificeert, maar intrinsiek bepaalde gedragingen/kenmerken modelleert en onderschrijft ten nadele van andere.

Een duidelijk voorbeeld is de analyse van interpersoonlijke relaties. Een interessant punt van Sesame Credit is dat het de gebruiker tips geeft over hoe hij zijn score kan verhogen, bijvoorbeeld waarschuwingen over mensen op sociale netwerken wiens vriendschap ertoe kan leiden dat het cijfer wordt verlaagd.

Kan de Orwelliaanse samenleving uitkomen?

In zekere zin is de waarheid dat we al in een wereld leven Orwelliaans in die zin dat de Leviathans van de digitale wereld (Google, Facebook, Twitter, Amazon, etc.) informatie systematisch en efficiënt verzamelen en volgen.

De nieuwigheid in het Chinese model is het feit dat, voor het eerst wordt persoonlijke levensinformatie gebruikt om een ​​notitie te maken, een enkel nummer dat een stempel drukt op reputatie en sociale betrouwbaarheid.

George Orwell had het in '1984' niet over big data en kunstmatige intelligentie, maar het bewakings- en classificatiemodel van de klassieker weerspiegelt zeker het Chinese sociale kredietsysteem.

De grote zorg met het Chinese plan is dat de classificatie van burgers een vorm van ideologische standaardisatie en controlemiddel. Aangezien de criteria zijn opgesteld door een selecte groep bureaucraten van de enige politieke partij in het land, is het immers zeer onwaarschijnlijk dat de sociale betrouwbaarheidsranglijst niet aansluit bij de belangen van deze groep. Dit alles om nog maar te zwijgen van de mogelijkheid van manipulatie door systeembeheerders.

Bron: Bedraad

Meer informatie over het sociale kredietsysteem van China:

• China zal persoonlijke gegevens gebruiken om burgers en bedrijven te catalogiseren – El Pais;
• China's nieuwe sociale kredietsysteem - de diplomaat;
• China 'sociaal krediet': Beijing zet enorm systeem op - BBC;
• China gooit het roer om met plan voor 'sociaal krediet' – Financial Times;
• Planningsschema voor de opbouw van een sociaal kredietsysteem (2014-2020);
• Lees George Orwell;