Sociální kontrola 4.0


Čínský digitální systém sociálních kreditů funguje s formou gamifikované kontroly, která uživatelům odměňuje, když získávají body za chování uvnitř i vně sítě. Do roku 2020 čínské orgány plánují zřízení celostátního systému. Západní komentátoři reagují s odporem, ale jsou naše vlastní sociální média opravdu mnohem lepší?

avatar
Kúhnreich je státní vědec a sinolog. Původně psaný v němčině.
E-mail: kuehnreich@posteo.de
Publikováno: 1. listopadu 2018

Zatímco čínské geopolitické ambice přitahují většinu světové pozornosti, domácí politika Komunistické strany Číny (CCP) je relativně bez povšimnutí. sociální kontrola po celé zemi.

Prostřednictvím systémů sociálních úvěrů (SKS) - některé z nich již jsou aktivní - je cílem vytvořit skóre pro každého čínského občana podle jeho chování. Pro jejich výpočet se shromažďuje obrovské množství údajů: platební postupy, svitky, nákupní zvyky, vyhledávání na internetu a zprávy, jakož i obecné sociální chování. Shoda vede k odměnám, jako jsou dobré úvěrové podmínky, propagace a zkrácená doba zpracování při bezpečnostních kontrolách. Naopak nežádoucí chování může vést k potrestání. SKS mají přístup k řadě soukromých a státních databází.

Systémy digitálního bodování

V roce 2014 umožnila ústřední protistrana osmi soukromým poskytovatelům služeb vyvinout vlastní systémy digitálního bodování. Všechny systémy používají algoritmy a umělou inteligenci (AI) pro výpočet bodů a umístění pomocí automatizovaných procesů. Současně ČKS začala instalovat systémy bodování ve vybraných „speciálních zónách“. Když se SCS stane v Číně v průběhu několika let povinným, má se za to, že všichni čínští občané, stejně jako společnosti, by měli mít přístup ke svému vlastnímu centralizovanému účtu, kde jsou uložena jejich skóre. ČKS propaguje SKS jako milník na cestě k „socialistické harmonické společnosti“. Oficiální bodové systémy mají modernizovat správu a podporovat důvěru ve společnost, jakož i mezi orgány, obyvatelstvem a ekonomikou. Inherentní potenciál systémů však může vést k tomu, že budou vnímány jako prostředky sociální kontroly. Jen v roce 2014 - v prvním roce SKS - došlo v Číně k asi 90 000 nepokojům, které byly oficiálně označeny jako „hromadné události“ - což dává průměrně 250 denně. Od té doby se čísla pouze zvýšila.

Prostředky sociální kontroly

Při řešení tohoto chaosu čerpá Čína ze své tisícileté historie centralizace státu a byrokracie. Kontrolní systémy legitimizované konfucianismem byly částečně přeneseny do leninistické organizace lidové republiky. Jednalo se o Hukou - systém registrace domácnosti a jejich zápis do sociálních jednotek známých jako Danwei - kde každá jednotka sledovala své členy a zaznamenávala informace do politických protokolů (Dang'an). Tyto struktury určovaly povýšení, členství ve stranách a dokonce i manželství. Po smrti Mao Zedonga se některé z těchto systémů sociální kontroly staly méně důležitými kvůli politickým změnám během reformního období. Stejně tak se státní propaganda stala důležitější po roce 1989. S SCS vstupuje Čína do nové fáze politiky kontroly a dohledu, kde ČKS kombinuje potenciál metod analogového a digitálního dohledu, propagandy a subtilních forem disciplíny. Vývoj internetových i mobilních technologií, jako jsou chytré telefony a integrované technologie - chytré hodinky a brýle - poskytl nové nástroje pro sledování bezpečnosti a dopadu a oddělení propagandy.

Zároveň ČKS těží z charakteristické povahy čínského internetu. Web nejen podléhá přísné regulaci; Přístup na internet je omezen „čínským firewallem“. Interně je „zlatý štít“ nejdůležitějším prostředkem sledování online aktivity. Důležitou součástí je „Veřejná informační agentura a monitorování bezpečnosti sítí“, která je v krátké podobě často označována jako „agentura pro monitorování sítí“. Existuje také řada dalších vládních ministerstev, ministerstev a orgánů odpovědných za sledování sítě. Spolu s řadou speciálně vyškolených policistů a inspektorů soukromého sektoru jsou systémy umělé inteligence používány k vlečení internetu pro jakékoli prohlášení kritické pro režim. Kromě toho je na online fórech aktivní celá armáda komentátorů založených na režimu, která je známá jako „padesátiletá strana“ (五毛 党). Jsou obviněni ze snahy ovlivnit veřejnou debatu na podporu ČKS.

Špehování se pohybuje od hodnocení úvěrových informací po vyšetřování
chování spotřebitelů prostřednictvím věrnostních programů a od půjčení jízdních kol a aut po platformy politických kampaní.

Čínští online giganti: Baidu, Alibaba og Tencent, Od doby, kdy byl internet vytvořen, vnímala ČKS jako formu komunikace, kterou je třeba kontrolovat. Cílem státní cenzury však není zcela potlačit kritické komentáře k režimu. Čínská komunistická strana se spíše snaží zabránit uskutečnění rozsáhlých kolektivních kampaní. Současně, stejně jako u cenzury obecně, lze mnohé čínské kontrolní opatření obejít, alespoň částečně. Čína je zde tedy relativně heterogenní krajina online. Tato krajina je stejně úplně odlišná od toho, co máme na Západě. Vzhledem k tomu, že čínský web je z velké části odříznut od World Wide Web, není dominován ani americkými webovými giganty. Místo toho se vytvořily výrazné komerční struktury. Tři největší společnosti - Baidu, Alibaba a Tencen - jsou známé jako BAT. Poskytují nejen infrastrukturu pro systémy sociální kontroly, ale jsou také v popředí vývoje umělé inteligence na celém světě.

Všechny tři společnosti mají přístup k obrovským datovým rezervám. Vyhledávací modul obří Baidu také odpovídá za provoz největší čínské slovníku a platební služby Baidu Pay. Alibaba, společnost známá na Západě pod názvem „AliExpress“, je zase hlavním hráčem v čínském online prodeji. Poskytuje také oblíbenou platformu Taobao Wang, která využívá odhadem 470 milionů lidí měsíčně. Kromě toho Alibaba sedí na zhruba třetině nejoblíbenější čínské mikroblogovací platformy Sina Weibo, kterou používá asi 380 milionů lidí měsíčně. Skupina finančních služeb společnosti zahrnuje také systém sociálních úvěrů Sesame Credit a oblíbenou platební aplikaci Alipay. V loňském roce skupina Alibaba vykázala tržby přibližně 8,3 miliardy USD. Od roku 2016 je také vlastníkem hongkongských novin South China Morning Post.

Třetí společnost ve skupině, Téngxùn, je na Západě známa jako Tencent. Mezi hráči je to už roky známé jméno mimo Čínu kvůli jejich podílu ve společnostech videoher. Tencent také drží podíly na celosvětově populárním sociálním médiu snapchat, což je mnohem méně známé. Dalšími službami jsou QQ a WeChat: S téměř 900 miliony aktivních uživatelů je QQ nejpopulárnější službou zasílání zpráv v Číně, zatímco WeChat je služba zasílání zpráv pomocí smartphonu, která oslovuje zhruba miliardu lidí na celém světě. Díky funkci WeChat Pay se WeChat stává také platební aplikací používanou v celé Číně.

(Meta) data a další digitální stopy

Pro čínské uživatele internetu jsou tyto služby součástí každodenního života. Přibližně 95 procent uživatelů je online buď prostřednictvím mobilních zařízení, někteří také s počítačem. Stejně jako ostatní uživatelé webu zanechávají velké množství digitálních stop - osobních údajů a údajů o svých online zvyklostech - které jsou poté shromažďovány a vyhodnocovány jak státními, tak komerčními aktéry, kteří pak mohou identifikovat, kategorizovat a klasifikovat různé uživatele. Tato data tvoří základ pro výpočet SKS a skóre. Bodování se provádí pomocí algoritmů a umělé inteligence - procesu, který není pro uživatele viditelný. Digitální systémy mají dvě další funkce, které jsou zvláště důležité pro systémy sociální kontroly: Na jedné straně lze uložená data zkopírovat a prodat nekonečně mnohokrát; na druhé straně digitální systémy nikdy nezapomenou. Čínské SKS-hybridní systémy navíc vytvářejí: Do hodnocení začleňují digitální a analogová data, jinými slovy zaznamenávají nejen online chování, ale také to, co se dělá offline. To je umožněno zvýšeným využitím „inteligentních“ kamer, které rozpoznávají tváře ve veřejných prostorách. Integrace analogového a digitálního monitorování je zvláště pokročilá v převážně muslimské provincii Sin-ťiang, kde je také počet „hromadných incidentů“ pozoruhodně vysoký.

Alibabas Sezamový kredit

Systém Alesaba Sesame Credit je dobrým příkladem výpočtu bodů. Stejně jako západní společnosti i Alibaba filtruje obrovské množství dat od uživatelů, protože služby SoMe poskytují informace o jejich náladách, preferencích a kdo je s nimi „přátelé“. Údaje o objednávce produktů a interakce s různými webovými reklamami jsou také detailně zachyceny. Neméně důležité jsou platební procesy a vyhledávání na internetu, které jsou podporovány navštívenými metadaty a dynamickými daty. Výpočet skóre se pak provádí v pěti oblastech: kreditní historie uživatele, jeho likvidita, osobní údaje, zvyky a chování a kontakty SoMe. Nejnižší skóre v systému Sesame Credit je 350 a maximum je 950. Dnešní skóre odměňuje nákupy produktů Alibaba obzvláště vysoké.

Kontrolní systémy legitimizované konfucianismem byly částečně přeneseny do leninismu
organizace lidové republiky.

Systém Alesaba Sesame Credit je podobný bonusovým programům, jako je věrnostní karta Payback v Německu. Registrací v této službě a umožněním registrace, použití a prodeje osobních údajů získávají uživatelé výhody, které se zvyšují s jejich úrovní v bodovém systému. V systému Sesame Credit mohou uživatelé v určitém okamžiku požádat o okamžité půjčky nebo úvěrové produkty, aniž by museli platit zálohu.

Výhody lze využít i v oblastech souvisejících s bezpečností. Po určitém hodnocení je rychlejší projít bezpečnostní kontrolou na letištích. Existují také výhody, které platí za hranicemi Číny: Singapurské a lucemburské velvyslanectví v roce 2015 nabídly zjednodušené vízové ​​podmínky pro čínské občany, kteří dosáhli určitého počtu bodů. Pro výpočet tohoto všeho pracuje systém Sesame Credit s velkým počtem komerčních a veřejných databází. Od roku 2015 zahrnuje také největší čínskou seznamovací službu Baihe, která obsahuje citlivé informace o odhadovaných 90 milionech lidí. Systém Sesame Credit také zahrnuje databáze z čínských soudních síní - s hlavními důsledky pro ty odsouzené, kteří musí najít další omezení. Důsledky toho jsou patrné z jednoho z posledních úsporných opatření: Od 1. května 2018 lze občanům na černé listině úřadů zabránit v cestování vlakem nebo letadlem po dobu až jednoho roku. Sankce již byly možné - byť mírnější: V březnu loňského roku Komise pro rozvoj a reformu odhalila, že více než 9 milionům lidí bylo zakázáno veškerou leteckou dopravu, zatímco přes tři miliony nebylo povoleno kupovat jízdenky první třídy kvůli negativním uloženým informacím. , Mezi postiženými jsou lidé, kteří zveřejnili nepravdivé informace o terorismu - obvinění, o kterém je známo, že je po celém světě interpretováno velmi rozšířitelným způsobem.

Hravé sledování: princip gamifikace

Zbývá vidět, jak rozšířené systémy sociální kontroly budou v roce 2020, kdy se ústřední protistrana dohodne na jejich zavedení na celostátní úrovni. Na Západě jsou již srovnávány se dvěma klasickými principy disciplinárních a trestních systémů: Benthamův panopticon - zejména interpretovaný Michelem Foucaultem - a dystopie George Orwella v roce 1984. Taková srovnání však nezachytávají plný rozsah SCS. Čínský systém bodování je forma technologického monitorování, které zahrnuje obchodní a státní aktéry na stejném základě.

Ve stejné době a na rozdíl od Orwellova „velkého bratra“ jsou obvykle navrženy jako interaktivní hry, a proto nabízejí mnohem větší svobodu jednání a aktivní účast sledovaných. Klíčovou roli hraje technika známá jako „gamifikace“, která je rozhodující při vývoji počítačových her. Cílem je udržet pozornost publika tak dlouho, jak je to možné, a zároveň rozvíjet osobu tak, aby si ke hře vytvořila pozitivní pocity. Dnes se gamifikace používá téměř ve všech oblastech společnosti - včetně armády, správy a marketingu. SKS motivuje uživatele nejen prostřednictvím žebříčku, ale také prostřednictvím různých úrovní, propagací a „mini-her“. Skóre umožňuje lidem srovnávat se s ostatními, což je povzbuzuje ke zvyšování vlastního skóre. I příležitost získat malé odměny povzbuzuje lidi k účasti - efekt, který zjevně pomáhá zviditelnit programy výhod a členské karty mezi západními spotřebiteli. Nábor je efekt sněhové koule: Jakmile jsou uživatelé zaregistrováni, uživatelé inzerují produkt ve svém vlastním kruhu, a tak do systému nalákají více zákazníků. Služby tak uspějí nejen v získání velkého podílu na trhu, ale nakonec také jako monopoly.

Na východě a na západě: síť pod dohledem

Ačkoli různé formy hravého dohledu zdaleka nejsou čínským zvláštním případem, lidé na Západě obvykle reagují se znepokojením, když slyší o čínských systémech sociální kontroly. To svědčí nejen o tom, jak západní předsudky o Číně stále hrají, ale také o tom, jak se v této části světa přijímají nekritické procesy digitalizace. Západní diskurzy jsou až příliš často slepé k tomu, že většina internetu je již komerčně využívána. Je to místo, kde společnosti shromažďují a hodnotí obrovské množství dat za účelem vytváření a prodeje uživatelských profilů. Toto špehování sahá od hodnocení informací o úvěru po průzkumy chování spotřebitelů prostřednictvím věrnostních programů a od půjčení jízdních kol a aut po platformy politických kampaní, jako je Change.org.

Komise pro rozvoj a reformu odhalila, že přes veškerou leteckou dopravu bylo zakázáno více než devět milionů lidí, zatímco přes tři miliony nemohly koupit jízdenky na vlak první třídy kvůli negativním uloženým informacím.

Také na Západě toto nepřetržité srovnání a hodnocení vede k rozpadu soukromé sféry, kromě kultury konformity v soukromé sféře a tendenci, aby lidé byli opatrní při vytváření tření v pracovním světě. V důsledku toho narůstá hrozba „sociálního ztužení“, což znesnadňuje odolávat nespravedlnosti a sociální nerovnosti. Tento trend podpořila rozšířená mylná představa, že data a zejména algoritmy jsou většinou neutrální - přestože počítačové programy jsou psány lidmi, kteří mají vlastní osobní přesvědčení a jsou samozřejmě také omylní. Navíc k tomu přichází skutečnost, že směr digitalizace se snaží prosadit především společnosti a státy. Ačkoli úřady, na rozdíl od soukromých společností, musí být teoreticky odpovědné vůči občanům, nedávno jsme díky Snowdenovým únikům zjistili, že západní státy mají stejně hlad po datech jako autoritářské režimy. V této souvislosti se nezměnilo ani pětileté období po skandálu NSA. Naopak, státní dozor se stal ještě více rozšířeným - v neposlední řadě díky spolupráci mezi orgány a soukromým sektorem.

Pro jednotlivce je ochrana před hromadným dohledem stále obtížnější - zejména proto, že stále méně víme o „chytrých“ zařízeních, která denně používáme, ao používaných manipulačních technikách. Málokdo ví, jaké datové stopy zůstávají, když surfujeme na webu bez ochrany, nemluvě o podrobných závěrech, které lze vyvodit, pokud jde o naše osobní myšlenky a touhy. Nejsme si tedy plně vědomi rozsahu, v jakém je soukromá sféra již v plném rozlišení. Šifrovací a anonymizační služby poskytují určitou ochranu, ale nejsou definitivní odpovědí na technologické a digitální změny, které mění naši společnost pro dobro a zlo. Kromě čistých krádeží dat představují databáze další podceňované nebezpečí. Státy a korporace mohou být rozpuštěny, ale digitální informace zůstávají nedotčeny. Nemůžeme předvídat, jaké závěry budou budoucí úřady nebo společnosti a jejich vůdci vyvodit ze svých databází nebo z jakých údajů a kategorií budeme posuzováni.

Čínská SKS tedy klade otázku, jak obrovské množství údajů o nás se shromažďuje, přenáší, vyhodnocuje a prodává. Jaký druh společnosti povede hromadný dohled? A co můžeme udělat, abychom tomu zabránili? Jedna věc je jasná: Data jsou síla. Je to síla, kterou nemůžeme ve fyzickém světě cítit, a proto je síla založená na informacích, jako je radioaktivní záření, nebezpečím, které vnímáme pouze nejasně. Na globální úrovni je tedy čas zabývat se otázkou, jak se v digitální éře mění moc a manipulace. Důsledky nás nutí klást nové otázky týkající se moci a legitimity, soukromí, svobody a dobrého života - a rozhodnout se, zda chceme zůstat pasivními uživateli nebo se aktivně zapojit do navrhování systémů, které ovlivňují náš život.

Přeložil Anders Dunker přes angličtinu. Poprvé publikováno v Blätter für deutsche und International Politics 7/2018 (německá verze). Příspěvky k příspěvkům pro německou a mezinárodní politiku © Katika Kühnreich / Listy pro německou a mezinárodní politiku / Eurozine

Předplatné 195 NOK