Čínská hra se soukromím. Země se rozhodla bodovat své občany

Do roku 2020 by měl mít každý obyvatel Číny své sociální kreditní bodové hodnocení. Kontroverzní záměr by čínský stát nedokázal uskutečnit bez masivních investic do moderních technologií.

Čína vypracovává kreditní systém, který bude hodnotit občany. | na serveru Lidovky.cz | aktuální zprávy Čína vypracovává kreditní systém, který bude hodnotit občany. | foto: Richard Cortés, Česká pozice
Čína vypracovává kreditní systém, který bude hodnotit občany.

Investigativní čínský novinář Liou Chu, který kritizoval vládní představitele na sociálních sítích, byl před dvěma lety soudem uznán vinným za šíření fám a pomluv. Musel zaplatit pokutu a omluvit se. Tím ale případ neskončil. Loni byl označen za nedůvěryhodného a jeho jméno se ocitlo na černé listině, což zjistil, až když si chtěl koupit letenku. A neúspěšně.

Nejde o jedinou stopku pro Liou Chu – nemůže si pořídit nemovitost, jeho dceru nevezmou na prestižní školu. Stal se tak jedním z Číňanů se zkušeností se sociálním kreditním systémem. Dnes fungují jeho pilotní projekty, za dva roky má být dokončen národní systém.

Sledování na každém kroku

O vytvoření sociálního kreditního systému začali čínští představitelé hovořit v roce 2014. Cílem je, aby do roku 2020 získal každý občan Číny hodnocení na základě svého chování. To chce vláda monitorovat více než 170 miliony bezpečnostních kamer, umělou inteligencí, inteligentními brýlemi a technologií na rozeznávání obličejů. Výsledkem má být rozsáhlý dohledový stát, jenž dokáže sledovat všech téměř 1,4 miliardy Číňanů.

Kdo bude mít skóre příliš nízké, bude mít například problém sehnat letenku, pronajmout si dům, získat přístup k vysokorychlostnímu internetu, vzít si půjčku či se ucházet o manažerské posty. Děti nebudou přijaty na prestižní vysoké školy.

Bodové hodnocení jedince se bude sestavovat na základě jeho jednání v různých situacích. Přesná metodika zůstává tajemstvím. Celkové skóre však budou ovlivňovat všemožné přestupky – od špatného řízení auta a přecházení mimo přechod nebo na červenou přes kouření v nekuřáckých zónách, online zveřejňování falešných zpráv až po to, zda jedinec dává přednost dováženému zboží před tím vyrobeným v Číně nebo si pořizuje kvanta videoher. Hodnocení ovlivní také koníčky, interakce s přáteli a způsob života.

Kdo bude mít skóre příliš nízké, bude mít například problém sehnat letenku, pronajmout si dům, získat přístup k vysokorychlostnímu internetu, vzít si půjčku či se ucházet o manažerské posty. Děti nebudou přijaty na prestižní vysoké školy. Naopak jedinci s vysokým počtem bodů získají řadu benefitů, jako jsou slevy v internetových obchodech, lepší umístění v seznamce či kratší čekací lhůty na zákrok v nemocnici.

„Je to potenciálně zcela nová cesta, jak vláda řídí ekonomiku a společnost,“ citoval americký deník New York Times Martina Chorzempu, výzkumného pracovníka z washingtonského think tanku Peterson Institute for International Economics (Petersonův institut pro mezinárodní ekonomii, PIIE).

Hodnocení za důvěru

Bodové hodnocení jedinců není čínským „vynálezem“. Používají ho například finanční instituce v USA i v členských zemích Evropské unie při posuzování žádostí o úvěry. Čínský systém je však specifický rozšířením prakticky do všech sfér – ať jde o vymáhání smluv, zajištění bezpečnosti potravin, boj s korupcí či o ochranu životního prostředí.

„Zatímco na Západě může snaha vlády shromažďovat osobní údaje vyvolat obavy občanů, čínští lídři vidí v systému sociálních kreditů pokus získat důvěru a ujistit občany, že regulace se děje na základě dat, nikoliv z libovůle,“ konstatuje se ve studii China’s Social Credit System: A Mark of Progress or a Threat to Privacy? (Čínský sociální kreditní systém. Pokrok, nebo hrozba pro soukromí?), jejímiž autory jsou Martin Chorzempa, Paul Triolo a Samm Sacks z PIIE.

Ti jsou přesvědčeni, že bude-li vytvořen natolik komplexní kreditní systém, jak hovoří čínští politici, zásadně se změní vztah státu a ekonomiky a státu a jeho občanů. A důsledky budou patrné nejen v Číně, ale i v jiných zemích, v jejichž čele stojí autoritářští vůdci snažící se též dozorovat a monitorovat chování lidí.

Čínská vláda při propagaci kreditního systému tvrdí, že systém vnese větší transparentnost do společnosti, umožní dohlížet na ty u moci, zajistí regulaci ekonomiky díky nižšímu počtu přímých vládních intervencí a povzbudí lidi, aby se k sobě chovali lépe.

Čínská vláda při propagaci kreditního systému tvrdí, že systém vnese větší transparentnost do společnosti, umožní dohlížet na ty u moci, zajistí regulaci ekonomiky díky nižšímu počtu přímých vládních intervencí a povzbudí lidi, aby se k sobě chovali lépe. V prohlášení čínských politiků často zaznívají slova důvěra a důvěryhodnost. Nikoliv náhodou.

Záměr vytvořit sociální kreditní systém zmiňuje různé neduhy, za nimiž stojí nedostatek důvěry a důvěryhodnosti, ať jde o daňové úniky, nehody v továrnách, kontaminace potravin či užívání drog, podvody, plagiátorství v akademické sféře nebo padělky zboží. Vládní představitelé jsou přesvědčeni, že systém pomůže více globalizovat čínskou ekonomiku a bude znamenat konkurenční výhodu. Čínská vláda vidí v kreditním systému „všelék“ na ekonomické i společenské problémy.

Návrat ke Konfuciovi

Zatímco západní média plán všeobecného kreditního systému kritizují, přirovnávají jej k Orwellovu Velkému bratrovi a označují za šíleně sledovací, čínské vedení jej zdůvodňuje snahou o zajištění důvěry ve vládní záležitosti, soudnictví a v ekonomické transakce a o zlepšení vztahů ve společnosti. „Je to spíše výzva k přijetí tradiční konfuciánské morálky než vize správy prostřednictvím moderních technologií,“ uvádí zmíněná studie.

Slovo kredit, v čínštině sin-jung, je jádrem tradiční konfuciánské etiky. V původním kontextu je sin-jung morální koncepcí, jež vyjadřuje čestnost a důvěryhodnost. Když byl čínský filozof Konfucius před 2500 lety dotázán, co je třeba k dobrému vládnutí, odpověděl: „Dostatek potravy a zbraní a důvěra prostého lidu.“ Poté, co byl požádán, aby od jedné z věcí upustil, vzdal se zbraní a poté potravy, protože „od starodávna smrt je údělem všech, ale bez důvěry lid obstát nemůže“.

Čína zavedla hodnotící systém obyvatel v podstatě již za Mao Ce-tunga, tehdy však k tomu neměla moderní technologie. Na každého občana byla vedena osobní složka, čínsky tang-an. V dokumentech byly zaznamenány nejintimnější detaily o životě jednotlivce, zápisy aktualizovali učitelé, úředníci a zaměstnavatelé.

Čínský prezident Si Ťin-pching se na Konfucia a další čínské filozofy často odvolává. V roce 2013 navštívil historický Konfuciův chrám ve městě Čchü-fu ve východní Číně a Konfuciovo učení citoval v mnoha svých projevech. „Čínská kultura má unikátní filozofii, moudrost, přítomnost a grácii posilující nejniternější sebevědomí a hrdost čínských občanů a čínského lidu,“ řekl Si Ťin-pching před dvěma lety v projevu k více než třem tisícům čínských literátů a ke stálé komisi politbyra.

Čína zavedla hodnotící systém obyvatel v podstatě již za Mao Ce-tunga, tehdy však k tomu neměla moderní technologie. Na každého občana byla vedena osobní složka, čínsky tang-an. V dokumentech byly zaznamenány nejintimnější detaily o životě jednotlivce, zápisy aktualizovali učitelé, úředníci a zaměstnavatelé. Údaje na rozdíl od kreditního systému, který má být veřejně přístupný, byly k dispozici pouze určité skupině lidí. Negativní záznamy v osobní složce znamenaly, že dotyčný například nemohl získat lepší práci.

Ekonomické reformy v Číně snížily význam osobních složek, protože firmy při přijímání lidí začaly více sledovat, co jedinec skutečně umí než zápisy v nich. Od poloviny 90. let si absolventi vysokých škol ve většině čínských regionů mohou sami volit zaměstnání a od roku 2003 se při uzavírání manželství nevyžaduje souhlas pracovního úřadu. Systém tang-an je ale stále aktuální. Dle zápisu v těchto složkách se rozhoduje o udělení či neudělení pasu, pro určité úřednické posty se do nich nahlíží v případě povýšení.

Už se hodnotí

Čínská vláda sice stanovila, že kompletní kreditní systém začne fungovat až za dva roky, jeho fragmenty již „fungují“. Některé části řídí městské rady, jiná data pořizují soukromé technologické platformy. Privátní společnosti vyvinuly pro vládu chytré kamery, které pomáhají najít hledané kriminálníky. Sledují ale kohokoliv. Jakmile kamera zaznamená lidi, kola, auta či autobusy, dokáže je okamžitě identifikovat. Policisté v Pekingu nosí brýle, díky nimž rozpoznají obličeje lidí a spojí je s informacemi v databázích.

Letos na jaře zveřejnila čínská média na první pohled banální událost. Žena v jihočínském městě Šen-čen při cestě do práce přecházela mimo přechod. Dva dopravní policisté ji následně sdělili, že porušila dopravní předpisy Čínské lidové republiky. Dotyčná, která spěchala, se omluvila a doufala, že tím incident skončí. Jenže policisté požádali o její průkaz totožnosti. Ten však dotyčná zapomněla doma.

Letos v květnu začal fungovat pilotní kreditní systém v Pekingu. Je zaměřen především na podniky, které podvádějí. Ty, jež nesjednají nápravu, se ocitnou na černé listině. Systém již funguje také v letadlech a ve vysokorychlostních vlacích.

Policisté ji vyfotili mobilním telefonem s instalovanou technologií na rozpoznávání obličejů. Za pár vteřin měli k dispozici všechny informace – jak se dotyčná jmenuje, číslo jejího průkazu totožnosti i datum narození. V nedalekém kiosku vytiskl jeden z policistů dokument o vystavení pokuty QR kódem, kterou má „hříšnice“ zaplatit prostřednictvím aplikace WeChat, již spravuje privátní čínská společnost Tencent.

V Ujgurské autonomní oblasti Sin-ťiang používá Peking moderní technologie proti separatismu. V této oblasti, která je převážně muslimská, proběhla řada akcí proti čínské vládě. Je pravdou, že část Ujgurů sympatizuje s radikálními islamisty a bojovala například v Afghánistánu nebo v teroristické organizaci Islámský stát v Iráku a v Sýrii. Ani zdaleka se to však netýká většiny. Policisté mají v Sin-ťiangu k dispozici například kamery s vysokým rozlišením, technologii na rozpoznávání obličejů a dokážou také monitorovat zprávy na chytrých mobilních telefonech.

Letos v květnu začal fungovat pilotní kreditní systém v Pekingu. Je zaměřen především na podniky, které podvádějí. Ty, jež nesjednají nápravu, se ocitnou na černé listině. Systém již funguje také v letadlech a ve vysokorychlostních vlacích. Sleduje se chování cestujících – od malých přestupků až po vážné, kterými mohou být ohroženi ostatní cestující či personál. Singapurská televizní stanice Channel NewsAsia letos v březnu zveřejnila, že devíti milionům obyvatel Číny s nízkým skóre nebylo umožněno koupit si letenku na vnitrostátní letecký spoj a třem milionům jízdenku na vlak v byznysové třídě.

Inspirace v Singapuru a Izraeli

Vybudovat rozsáhlý národní kreditní systém by nebylo možné bez obrovských investic do moderních technologií včetně umělé inteligence. Loni téměř polovina globálních investic do startupů z oblasti umělé inteligence směřovala do Číny. O rok dříve, tedy v roce 2016, to přitom bylo o trochu více než jedenáct procent. Z toho profitují čínské firmy. Například společnost SenseTime se stala startupem z oblasti umělé inteligence s nejvyšší hodnotou na světě – okolo 4,5 miliardy dolarů.

Čínská vláda založila investiční fond rizikového kapitálu a masivně jej podporuje. Podle britského deníku The Financial Times v něm v roce 2016 bylo 353 miliard dolarů. „To je povzbuzení pro top fondy rizikového kapitálu. Dostanou se k vládním penězům, a tudíž stráví méně času získáváním finančních prostředků. Více času mohou věnovat budování velkých společností,“ citoval deník The Financial Times tchajwanského matadora IT byznysu Kai-Fu Lee, který působil ve vrcholných postech Applu, Microsoftu a Googlu. A dodal, že se Čína inspirovala postupy, které se osvědčily v Izraeli a v Singapuru.

Doba, kdy Čína pouze kopírovala západní technologie, skončila. Kai-Fu Lee tvrdí, že kopírování Číně pomohlo se posunout. Číňané se naučili, jak vyrábět produkty, a rychle se přesunuli do další fáze – inspirovali se americkými inovacemi a vyvinuli další funkce produktu.

Kai-Fu Lee připouští, že Čína ve srovnání se Spojenými státy americkými věnuje menší pozornost ochraně osobních dat a také se méně zabývá morálními otázkami. Důraz se klade především na výkon a cíle. Čína se netají globálními ambicemi. Již v roce 2016 její vedení oznámilo, že do roku 2020 hodlá Čína dohonit svět v technologiích spojených s umělou inteligencí a o deset let později se chce stát světovým centrem inovací umělé inteligence.

Kai-Fu Lee na loňské konferenci zaměřené na umělou inteligenci, kterou uspořádal Massachusettský technologický institut (MIT), konstatoval, že vládní investiční fondy se řídí jasnou politikou – čínská vláda se zaměřuje na moderní technologie a podporuje experimenty a rychlost. Což potvrzuje i výrok čínského prezidenta Si Ťin-pchinga. Ten loni stanovil cíl dále integrovat internet, zpracování velkých objemů dat a umělou inteligenci do reálného světa.

Doba, kdy Čína pouze kopírovala západní technologie, skončila. Kai-Fu Lee tvrdí, že kopírování Číně pomohlo se posunout. Číňané se naučili, jak vyrábět produkty, a rychle se přesunuli do další fáze – inspirovali se americkými inovacemi a vyvinuli další funkce produktu. „Výsledkem je, že Weibo je lepší než Twitter, a totéž platí pro Taobao a eBay, WeChat a Facebook Messenger. Mají lepší funkce a robustnější obchodní model,“ je přesvědčen tchajwanský matador IT byznysu Kai-Fu Lee.

Nástroj na nepohodlné

Sociální kreditní systém má mít dvě hlavní komponenty. První je vytvoření zřejmě největšího datového souboru na světě. V něm se budou integrovat dnes nepropojené databáze vládních a nevládních subjektů. Počítá se s tím, že se podstatně rozšíří oblasti, z nichž se budou data shromažďovat. Nejde jen o finanční sféru, ale i o e-commerce, sport či dopravu. Druhou částí systému mají být tresty a odměny. Ty by podle čínských představitelů měly zajistit, aby se občané chovali důvěryhodněji a upřímněji.

„Vláda používá technologii ke stíhání lidí, kteří jsou považováni za hrozbu pro sociální stabilitu,“

Autoři zmíněné studie Čínský sociální kreditní systém také upozorňují na riziko spojené s tím, že se národní kreditní systém vytváří právě v Číně, v zemi, která potlačuje svobodu projevu. Proto podle nich není pochyb, že by údaje mohly být zneužity ke společenské kontrole, kdy se sleduje veškeré chování obyvatel a automaticky trestají ti, kteří nepodporují stranickou linii.

Americká rozhlasová stanice National Public Radio (NPR) letos na jaře zveřejnila reportáž s básníkem a aktivistou Ťi Fengem, kterého podle jeho slov policie pravidelně eskortuje za Peking v době výročí krvavého potlačení demonstrací na náměstí Tchien-an-men. Ťi Feng pro stanici NPR popsal událost, když ho navštívil jeden z jeho kolegů-aktivistů. Policie prý použila kamery s technologií na rozpoznávání obličejů a identifikovala tohoto kolegu. O návštěvě pak informovala majitele bytu, který jej dotyčnému pronajímal. Majitel bytu následně aktivistovi vyhrožoval, že ho z tohoto bytu vyhodí. „Vláda používá technologii ke stíhání lidí, kteří jsou považováni za hrozbu pro sociální stabilitu,“ říká Ťi Feng v reportáži. A dodává: „Používají ji k polapení zlodějů? Ano, ale většinou k udržení stability.“

Počáteční stadium

Politici ani čínská média nezpochybňují kreditní systém. Německý Mercator Institute for China Studies analyzoval veřejné debaty na sociálních médiích. Z analýzy vyplývá, že na konci loňského roku byly pozitivní nebo neutrální. Studie Central Planning, Local Experiments: The Complex Implementation of China’s Social Credit System (Centrální plánování, lokální experimenty. Komplexní zavedení čínského sociálního kreditního systému) tohoto institutu uvádí, že systému sociálních kreditů Číňané nevěnují příliš velkou pozornost.

„V Číně je mnoho sociálních problémů, které jsou podstatně komplikovanější, než si lidé na Západě myslí. Můžete psát o kreditním hodnocení články, to však nijak nepomůže celou věc pochopit.“

„Musejí nejprve pochopit, co je tento systém a jaké důsledky pro jejich každodenní život může mít,“ píše se ve studii. Je možné očekávat, že diskuse zintenzivní s postupem vytváření systému. Již nyní však zaznívá i kritika. „Bude ještě dlouho trvat, než se systém vytvoří. A nemyslím si, že se podaří, aby měl hodnocení každý občan Číny. Možná že se kreditní systém bude týkat jen lidí ve velkých městech,“ říká podnikatelka Jenny Wang.

Specialistka na lidské zdroje, která pracuje v Šanghaji pro jednu mezinárodní společnost a chtěla zůstat v anonymitě, je přesvědčena, že národní kreditní systém nezajistí, aby se lidé k sobě chovali lépe. Středoškolská učitelka ke kreditnímu systému podotýká: „V Číně je mnoho sociálních problémů, které jsou podstatně komplikovanější, než si lidé na Západě myslí. Můžete psát o kreditním hodnocení články, to však nijak nepomůže celou věc pochopit.“ Zavedení národního kreditního systému je stále v počátečním stadiu. Dosud neexistuje centralizovaný orgán zodpovědný za ukládání dat, jejich standardizaci, řízení, koordinaci a za analýzu jejich obrovských objemů. S tím souvisí i řada otázek, na které zatím nikdo nedal odpověď. Jednou z nich je ochrana proti hackerům a podvodům. Databáze bude obsahovat citlivé informace o více než miliardě lidí a přístup k ní bude mít obrovský počet subjektů.

Hackeři a podvody

„Ukvapené vytvoření centralizované databáze sociálních kreditů by lákalo hackery. Čínská vláda byla v minulosti laxní ohledně zabezpečení dat,“ uvádí zmíněná studie Čínský sociální kreditní systém. A zkušenosti z pilotních projektů ukazují, že obavy jsou na místě. Na populární sociální platformě Sina Weibo byl zveřejněn investigativní článek o černých trzích s osobními údaji. Někteří Číňané prý platí hackerům, aby jim je změnili, a tím zvýšili jejich kreditní hodnocení. Jeden z hackerů tvrdí, že za několik měsíců vydělal tímto způsobem mnoho milionů jüanů.

Pokud se sociální kreditní systém v Číně osvědčí, lze očekávat, že i další autoritářské režimy se jím inspirují a budou jej napodobovat. Tyto země sice nejsou stejně technologicky vyspělé jako Čína, ale rychlé šíření chytrých telefonů, které se používají nejen v komunikaci, ale i v oblasti financí, umožňuje dohled a politickou kontrolu za relativně nízké náklady kdekoliv na světě.

Zásadním problémem je také řešení sporů a chyb. V zemi, kde převážná většina lidí má pouze sto různých příjmení, lze očekávat, že chybovost systému bude velká. To může zpochybnit jeho důvěryhodnost. „Pokud jednotlivci a organizace nemají přístup k záznamům a nemohou se domáhat práva na včasné a spravedlivé přezkoumání těchto údajů, motivační mechanismy nebudou fungovat podle zamýšleného plánu a vystupňuje se frustrace,“ uvádí studie Čínský sociální kreditní systém.

Její autoři však systém nezatracují a tvrdí: „Stále je ještě čas, aby se kreditní systém stal efektivním nástrojem k řešení některých dosud nevyřešených problémů Číny a aby se minimalizovala možnost, že se ze záměru stane orwellovský systém společenské kontroly.“

Pokud se sociální kreditní systém v Číně osvědčí, lze očekávat, že i další autoritářské režimy se jím inspirují a budou jej napodobovat. Tyto země sice nejsou stejně technologicky vyspělé jako Čína, ale rychlé šíření chytrých telefonů, které se používají nejen v komunikaci, ale i v oblasti financí, umožňuje dohled a politickou kontrolu za relativně nízké náklady kdekoliv na světě.

Mnoho komponent čínského kreditního systému, jako jsou černé seznamy neplatičů či sledování jednotlivců, existují i v demokratických zemích. Vytváření čínského kreditního systému by mělo povzbudit celosvětovou diskusi o ochraně soukromí, o tom, nakolik ochotně dáváme k dispozici osobní údaje, a o jejich následné ochraně.

Velká data = větší kontrola

Například studie washingtonské Georgetownské univerzity z roku 2016 mapuje databáze tváří v USA, v nichž jsou uložena data o více než 117 milionech Američanů, polovině všech dospělých občanů USA. V databázích jsou tedy i lidé, kteří se nikdy nedopustili žádného trestného činu. Studie dále poukazuje na to, že neexistují pravidla, jak s daty zacházet. Není totiž zákon, který by použití rozpoznávání tváří reguloval.

Kreditní skóre ovlivňuje i životy lidí na Západě. Hodnocení úvěrové spolehlivosti rozhoduje o tom, jak rychle a zda vůbec se jedinec dostane do letadla, profily na sociálních sítích spolurozhodují, zda dotyčný dostane práci nebo bude povýšen.

A uveďme i nedávný závěr vyšetřování agentury AP, která si svá zjištění nechala ověřit vědci z Princetonské univerzity. Verdikt zněl, že společnost Google ukládá údaje o poloze mobilních telefonů využívajících její aplikace, i když se tomu uživatelé změnou nastavení snaží předejít.

„Existuje na světě místo, kde by velké objemy dat nezvyšovaly státní kontrolu?“ klade řečnickou otázku v rozhovoru pro časopis Foreign Policy Pamela Crossleyová, profesorka historie na prestižní americké univerzitě Dartmouth College. A dodává: „Lidé počítají s tím, že o nich vlády mohou sbírat neustále masivní množství informací.“ Podle Crossleyové vidí Američané rozdíl v tom, zda sběr dat vyžaduje vláda, nebo zda údaje poskytují dobrovolně zákazníci komerčním subjektům. Číňané v tom rozdíl nevidí.

Kreditní skóre ovlivňuje i životy lidí na Západě. Hodnocení úvěrové spolehlivosti rozhoduje o tom, jak rychle a zda vůbec se jedinec dostane do letadla, profily na sociálních sítích spolurozhodují, zda dotyčný dostane práci nebo bude povýšen. „Nástrah bude přibývat. Rozdíl je v tom, že čínská veřejnost je již více připravena na integraci obchodních, vojenských a bezpečnostních informací. Proto jsou Číňané snáze kontrolovatelní zastrašováním a autocenzurou,“ je přesvědčena Crossleyová.

Počet příspěvků: 3, poslední 17.9.2018 12:21 Zobrazuji posledních 3 příspěvků.