Ako Čína ukazuje hrozivú, sociálno-digitálnu budúcnosť ľudstva

2

Najľudnatejšia krajina sveta dnes s pomocou IT gigantov zavádza systém sociálneho skóre populácie. Jeho úlohou je priraďovať ľudom číselnú hodnotu, ktorá bude zodpovedať ich slušnosti, dobrotivosti a poslušnosti. Kým na tých dobrých čaká za odmenu cukor, tak na tých zlých je prichystaný príslovečný bič. Najšokujúcejšie však je, že mechanizmy, ktoré používa, sú už prítomné na celom svete.

Skúste si to predstaviť. Začiatkom roka ste nedopatrením zabudli zaplatiť účet za telefón. Zdalo sa, že sa nič zlého nestalo, pretože ste neskôr dali všetko do poriadku. Táto drobná chyba sa však podpísala na tom, že klesla vaša finančná dôvera a banka vám dnes odmietla poskytnúť hypotéku. Ste rozrušený a rozhnevaný a v nervozite si zapálite cigaretu, neuvedomujúc si, že na danom mieste je fajčenie zakázané.

Zbadá vás policajt a vypíše vám pokutu. Tá prejde digitálnym systémom a okamžite sa podpíše na tom, že vaše sociálne skóre sa výrazne zníži. Porušili ste zákon. Ako dôsledok vám rôzne obchody prestali poskytovať zľavy a e-shopy už vám odteraz neponúkajú možnosť dopravy zdarma. A aby to nebolo všetko, večer s hrôzou zistíte, že vaše skóre sa ešte viac znížilo. Dvaja vaši blízki priatelia sa totiž pred pár dňami rozohnili v diskusii na internete a nadávali na premiéra a vládu. Fakt, že s nimi trávite veľa času sa negatívne premietol do toho, že začínate byť vnímaný ako riziková osoba. Na druhý deň ráno sa pokúsite kúpiť lístok na vlak, ale na pokladni vám oznámia, že to nejde. Kamera nad prekážkou rozpoznala vašu tvár a systém výdaj lístku zablokoval.

/Ingram Pinn/Financial Times/

Chvíľu premýšľate, či necestovať načierno, ale nakoniec si to rozmyslíte. Ak by vás chytili, mohlo by to znamenať, že vám letecká spoločnosť zruší letenky, ktoré máte rezervované na dovolenku. V rýchlosti teda vyťahujete telefón a privolávate si Uber. Ten však stále nechodí. Vodiči vidia v aplikácii vaše nízke skóre a ignorujú vás. Boja sa, že odvezením neposlušného občana by znížili to svoje. Čo sa dá robiť. Mali ste byť lepší.

Ak sa vám pri čítaní daných riadkov ježili vlasy na hlave, nie je sa čomu čudovať. Pripomína to výjav z nejakého dystopického románu. Od reality však dané situácie nemajú vôbec ďaleko. Čína v súčasnosti buduje obrovský a mocný systém digitálneho sociálneho kreditu, respektíve sociálneho skóre, ktorého úlohou je meranie stupňa dôveryhodnosti a prívetivosti jednotlivých obyvateľov. V súčasnosti sú čiastkové podoby tohto systému v testovacej prevádzke pre obmedzené lokality a skupiny ľudí (či už na dobrovoľnej, alebo nedobrovoľnej báze). V roku 2020 však bude spustený celoštátny povinný systém, platiaci pre kompletnú, viac ako 1,4 miliardovú populáciu tejto krajiny.

Sociálne skóre jednotlivých obyvateľov bude budované nielen z hľadiska vládnych organizácií, ale aj komerčných firiem, pričom jednotlivci budú hodnotení napríklad z hľadiska pracovných úspechov, dodržovania zákonov, prichytenia pri akademických/študentských podvodoch a napríklad aj z hľadiska “bezproblémovosti“ v súvislosti s miestnym politickým režimom.

Čína zavádza kamerové systémy doplnené o rozpoznávanie tváre skutočne vo veľkom /Ed Jones/AFP/

Výsledné číselné skóre má byť reprezentantom stupňa dôvery a takpovediac „dobroty“ daného človeka. Ide o skutočnú „gamifikáciu“ celého života, v rámci čoho sa predpokladá, že osoby s vysokým skóre budú na tento fakt hrdé a budú podnecovať k lepším „výkonom“ aj svoje okolie, pretože na svoje úspechy budú  upozorňovať napríklad v rámci svojich kruhov na sociálnych sieťach.

Kým vysoké skóre zaručí osobám mnohé výhody, ako napríklad urýchlené vybavovanie víz, možnosť získania VIP lístkov na rôzne podujatia či výber z lepšieho ubytovania v hoteloch, na osoby s nízkym skóre budú uplatnené rôzne penalizácie, ako napríklad zhoršený výber v rámci dostupných služieb, verejné internetové zneváženie a takisto napríklad aj potenciálny zákaz cestovania vlakom či lietadlom. Vývoj týchto mechanizmov je možné vnímať ako zatiaľ ten najjasnejší a najhrozivejší signál našej potenciálnej temnej digitálnej budúcnosti.

Súčasná podoba systému a nábeh na plný režim v roku 2020

Aktuálne zavádzanie týchto mechanizmov neprišlo ako blesk z jasného neba. Čínska vláda o systéme podobného typu snívala už v 40. rokoch minulého storočia. Muselo však ubehnúť celkom osem dekád, kým éra internetu, mobilnej komunikácie a hlavne sociálnych sietí realizáciu skutočne umožnila.

Aj keď rôzne digitálne hodnotiace mechanizmy vidíme v Číne testovať už niekoľko desaťročí, kľúčový moment aktuálnych snáh sa udial na šiestom plenárnom zasadnutí  17. Ústredného výboru Komunistickej strany Číny v roku 2011, kedy došlo k rozhodnutiu o vytvorení spoločného hodnotiaceho systému populácie, ktorý by združoval nielen politické a ekonomické, ale aj rôzne sociálne a morálne postoje.

Ceremónia pri otváraní programu integrity mládeže /Beijing Normal University/

Realizácia celoštátneho projektu začala v roku 2014 pod taktovkou Národnej komisie pre vývoj a reformy, pričom jeho oficiálnou úlohou je „zvýšiť poctivú mentalitu celej populácie“ a zároveň „vybudovať harmonickú socialistickú spoločnosť“. Výsledný produkt má pritom „podporovať budovanie dôverných vzťahov a trestať ich porušovanie“.  V súčasnosti je tento projekt v budovacej a testovacej fáze, pričom do plnej prevádzky vojde v roku 2020.

Na súčasný čínsky systém sociálneho hodnotenia však nemožno nazerať ako na jednu integrovanú entitu. Je potrebné si uvedomiť, že ide o termín, ktorá pokrýva rozsiahlu schému a fragmentované iniciatívy, ktoré majú „len“ rovnaký cieľ, operačné nasadenie a politický jazyk. Kým niektoré sú budované vládnymi organizáciami (ide predovšetkým o tie mechanizmy, ktoré súvisia s dodržiavaním zákonov), iné sú pod taktovkou rôznych IT spoločností, poskytujúcich sociálne siete a iné on-line služby. Čínska vláda poverila minimálne 7 rôznych IT a internetových spoločností, na vytvorenie hodnotiaceho systému ich používateľov, pričom každá firma k tomu pristupuje inak.

Z tohto dôvodu môžete v rôznych článkoch na anglickom či inom webe naraziť na relatívne konfliktné informácie o tom, ako systém funguje, čo hodnotí, ako odmeňuje a trestá. Je to preto, že týchto systémov existuje viac, pričom sa krátkodobo experimentuje s rôznymi konfiguráciami. V prípade týchto komerčných riešení je účasť používateľov zatiaľ nepovinná, pričom ľudia do týchto systémov vchádzajú hlavne kvôli tomu, aby získali najrôznejšie benefity.

Obrazovky mobilnej aplikácie sociálneho kreditu Sesame od Alibaby /Zheping Huang /Quartz/

Naproti tomu vládne systémy, ktoré súvisia s dodržovaním zákonov a používaním služieb pod taktovkou štátu, sú aplikované bez súhlasu jednotlivých obyvateľov. Čínska vláda momentálne prevádzkuje stránku a webový systém združujúci hodnotenia 37 rôznych vládnych inštitúcií (systém v skutočnosti prevádzkuje čínsky internetový gigant Baidu, autor najväčšieho miestneho vyhľadávača), pričom v nasledujúcich dvoch rokoch sa do neho integruje mnoho komerčných riešení, ktoré v teste obstoja.

V súčasnosti je najväčší a takisto najznámejší komerčný systém tzv. Sesame kredit, ktorý vytvára a prevádzkuje internetový obchodný gigant Alibaba (čínsky náprotivok Amazonu s podobnou silou). Systém hodnotí predajcov a zákazníkov na základe finančných schopností, druhov nákupov a všeobecného správania. Nejde pri tom len o dáta, ktoré Alibaba zbiera na svojich populárnych weboch, ale aj o dáta, ktoré agreguje od iných služieb, pričom ide o sociálne siete či o dopravnú službu DiDi (čínsky ekvivalent Uberu s mnohonásobne väčším počtom denných jázd, ako má jeho americký náprotivok).

Zníženie kreditu môže byť vyvolané aj takou činnosťou, ako prezeranie internetu dlho do noci /The Telegraph/

Alibaba dnes prideľuje ľudom hodnotenie v rozsahu 350 až 950 bodov, pričom skóre nad 700 bodov je považované za excelentné. Na aktuálnej hodnote sa podieľa dosiahnuté vzdelanie, kvalita pozície v rámci zamestnania, schopnosť splácania úverov a takisto aj zaznamenané on-line správanie a sociálne konexie. Práve dve posledné vetvy systému sú mimoriadne zaujímavé a šokujúce.

Napríklad z hľadiska správania má vplyv na skóre to, čo cez deň robíte. Ak nákupný systém zaznamená, že ste si kúpili PC hru, prípadne sociálna sieť eviduje, že nejakú webovú hru hráte niekoľko hodín, považuje sa to z hľadiska kreditu za „márnenie času“ či nevyužívanie potenciálu, čo môže vaše skóre znížiť. Naopak ak na e-shope nakupujete plienky, zdravú detskú výživu a podobne, systém vás môže hodnotiť ako „svedomitého a starostlivého rodiča“, čo skóre zdvihne. Ešte šokujúcejšie však pôsobí mechanizmus v súvislosti so sociálnymi kruhmi. V rámci Sesame skóre totiž môže byť vaše hodnotenie znížené už len tým, že sa v rámci sociálnej siete priatelíte a komunikujete s ľuďmi, čo majú skóre výrazne nižšie ako vy.

Prečo sa systém zavádza a prečo ho mnohí Číňania vítajú?

Mnoho ľudí vo svete nazerá na súčasný čínsky systém hodnotenia populácie len ako na typický prejav totalitného režimu, prevtelený do modernej digitálnej doby. Nie je sa čomu čudovať. Aj mnoho Slovákov má stále v živej pamäti totalitnú éru, v ktorej štátne orgány a zložky systematicky ničili život nepohodlným „buričom“ (vrátane života ich rodín). Prechod z „analógovej“ do digitálnej éry priniesol takýmto režimom mnohé výzvy. Éra smartfónov, internetu a sociálnych sietí sa mimoriadne silno podieľa na tom, že v Číne sa virálne šírené informácie o rôznych škandáloch členov komunistickej strany začali stávať každodennou záležitosťou.

Či už ide o texty alebo rovno videá, na ich rozšírenie pred stovky miliónov čínskych očí stačí pár okamihov, pričom pracovníci propagandistickej mašinérie tomu vo väčšine prípadov nie sú schopní zabrániť. Zavedenie systému, ktorý by ľudí trestal za šírenie takýchto informácii a znižoval by im skóre, ktoré by sa premietlo do prakticky každého aspektu ich života, je preto veľmi užitočným pomocníkom kontroly populácie.

Verejná hana ľudí s nízkym kreditom, alebo verejná pochvala ľudí s vysokým kreditom, sa dostáva na nástenky aj televízne obrazovky /Simina Mistreanu/

Vnímať nový čínsky systém LEN z tejto stránky by však bolo hlboké nepochopenie celej problematiky. Hlavným dôvodom, prečo väčšina čínskej populácie tieto zmeny vníma pozitívne, je epidémia nedôvery v krajine. Za posledné roky Čína čelila obrovskému množstvu škandálov v súvislosti s rôznymi ekonomickými i sociálnymi podvodmi a takisto sa stretávala s poburujúcim správaním firiem, zamestnancov a všeobecne obyvateľstva.

Za spomenutie stojí napríklad škandál z roku 2008, kedy sa v detskej výžive rôznych čínskych spoločností objavil melamín, teda organická zlúčenina, používaná pri výrobe umelých hmôt a priemyselných hnojív, čo viedlo k hospitalizácii a ťažkým zdravotným následkom niekoľkých desiatok tisíc batoliat. Nielen Čínu, ale aj celý svet šokovalo takisto to, ako sa v krajine rozšírila predstava o tom, že pomáhať obetiam dopravných nehôd je riziko (objavili sa prípady, keď boli pomocníci obvinení z toho, že nehodu zavinili, pretože inak by obetiam nepomáhali).

Internetom tak za posledné roky prebehli šokujúce videá, v ktorých môžeme vidieť napríklad prejdenie batoľaťa, ktorému nikto z okoloidúcich nepríde pomôcť, či prípady, keď zrazenú osobu na ceste prejde ešte niekoľko ďalších áut, pretože sa nedá obísť a nikto kvôli nej nechce zastaviť. K všetkému sa takisto pridáva príšerná reputácia čínskych turistov vo svete, pričom za spomenutie stoja napríklad udalosti z roku 2013, týkajúce sa poškodzovania egyptských pamiatok, či nechutné aféry medzinárodných letov v roku 2016, pri ktorých rodičia nechávali deti vykonávať malú a veľkú potrebu do medzery medzi sedadlami. Tieto a mnohé ďalšie prípady vedú k tomu, že drvivá väčšina čínskej populácie je frustrovaná z toho, že veľká časť obyvateľov ignoruje aj tie najzákladnejšie pravidlá slušného správania a cítia, že niečo sa musí zmeniť.

Ďalšia z obrazoviek mobilnej aplikácie sociálneho kreditu Sesame od Alibaby /Zheping Huang /Quartz/

Aj keby sa mohlo zdať, že hodnotenie obyvateľov nejakým druhom čísla, na základe ktorého sa prideľujú výhody alebo postihy je dystopické, mnoho ľudí zabúda na podobné systémy, ktoré sú bez problémov zavedené všade vo svete (vrátane Slovenska). Tým najzákladnejším je kreditné, respektíve úverové skóre, ktoré ľudia plne akceptujú a sú si dobre vedomí dôvodov, prečo je prítomné. Jeho hodnotu, naviazanú na vašu osobu, ovplyvňuje nielen výška vášho príjmu, počet detí a životné náklady, ale aj predchádzajúce „správanie“, teda to, ako ste predchádzajúce úvery zvládali alebo nezvládali platiť.

Typicky, ak je niekto chronický neplatič pôžičiek, len ťažko môže očakávať, že mu akákoľvek banka pridelí inú pôžičku v podobe spotrebného úveru, hypotéky na dom či lízingu na auto. Ak je na niekoho uvalená exekúcia, či má za sebou osobný bankrot, do banky bude po pôžičku chodiť márne, pretože jeho skóre je nulové (banka vie, že je malá pravdepodobnosť vrátenia peňazí).

To však nie je všetko. Napríklad v susednej Českej republike je v platnosti aj vodičský bodový systém. Každý vodič v ČR pri porušení dopravných predpisov, ktoré je zaznamenané, dostáva trestné body, viažuce sa na jeho osobu a vodičské oprávnenie. Ak ich nazberá 12, je mu vodičský preukaz odobraný na dobu jedného roka, pričom po skončení tejto lehoty musí vykonať znovu vodičské skúšky.

Pri priestupkoch ako telefonovanie počas jazdy alebo prekročenie povolenej rýchlosti o 10 až 30 km/h (mimo obce) sa udeľujú dva trestné body, pri porušení rýchlosti o 40 km/h už 5 bodov. Pokiaľ ide o závažné prečiny, ako spôsobenie dopravnej nehody, jazda v protismere, predbiehanie v zakázaných úsekoch, či jazda pod vplyvom alkoholu, je vodič potrestaný až 7 bodmi. Ideou tohto mechanizmu je donútiť ľudí/vodičov, aby sa správali na ceste zodpovednejšie, pretože finálny trest je potenciálne omnoho hrozivejší, než pár desiatok eur pokuty. Tento mechanizmus má dokonca aj formu odmeny za „dobré správanie“. Neporiadny vodič si totiž môže 3 trestné body zo zoznamu odrátať, ak sa zúčastní oficiálneho školenia o bezpečnosti jazdy.

Bilbord na propagáciu vodičského bodového systému v Českej republike /iROZHLAS/

Zrejme budete súhlasiť s tým, že oba systémy majú slabé miesta, ale v základe sú pomerne logické a majú pádny dôvod, ktorý vôbec nie je dystopický. Porovnajte to teraz s potenciálnym bodovým systémom, vzťahujúcim sa na ďalšie interakcie. Nespratný človek dnes vojde do kina. Všetkých ruší svojím hlasným správaním, pričom sa opije, vymočí a vyvracia sa medzi sedadlá a napokon sa pobije s uvádzačom, ktorý ho bude tlačiť dverami kinosály von. Momentálne zákony sú také, že po privolaní polície môže byť daná osoba zatknutá, pričom trestom je napríklad pokuta, či pridelenie verejnoprospešných prác.

Z pohľadu ostatných občanov sa ale nič nevyriešilo. Zajtra totiž daná osoba môže vojsť do iného kina a urobiť to isté. Čo ak by ale podobne ako v rámci českého vodičského systému existoval bodový systém, ktorý by ho potrestal tak, že sa následne po dobu niekoľkých rokov nemôže zúčastniť žiadneho divadelného vystúpenia, premietania v kine, či akejkoľvek inej obdobnej spoločenskej udalosti v krajine, pretože pri pokuse o kúpenie lístku by mu to nebolo umožnené? Mnoho ľudí bude zastávať názor, že takýto systém by nemusel byť zlý a nemali by zrejme pocit, že systém je totalitný.

Lenže takto dnes čínsky systém v mnohých ohľadoch funguje. Trestné body a znižovanie skóre sa totiž uplatňuje hlavne v prípade porušenia zákonov a závažných prečinov. Možno ste začiatkom tohto roku narazili na správy o tom, že Čína už viac ako 9 miliónom ľudí s výrazne nízkym sociálnym kreditom zakázala kupovať letenky na domáce lety, alebo lístky na rýchlovlak na dobu jedného roku.

Zákaz letu z dôvodu nízkeho sociálneho kreditu pocítili v Číne už milióny ľudí /VCG/Getty Images/

Možno ste sa ale nedozvedeli o tom, že tento trest bol udelený za prečiny, medzi ktoré patrilo to, že dané osoby sa pri predchádzajúcich letoch pobili, nerešpektovali zákaz fajčenia vo vlaku, predávali falošné lístky a podobne. V základe sa tak dostávame k podobnému princípu, ako pri príklade s kinom. Pre mnohých Číňanov ide o oprávnené rozšírenie zákona, ktoré naozaj trestá vinníkov tam, kde ich to najviac bolí.

Tresty sú pritom často nie vo forme úplného zákazu, ale len obmedzenia „luxusu“. Ak je niektorý človek systémom označený za „nedôveryhodného“ (jeho skóre je príliš nízke), môže mu byť napríklad odobratá možnosť cestovať rýchlovlakom, ale už nie obyčajným vlakom (slovenský ekvivalent by bol zákaz cestovania rýchlikom, ale už nie osobným vlakom či autobusom). Takisto sa napríklad neobmedzí jeho možnosť ubytovania v hoteloch ako takých, ale len nebude mať možnosť získania ubytovania v luxusných hoteloch s vyšším počtom hviezdičiek. Ľudia s vysokým skóre naopak za odmenu získajú možnosť vybavovania rozličných povolení rýchlejšou formou (bez potreby doloženia niektorých dokumentov), či napríklad možnosť zarezervovania hotela či inej služby bez potreby zloženia zálohy (práve tu čínska vláda spolieha na systémy vytvorené komerčnými firmami).

Nie je preto až také zvláštne, že mnoho čínskych občanov tento systém naozaj víta, pretože pomáha riešiť mnoho súčasných problémov krajiny. Ako to už ale býva, diabol sa skrýva v detailoch.

Nebezpečenstvo sociálneho bodového systému a vplyv na ľudský život a dôstojnosť

V súčasnosti je pri posudzovaní nového čínskeho digitálneho systému hodnotenia potrebné rozlišovať medzi komerčnými a vládnymi riešeniami. Tie komerčné môžu totiž používateľov „trestať“ za relatívne absurdné prečiny, ako napríklad dlhé hranie hier, či prezeranie internetu hlboko do noci, avšak v ich prípade je „trest“ často len formou neposkytnutia nejakých nie príliš podstatných nadštandardných výhod. Naproti tomu vládne systémy sa zameriavajú na reálne porušovanie zákonov, následkom čoho vlastne len pridávajú nové formy trestania priestupkov, ktoré dopĺňajú riešenia s pokutami, verejnoprospešnými prácami či väzením.

Otázkou však je, ako sa tieto systémy zhoršia v priebehu nasledujúcich mesiacov a rokov a hlavne, ako veľmi sa vzájomne po roku 2020 prepoja. V súčasnosti je zároveň takisto ešte značne variabilné a nejasné, ako skóre ovplyvňujú rôzne veľké prečiny. Typicky, jedna vec je znášať výrazný postih z dôvodu, že sa nejaká osoba pokúsila prepašovať na palubu lietadla zbraň a druhá vec je udalosť, že sa niekto omylom pokúsil „prepašovať“ do lietadla zapaľovač zabudnutý vo vrecku. Takisto priestupok v súvislosti s predajom falošných lístkov na vlak má značne odlišnú vážnosť, než pristihnutie cestujúceho, ktorý si nevšimol, že jeho mesačný lístok už je deň po platnosti.

Vo vnútri občianskeho úradu čínskeho okresu Rongčeng /Aurelien Foucault/Picture-Alliance/DPA/AP/

Jednou z kľúčových a pritom najstrašidelnejších vlastností týchto kreditných systémov je, že trest nie je tematicky previazaný na priestupok. V prípade blokovania nákupu lístkov na rýchlovlaky a lietadlá trest nedostali len ľudia, ktorí vykonali nejaký odsúdeniahodný čin na palube týchto dopravných prostriedkov, ale aj v inej súvislosti, pričom šlo napríklad o neplatenie daní, splátok či o finančné podvody.

Čína si od tohto sľubuje to, že „neporiadnik“ je potrestaný v rôznych aspektoch svojho života, takže je nevyhnutné, že negatívny efekt svojich akcií pocíti. Napríklad pre podnikateľov usvedčených z neplatenia daní, či nejakého finančného podvodu (za predpokladu, že ešte nedisponujú vlastným lietadlom), môže byť mimoriadne nepríjemné, ak stratia možnosť kúpenia letu v 1. triede či biznis triede a musia cestovať výhradne v tej turistickej.

Na druhú stranu, realita sa od tohto ideálneho stelesnenia trestov môže značne líšiť. Do západných médií sa dostal napríklad príbeh podnikateľky Xie Wen, ktorá s negatívami celého systému bojuje už viac ako tri roky. Všetko bolo dôsledkom toho, že v roku 2014 bola obžalovaná z ohovárania, pričom súd jej nariadil zaplatiť pokutu, verejne sa ospravedlniť, čo urobila o pár mesiacov neskôr. Neskôr sa však dozvedela, že to očividne nestačilo, pričom to zistila prvýkrát v roku 2015, kedy sa na pracovnej ceste pokúsila kúpiť spiatočnú letenku, čo jej nebolo umožnené z dôvodu čerstvého zaradenia na čiernu listinu.

Na vyjadrenie, prečo je to tak, čakala niekoľko týždňov. Ukázalo sa, že jej ospravedlnenie nebolo akceptované z dôvodu nedostatočnej úprimnosti. Napokon tak napísala druhé, ktoré už bolo akceptované a možnosť letov sa jej po mnohých týždňoch znova sprístupnila. Keď sa však v roku 2017 pokúsila vybaviť novú kreditnú kartu, zistila, že to takisto nejde, banka totiž používala inú čiernu listinu, na ktorú ju pôvodný problém zaradil takisto. Okrem kreditnej karty jej tak nebolo umožnené ani čerpanie pôžičky či nákup nehnuteľností. Toto bol pri tom nepochybne len jeden prípad z mnohých, kde systém fungoval nevhodne, čo prinieslo obrovské problémy rôznym obyvateľom.

Zakázanie jazdy na rýchlovlaku z dôvodu nízkeho sociálneho kreditu môže ľudom predĺžiť cestu do práce aj o niekoľko hodín /John不是Jon/

Možnosti trestov sú mimoriadne rozsiahle a vláda a takisto komerčné spoločnosti skúšajú rôzne varianty. Keďže obmedzenia sa obvykle vzťahujú na často predkladané číslo občianskeho preukazu, je možné ich viazať nielen na zákaz letov či bankové operácie, ale aj na také veci, ako je založenie účtu na sociálnej sieti či telekomunikačné služby (napríklad výrazne obmedzená rýchlosť internetu). To však bude nepochybne len špička ľadovca.

Čínske spravodajské organizácie začiatkom roku napríklad uverejnili informáciu o tom, že v posledných mesiacoch odopreli právo na vyššie vzdelanie 17 ľudom, uchádzajúcim sa o štúdium na vysokej škole. Odmietli totiž nastúpiť na vojenskú službu, čo sa výrazne podpísalo na znížení ich sociálneho skóre. Podobný trest je možné vykonať zákazom navštívenia žiadaných dovolenkových lokalít a takisto tým, že sa zabráni v možnosti získania atraktívneho zamestnania v štátnych firmách a veľkých bankách. Čínska vláda pritom odporúča všetkým komerčným firmám, aby sa v prípade hľadania uchádzačov vždy pozerali na verejné čierne listiny a osobám, ktoré sú na nich prítomné, prácu neponúkali.

Veľmi špecifickou a devastujúcou formou trestu je forma verejnej hany. Ľudia z čiernych listín sa môžu dostať napríklad na veľkoplošné obrazovky v mestách, či na displeje v autobusoch alebo metre. V niektorých provinciách sa dokonca experimentuje aj s ukazovaním ich tvárí pred premietaním v kine (namiesto reklám), kde sú tieto osoby sprevádzané komentárom: „No len sa pozrite na týchto neplatičov. Požičali si peniaze a nevrátili ich.“

Netreba pri tom zabudnúť na to, že vzhľadom na miestny totalitný režim môžu byť priestupky aj značne iného charakteru, ako je to v slobodných krajinách. Kreditný systém môže trestať ľudí za „falošné správy či osočovanie“, pričom môže ísť o reálne informácie o prešľapoch miestnej komunistickej strany. Takisto môžu byť ľudia trestaní za usporiadanie demonštrácií či za kritiku režimu, pretože je to kategorizované ako „poškodzovanie stability štátu“.

Pouličné rozpoznávanie tváre občanov zažíva v Číne boom /Gilles Sabrié/THE WASHINGTON POST/

V týchto úvahách ale netreba zachádzať až do krajností. Sťažnosť na konkrétne pochybenie úradníka, policajta alebo štátneho činiteľa nie je vnímaná ako esenciálna kritika režimu a takáto akcia zo strany občana trestaná nebola a zrejme ani nebude. Občania môžu byť na sociálnych sieťach kritickí ku väčšine vecí. Problém spôsobuje len kritika režimu či strany ako celku, prípadne poukazovanie na oficiálne potlačované témy, ako je napríklad masaker na Námestí nebeského pokoja. Problémy môže takisto vyvolať podpora osamostatnenia Tibetu, praktikovanie niektorých náboženstiev, či verejná podpora homosexuality.

Budovaný kreditný systém má však masívne nevýhody aj pri ignorovaní akýchkoľvek totalitných tendencií. Do života obyvateľov totiž môže vniesť obrovský sociálny tlak. Keďže čierne listiny a takisto sociálne skóre jednotlivých ľudí bude celkom verejný údaj, je nepochybné, že mnohí Číňania sa od akéhokoľvek „zlého občana“ v dosahu bude snažiť maximálne dištancovať. V rámci Sesame mechanizmu od Alibaby môže byť totiž ich hodnotenie znížené už len tým, že sa v rámci sociálnej siete priatelia a komunikujú s ľuďmi, čo majú skóre výrazne nižšie ako oni.

To nepochybne bude viesť k tomu, aby sociálne kruhy udržovali podobné skóre. Kým osoby s nižším skóre sa budú snažiť priateliť s osobami s mierne vyšším skóre, osoby s veľmi nízkym skóre budú pravdepodobne priateľmi odstrihávané a odkázané „do vyhnanstva“, v snahe nepoškodiť samého seba. Pokiaľ patríte k fanúšikom antologického sci-fi seriálu Black Mirror, zrejme si ilustráciu tejto situácie pamätáte z prvej epizódy tretej série (Nosedive), ktorá bola na tomto koncepte postavená.

Z dôvodu týchto sociálnych princípov v nasledujúcich rokoch mnoho obetí pocíti na vlastnej koži „efekt lepry“, pretože z dôvodu nízkeho sociálneho skóre sa im iní ľudia a takisto aj komerčné firmy začnú preventívne vyhýbať. Efekt nízkeho skóre pri tom môže postihnúť aj členov rodiny, pričom napríklad už dnes vidíme v praxi to, že deti ľudí na čiernej listine alebo s nízkym skóre nemajú možnosť zápisu na drahšie privátne školy. Tento efekt sa môže v budúcnosti pritom ešte zhoršovať a dobre sa dá predstaviť napríklad to, že negatívne činy tínedžera môžu ovplyvniť aj jeho súrodencov či rodičov, v snahe vyvinúť tlak na rodinu, aby jeho správanie napravila.

Čínska policajtka s okuliarmi s integrovaným rozpoznávaním tváre na vlakovej stanici mesta Čeng-čou /Telegraph/

V súvislosti s blízkou budúcnosťou treba pri tom myslieť na to, že systém sa onedlho stane omnoho efektívnejší a bude môcť potenciálne fungovať aj v reálnom čase. V čínskych, ale aj iných veľkomestách je čoraz častejšie používanie kamerových systémov s rozpoznávaním tváre. To umožní nielen rýchle lokalizovanie a sledovanie konkrétnych osôb, ale takisto potenciálne aj okamžité bodové trestanie priestupkov, ktoré dnes nie je v silách ľudskej polície monitorovať. Potrestané tak môže byť každé nedanie prednosti na prechode pre chodcov, každé zlé parkovanie a v súvislosti s umelou inteligenciou takisto nevhodné správanie či kontakt s potenciálne nežiaducou osobou.

Systém, ktorý sa veľmi ľahko môže rozšíriť do celého sveta

Nový čínsky systém digitálneho sociálneho hodnotenia je zaujímavým reprezentantom potenciálne dystopickej budúcnosti. O to strašidelnejšie je, že sa tieto zmeny dejú v krajine, ktorá sa aktuálne stáva superveľmocou a behom 21. storočia takmer určite preberie rolu najväčšej ekonomickej, politickej i technologickej hybnej sily sveta. Je veľmi pravdepodobné, že ak bude čínsky experiment úspešný, po roku 2020 môžeme čakať jeho aplikovanie v mnohých ďalších totalitných krajinách.

Tieto mechanizmy však netreba vnímať ako niečo cudzie, čo sa deje len na opačnom konci sveta v totalitnom režime. Európa či Amerika proti budovaniu týchto mechanizmov vôbec nie je imúnna, pričom väčšina týchto digitálnych princípov a prostriedkov je prítomná a funkčná všade vo svete. Nejde tu pri tom len o očividné veci, ako napríklad to, že telekomunikační operátori majú z princípu fungovania mobilnej siete neprestajne prehľad o tom, kde sa ktorý používateľ (smartfón) nachádza, alebo o zavedené systémy na automatické rozpoznávanie dopravných značiek vozidiel, alebo tvárí ľudí.

Mnohé veľké komerčné firmy vytvorili a dlhodobo používajú veľmi presné a účinné nástroje na cielenie reklamy, založené na identifikácii používateľa a jeho pohybu na internete. Sociálne siete majú mimoriadne dobrý prehľad, aké články používatelia čítajú, čo sa im páči a ako sa vyjadrujú vo verejnej a takisto „privátnej“ diskusii napríklad v rámci najznámejších textových komunikátorov. Akonáhle systémy tohto typu existujú, nie je vonkoncom divoká predstava, že sa môžu použiť aj na iný účel, než boli pôvodne vytvorené.

Je obrovskou ilúziou, že mechanizmy sociálneho hodnotenia populácie je možné zaviesť len v totalitných režimoch. Stačí si len uvedomiť, ako sú dnes rozšírené napríklad verejné hodnotenia reštaurácií či iných podnikov. Tento systém má v základe šľachetný zmysel a jeho účelom je, aby sa používatelia mohli vzájomne upozorňovať na pochybenia a zlé vlastnosti jednotlivých stravovacích či iných zariadení. Bohužiaľ, tento mechanizmus nemá prakticky žiadny účinný ochranný prvok a recenzie sú neraz falošné, v snahe konkrétny podnik poškodiť, alebo je hodnotenie prehnané, čo môže byť dôsledok toho, že chyba bola na strane zákazníka a nie predajcu/poskytovateľa.

U niektorých, ako je prípad Yelpu, sa v priebehu rokov objavili dokonca vážne avšak nepotvrdené obvinenia z toho, že firma jednotlivé podniky prakticky vydiera. Stačilo, aby zoraďovací mechanizmus posunul do popredia tie najhoršie hodnotenia (pokojne aj nepravdivé), bez ohľadu na to, že patrili k menšine. Takto boli umiestnené až dovtedy, dokým majiteľ podniku nezaplatil „všimné“, ktorým bola reklama, čím recenzie prešli do prirodzenejšej podoby. Žiadne z týchto obvinení sa však až k súdu nedostalo a prípady boli zamietnuté v predbežnom konaní pre nedostatok dôkazov. Posledný prípad z roku 2014 bol zmietnutý zo stola s tým, že aj keby k takémuto zvýhodňovaniu zaplatením reklamy dochádzalo, nezodpovedalo by to americkej legálnej definícii vydierania.

Tieto mechanizmy ukazujú, že hodnotiace systémy vôbec nemusia byť povinné, aby z nich vyplývali negatívne dôsledky. Neúčasť a ignorovanie daného systému totiž môže mať na človeka či biznis horší efekt, ako „dobrovoľná“ účasť. Podobný smer vidieť napríklad aj v súvislosti s chystanými zmenami pre žiadosť o víza do USA, kde by už onedlho mohla vzniknúť povinnosť nahlasovať svoje sociálne profily a prípadne umožniť aj prístup k ich histórii.

Ak to návštevník odmietne, je to vnímané ako negatívum (osoba sa snaží niečo zatajiť). Z tohto hľadiska človek, ktorý tieto sociálne siete nepoužíva, pocíti rovnaký negatívny efekt, ako ten čo ich používa, ale ich nenahlási. Predpokladá sa totiž, že ich existenciu len tají. V našich končinách takisto nie je nezvyčajná ani verejná hana, čo vidíme napríklad na verejných zoznamoch dlžníkov na internete či na bytových nástenkách. Od aktivít, keď sa dlžníkom ako súčasť „trestu“ vykoná to, že sa o ich dlhu informujú aj všetci ich priatelia na Facebooku (ako to robí napríklad hongkonská firma Lenddo), už príliš ďaleko nie je.

Kontrola sociálneho profilu na hraniciach USA sa pomaly stáva realitou /Greg Mathieson/Rex/Shutterstock/

Snaha rozširovať hodnotenie za hranicu bežných činností, smerom k sociálnemu skóre, pri tom nie je u komerčných firiem kacírska. Ako príklad sa dá uviesť napríklad spoločnosť Affirm zo San Francisca (pod vedením bývalého spoluzakladateľa PayPalu Maxa Levchina), ktorá experimentuje s dopĺňaním úverového risku o dáta zo sociálnych sietí už od roku 2013 (v súvislosti s nákupom auta). Mnoho ľudí v Európe a USA sa čoraz častejšou stretáva aj s praktikou, pri ktorej po pracovnom pohovore uchádzačovi pribudne na sociálnej sieti žiadosť o priateľstvo od potenciálneho zamestnávateľa, ktorý ako súčasť pohovoru plánuje „prešacovať“ jeho osobný profil. Uchádzač má pravdaže možnosť také niečo odmietnuť, ale ľahko sa môže stať, že daný akt bude mať na jeho šance rovnaký efekt, ako by malo odhalenie niečoho nevhodného.

V demokratickej spoločnosti skrátka nemusí byť účasť na hodnotiacich systémoch vôbec povinná a ani prikazovaná. Stačí aby bola predpokladaná, z čoho vyplýva, že účasť bude pasívna nutnosť, pretože „slobodné“ zvolenie nepoužívania prinesie negatívne dôsledky. V súvislosti s hodnotiacimi systémami je neraz pravda taká, že ak niekto hodnotenie nemá, môžu ostatní automaticky predpokladať to najhoršie (určite je zlý, pretože inak by sa hodnoteniu nebránil).

Súčasná ostrá prevádzka čínskeho systému má takisto výrazný efekt v rámci experimentov s novými technológiami. Obrovský čínsky trh láka mnohé firmy, ktoré nebudú váhať vyvíjať čoraz účinnejšie mechanizmy a produkty pre štát ako taký. Mnohé európske i americké firmy, ktoré v tejto krajine budú prevádzkovať svoj biznis, prestúpia na čínske pravidlá hry, pričom svoje vyvinuté mechanizmy budú chcieť časom uplatniť aj inde vo svete (svojou obrovskou snahou preniknúť na čínsky trh je známy napríklad aj Facebook, ktorý je v tejto krajine blokovaný a jeho pozíciu zastupujú miestne siete).

/Mykyta Dolmatov/Getty/iStockphoto/

Aktuálny vývoj ukazuje novú digitálnu realitu v značne černejšom svetle, ako bol sprvu optimistický pohľad pri nástupe internetu na prelome storočí, kde boli nové mechanizmy vnímané len ako úžasný nástroj na ľahké šírenie informácií, komunikáciu a hlavne slobodu. Žiaľ, rýchle šírenie informácií je živnou pôdou aj pre manipuláciu, stratu digitálneho súkromia a potlačenie slobôd.

Je viac ako možné, že tieto šokujúce mechanizmy, ktoré dnes mnoho ľudí vníma s hrôzou, sa môžu o pár rokov či dekád stať celkom banálnou realitou. Ako príklad toho, ako rýchlo sa postoje môžu zmeniť, môžeme použiť poučky o internete z prelomu dekád, ktoré sa skladali z toho, že na internete zásadne nepoužívame svoje meno, ale len prezývku. Deťom a mladým ľudom sa radilo, aby nikdy nenastupovali do auta cudzieho človeka a nestretávali cudzích ľudí, ktorých spoznali na internete. Dnes je naopak štandardom vystupovať pod vlastným menom, dávať komukoľvek prístup k svojim osobným informáciám o rodine či životnej situácií a  v súvislosti s Uberom či AirBnB je praxou volať „cudzím ľuďom z internetu“ a nastupovať im do auta či si ich pozývať na prespanie k sebe domov.

Je neuveriteľné, ako sa tento prerod udial prakticky len za dve dekády. Momentálne čínske snahy preto netreba vnímať ako izolovaný a vzdialený jav, ktorý sa zvyšku sveta netýka. Normalizácia novej reality je totiž často rýchla ako blesk.

O autorovi

Profesionálnej žurnalistike sa venujem od roku 2006. Zameriavam sa najmä na prehľadové a analytické články z prostredia hardvéru, výrobných procesov polovodičov, umelej inteligencie a ďalších technológií. Mojou doménou je takisto servis hardvéru aj softvéru.

2 komentáre

  1. Skúste si to predstaviť. Začiatkom roka ste nedopatrením zabudli zaplatiť účet za telefón. Zdalo sa, že sa nič zlého nestalo, pretože ste neskôr dali všetko do poriadku. Táto drobná chyba sa však podpísala na tom, že klesla vaša finančná dôvera a banka vám dnes odmietla poskytnúť hypotéku – UPLNE normalne roky rokuce v US, kde musite mat kredibilitu na uvery.. inak vam daju prd

Napísať odpoveď pre haha Zrušiť odpoveď