Aké je to neprestajne sa stretávať s tým najhoršími a najdesivejšími činmi, akých sú ľudia schopní? A ako vás poznamená to, ak sa videnie týchto vecí stane vašim zamestnaním? Nedeľník TOUCHIT vážne i nevážne. Nezviazané IT témy na tisíc spôsobov.

Predstavte si to. Ráno vám zazvoní budík, dáte si raňajky, absolvujete hygienické rituály, obujete sa a odchádzate do práce. V nej zasadnete k obrazovke počítača a pustíte sa do toho. Čo robíte? Pozeráte sa na video, v ktorom je živému človeku sťatá hlava.

Nie, nie. Nevyzerá to ako ten cukrový hollywoodsky záber, ktorý je vytvorený tak, aby sa naň zvládli pozerať aj slabšie povahy. To ani náhodou. Zo záberu číha realita a cítite to v kostiach. Show pri tom nekončí.

Každú hodinu, každú minútu a sekundu svojho pracovného času sa dívate v hrozivých detailoch na to, ako je plačúcim a o milosť prosiacim ľudom podrezané hrdlo nožom. Ako sú telá mužov a žien dobité tak, že už ani nepripomínajú ľudskú bytosť. Pozeráte sa na znásilnenia a aj na tie najzvrátenejšie sexuálne fetiše. Všetko sa na vás valí neprestajne a v krutej nahote, bez toho či s tým súhlasíte alebo nie. Čo že je toto preboha za prácu? Vitajte v každodennej realite kontrolóra obsahu.

Ten, kto nesmie zavrieť oči

Nie každý veru tuší, že spoločnosti ako Facebook či Google používajú celú armádu špeciálnych pracovníkov, ktorí sa celý deň pozerajú sa na to najhoršie, čo ľudstvo vyprodukovalo, v snahe ochrániť od tohto pohľadu nás ostatných.

Ich úlohou je kontrolovať a v prípade potreby likvidovať obrázky, videá, príspevky či fanúšikovské skupiny, ktoré boli označené ako potenciálne problematické automatickými rozpoznávacími algoritmami, alebo na základe hlásenia používateľov.

Práca týchto ľudí rozhodne nekončí u príspevkov v súvislosti s rasizmom či inou neznášanlivosťou, alebo pri mazaní relatívne neškodenej pornografie, ktorá je na sociálnych sieťach obvykle netolerovaná.

Tieto veci plynulo pokračujú k priamemu zobrazeniu násilia, samovrážd, sexuálneho zneužívania detí, nehôd pri ktorých sa oddeľujú končatiny a ľudia sa v priamom zábere kamery rozprskávajú ako balóny, až po porcovanie tiel v rámci propagandistických videí teroristických organizácii či kanibalizmus.

Práve vďaka kontrolórom obsahu môžete vy, vaši starí rodičia alebo aj vaše deti prechádzať bez obáv stenou príspevkov na Facebooku, pozerať neprestajne prísun nových vidí na YouTube, alebo hľadať obrázky pre svoju domácu úlohu pomocou Googlu.

Odhaduje sa, že po celom svete sa prácou tohto typu živí zhruba 100 000 ľudí. Ich svedectvá a pohľad na svet nám prezrádza nemalý počet rozhovorov i blogových príspevkov, ktoré vytvorili. A často veru nejde o čítanie pre slabšie povahy.

Obrovské množstvo ľudí táto práca načisto zožerie a skončia dlhodobej či dokonca doživotnej starostlivosti psychológa. Bežné sú problémy so spánkom, spôsobené hrôzostrašnými nočnými morami a takisto problémy s dôverou v iných ľudí. Hlavne ľudia, ktorí pri svojej kontrolnej činnosti narážajú hlavne na pedofilný obsah a iné prejavy nália na deťoch, si vypestujú prakticky totálnu nedôveru k tomu, aby svoje dieťa zverili do opatery au pair, či dokonca škôlok.

Dobrým príkladom efektu tejto práce na psychiku sú napríklad zápisky Lucasa Petersona, ktorého každodennou úlohou bolo kontrolovať špecifické vyhľadávacie výsledky Googlu a ich naviazanosť na reklamu. Tá totiž nesmie končiť na pornografickom obsahu či na priamom zobrazení násilia a nemajte veru žiadnu ilúziu, že sa reklamný systém nesnažia využiť aj tí najzvrátenejší jedinci.

Lucas si v rámci svojej práce zvykol sledovať sexuálny obsah, zahrňujúci nielen vážne sebapoškodzovanie, ale aj zoofíliu. Vo svojich zápiskoch napríklad uvádza, ako likvidoval z vyhľadávacích výsledkov záznamy diskusného a obrázkového fóra, v ktorých si ľudia vymieňali svoje poznatky o pchaní svojich pohlavných údov do malých vtákov, čím ich prakticky roztŕhali za živa.

Najťažšie však pre neho v prvých týždňoch práce bol kontakt s extrémnym násilím. Kým k extrémnemu pornografickému obsahu si vypracoval necitlivosť, videnie videí, v ktorých je noha mladého chlapca rozomletá kamiónom, alebo človek ktorý je vďaka nepozornosti zmasakrovaný prichádzajúcim vlakom, ho neprestajne nahlodávalo.

Popisuje pri tom, ako sa často díval na tieto videá doslova cez rozovreté prsty svojich dlaní a silno privretými očami, aby sa uistil, že je v nich skutočne vidieť odhalené kosti či enormné zranenia a video je nutné vyradiť.

Musel ho však vždy vidieť a presvedčiť sa, či to čo zobrazuje je reálne. Až potom mohol stránku a jej obsah opustiť a označiť ju za prijateľnú alebo neprijateľnú.

V mnohých prípadoch bolo pri tom najhoršie samotné očakávanie. Aj keď bol k zobrazovaniu smrti a enormných zranení čoraz viac otupenejší, tak pozeranie videa, v ktorom dôjde k samovražde a je nutné na ňu čakať niekoľko desiatok sekúnd či minút, bolo až trýznivé.

Človek totiž často sedel alebo stál v pokoji a vloženie zbrane do úst a stlačenie spúšte prišlo znenazdajky a o to s väčším efektom. Vzhľadom na to, že osoba po čine nezriedkavo spadne z dohľadu kameru, musel video sledovať aj opakovane, aby sa presvedčil, že naozaj zobrazuje to, čo si všetci myslia a nejde o omyl.

Čoraz viac pri tom začal premýšľať o tom, aké by bolo byť na jeho mieste. Nech sú však videá akokoľvek šokujúce, len jedno je v tejto práce isté. Ich tok nikdy neprestáva a stále prichádzajú ďalšie a ďalšie.

Lucas tak sledoval ako bojovníci Isis stínajú ľudom hlavy. Videl ako bezmyšlienkovití sadisti utĺkli palicami na smrť tulene len tak pre zábavu a pozeral sa na video muža, ktorý úmyselne dupol na chrbát psa, ktorý sa za hrozivého piskotu zvieraťa zlomil a priniesol mu bolestivú smrť v agónii.

Zhruba po dvoch mesiacoch práce začal mať Lucas vážne problémy so spánkom. Hrozivé videá nemohol skrátka dostať z hlavy. Uvedomil si pritom, že ich sledovanie bolo ako jedenie zhnitého a splesniveného jedla. Je jedno, že iné „jedlo“ ktoré konzumujete je už dobré. Negatívny efekt toho zlého cítite mnoho hodín až dní a pokiaľ pokračujete v jeho konzumácii pravidelne, napokon vám je už zle neprestajne.

Vitajte na pracovnom pohovore. Otestujeme si najprv váš mentálny limit

Facebook v máji tohto roku oznámil, že svoj tím zhruba 4500 kontrolórov, či ako ich on nazýva – „moderátorov obsahu“, bude rozširovať o ďalších 3000. Niet sa čomu čudovať. Objem nepovoleného materiálu, ktorý denne na túto sociálnu sieť pribúda, musí byť enormný.

Ako príklad stačí uviesť šokujúci prípad z minulého roku, kedy bolo na Facebooku šírené viac ako deň on-line video muža z Thajska, ktorý v priamom prenose zabil svoju 11 mesačnú dcéru.

Treba si však uvedomiť, že Facebook a iné firmy stojace za sociálnymi sieťami a webovými službami, obvykle nezamestnávajú týchto ľudí priamo. Drvivá väčšina kontrolórov obsahu je na spoločnosť naviazaná iba v rámci subkontraktu.

Nepracujú teda pre Facebook či Google ako taký, ale pre inú firmu, ktorá ich prácu cieľovej spoločnosti poskytuje/predáva. Z toho sa odvíja aj ich výplata. Zabudnite na enormne dobre platené IT pozície prestížnych firiem. Hodinové mzdy kontrolórov obsahu sú obvykle podpriemerné a neraz sa blížia aj k tým minimálnym.

Všetko závisí pravdaže od lokality. Kým napríklad v Írsku ide o 13 eur na hodinu (cca 2000 eur mesačne), čo je v tejto krajine niekde na pomedzí medzi priemernou a minimálnou mzdou, tak napríklad na Filipínach sú kontrolórom ponúkané mzdy na úrovni 2 až 3 eur na hodinu (cca 300 až 500 eur mesačne).

Starostlivosť o týchto zamestnancov je pri tom z dôvodu „druhoradosti“ vo firemnej hierarchii často zanedbaná. Ak ste vo firme vlastne zamestnancom niekoho iného, je ľahké vás z bežných firemných pravidiel a zamestnaneckých benefitov vyradiť a príliš sa s vami nezaoberať.

Ružové to často nie je ani s prijímacím procesom. Aj keď práca tohto typu si nepochybne vyžaduje psychologický tréning a neustálu dostupnosť odborných poradcov pre prípad problémov, realita je často taká, že ľudia sú do ostrej činnosti nasadzovaný už po dvoch týždňoch rýchleho zaučenia.

Možnosť bezplatného navštívenia psychologických poradcov napríklad v USA či Veľkej Británii pritom nemusí byť pre každého vhodná.

Napríklad v súvislosti s odhaľovaním propagačných videí extrémistických skupín, v ktorých je často vyobrazená smrť a násilie v tej najhoršej možnej podobe, mnohí subkontraktori zamestnali ľudí so znalosťou arabčiny, ako napríklad čerstvých emigrantov, ktorí nemusia byť ešte príliš dobre kovaní v angličtine.

Jazyk samozrejme ovládajú dostatočne dobre na bežnú komunikáciu, ale pre rozhovor so psychológom, kde treba presne popisovať svoje citové pohnútky a dobre vyjadriť svoje myšlienky, to nemusí stačiť. Výsledkom je následne psychologická katastrofa.

Zničujúci príbeh tohto typu zažil napríklad Rob, ktorý sa stal kontrolórom obsahu v roku 2010 hneď po doštudovaní vysokej školy. V tom čase začal žiť v novom bývaní so svojou priateľkou a bol zúfalý z toho, ako si so svojim titulom z histórie nemohol niekoľko mesiacov nájsť v okolí San Francisca prácu. Keď ho kontaktovala firma CDI, ktorá bola subkontraktorom Googlu a ponúkla mu prácu manažmentu obsahu YouTube, zdalo sa mu, že sa mu splnil sen.

S prísľubom, že práca sa môže časom prevteliť do regulárneho zamestnania pre Google samotný, sa pri tom do práce pustil skutočne z vervou. Také niečo sa veru v životopise bude vynímať.

V centrále YouTube v San Bruno, na skok od San Francisca, tak začal pracovať spoločne s ďalšími vysokoškolskými vzdelanými ľuďmi v obore histórie či umenia, ktorý mali podobné problémy zamestnať sa ako on.

Práca vyzerala sprvu veľmi dobre. Nadriadení boli milí, mohol sa stravovať zdarma v reštaurácii zamestnancov YouTube a pri práci sa dokonca mohol venovať svojim súkromným záležitostiam a zábave. Na stole mal totiž dva monitory. Na jednom mal pracovný obsah a na druhom čo len chcel, pričom na ňom často pozeral celé seriály a filmy, aby sa držal v práci zabavený.

Snové zamestnanie sa však začalo meniť na nočnú moru. Behom týždňov a mesiacov postupne prestal vnímať tonu neškodeného pornografického obsahu, ktorý z YouTube mazal a čoraz viac sa začali v jeho myšlienkach vystupovať na povrch už len tie horšie videá, ktoré z mysle len tak nevyfučali.

Samovražedné útoky, stínanie hláv, hrozivé autonehody. Všetkému pri tom vrcholil neprestajný prísun dlhých videí z ulíc v rámci protestov Arabskej jari, ktoré bolo nutné kompletne sledovať z dôvodu prítomnosti veľkého množstva mŕtvol, ktoré boli často ukazované vo veľkých detailoch. Google sa rozhodol, že tieto videá z dôvodu historickej významnosti protestov nebude likvidovať a kontrolóri tak tieto videá pozerali len do každého detailu a označovali ich obsah pre automatické upozornenia pre divákov, aby sa mali na pozore.

Rob pri tom vo svojom rozhovore uviedol, že najviac ho zasahovali videá, s týraním zvierat. Na rozdiel od amatérskych reportérskych videí z protestov totiž nešlo o zábery, ktoré ukazovali krutú skutočnosť, ktorú autor videa neschvaľoval. V prípade krutého týrania zvierat totiž šlo obvykle o videá, ktoré uploadovali ľudia, ktorí tieto činy sami vykonávali a boli na ne hrdí. A to mu prinieslo omnoho temnejší pohľad na ľudstvo ako celok.

Rob začal trpieť depresiami. Aj keď vedel, že zamestnanci majú prístup k psychologickým poradcom, nedonútil sa k žiadnemu zájsť a namiesto toho sa vydal cestou upokojujúcich liekov a alkoholu, čo mu v nasledujúcich mesticoch prinieslo problémy s nadváhou a iné zdravotné ťažkosťami. Pokúšal sa pri tom u Googlu získať inú prácu, avšak všetky jeho žiadosti zamietnuté z dôvodu nedostatočnej kvalifikácie. Zo svojej práce kontrolóra tak po pár mesiacoch odišiel rozomletý na kosť.

Subkontoraktorov pravdaže nepoužívajú všetci. Niektoré organizácie, ako napríklad britská Nadácia pre ochranu internetu (IWF) alebo americké Národné centrum pre stratené a zneužívané deti (NCMEC), majú výhradne vlastné tímy a psychologickému tréningu venujú niekoľkomesačnú pozornosť.

Proces náboru zamestnancov u týchto organizácií prebieha v niekoľkých fázach, pričom v tej prvej sú osoby podrobené analýze psychológom, ktorý sa pýta napríklad na ich názory o pornografii, ich vlastné detstvo a podobne, pričom sa pokúša odhaliť prípadné konflikty, ktoré by mohli rýchlo spôsobiť zrútenie duševného stavu.

Následne prechádza zamestnanec do druhého štádia, kde je podrobne zoznámený s náplňou svojej práce a jej priebehom a až následne je v poslednom treťom štádiu konfrontovaný s hrozivými snímkami sexuálneho zneužívania detí.

Kandidátovi sa postupne ukazujú snímky a videá s narastajúcou hrôzostrašnosťou a sleduje sa, ako sa s nimi vyrovnáva a či je schopný sa na pozerať a analyzovať ich. Úlohou nie je len odhaliť to, či je vhodný z pohľadu zamestnávateľa, ale slúži to aj na to, aby on sám zhodnotil, či je schopný vykonávať takúto prácu. Postupné zvyšovanie hrôzy totiž môže zastaviť, bez toho aby bol konfrontovaný s tým najhorším a prácu odmietnuť.

Až po tomto všetkom nasleduje šesť mesačný tréning, pri ktorom sa pracovníci dobre oboznamujú so zákonmi a správnymi postupmi narábania s takýmto obsahom, pričom si proti nemu postupne vytvárajú imunitu.

Z rozhovorov s pracovníkmi IWF pri tom vyplýva, že bežná práca po ukončení tréningu pozostáva z prezretia zhruba 1 000 obrázkov a videí denne. Ide pri tom o výjavy rôznych stupňoch hrôzy, od jednoduchého erotického pózovania mladistvých, až po detskú zoofíliu a sadizmus. Pre mnohých je pri tom najťažší pohľad na znásilnenia novorodencov.

Problémom v týchto situáciách je však nezriedkavo aj to, že kontrolór sa podrobne trénuje len na jeden typ obsahu, pričom v prípade IWF a hlavne NCMEC ide hlavne o zneužívanie detí. Tento obsah je tak vďaka výcviku schopný dobre zvládnuť, avšak ak pri práci narazí na obsah inej kategórie, môže ho vytrhnúť z mechanického filtrovania a pôsobiť na neho enormne šokujúco.

Podobne ako chirurg sa otupí na krv a pohľad na odhalené orgány, kontrolór sa môže časom otupiť na videá zobrazujúce znásilnenia detí. Neznamená to však, že je automaticky odolný na video, v ktorom dôjde k rozpáraniu človeka extrémistickým hnutím.

Keď vás softvérová lajdáckosť môže stáť život

Prekvapujúco, práca kontrolóra internetového obsahu nemá len negatívny dopad na psychiku, duševné zdravie a sociálne vzťahy. Môže priniesť aj priame ohrozenie na živote. Práve to sa udialo na konci minulého roku v rámci kontrolórov obsahu Facebooku.

Bug v softvéri, ktorý kontrolóri používali na odstraňovanie nielen obyčajného sexuálneho materiálu ale aj extrémistickej propagandy zapríčinil, že identita týchto kontrolórov bola odhaľovaná v rámci záznamu udalostí skupín. Ak teda kontrolór obsahu napríklad zrušil administrátorské účty používateľov z propagandistických skupín Islamského štátu, zostávajúci moderátori, alebo skrátka moderátori ktorí boli zmazaní o pár sekúnd neskôr, mohli v logu vidieť, kto toto zmazávanie a likvidovanie skupiny vykonáva.

Problém na konci minulého roku zasiahol viac ako 1000 kontrolórov v 22 rôznych oddeleniach Facebooku po celom svete. Keďže Facebook zastáva absurdný názor, že oddelenie súkromného a pracovného života neexistuje, v rámci svojej platformy vyžaduje, aby používatelia mali len jeden účet na všetko.

Kontrolóri obsahu preto museli pri svojej práci používať svoje osobné Facebookové účty, z ktorých sa prihlasovali do správcovského a filtračného rozhrania.

Do záznamov skupín teda putovalo ich meno a fotografia a podľa nastavenia súkromia mohol ktokoľvek na dané meno kliknúť a odhaliť ostatné dáta účtu, vďaka čomu bolo možné konkrétne osoby dobre identifikovať.

Ak likvidujete propagačnú centrálu teroristickej skupiny na sociálnych sieťach, posledné čo chcete je, aby v danom momente boli takýmto sfanatizovaným jedincom odoslané vaše údaje v podobe mena, fotografie, adresy a mená vašich priateľov a rodinných príslušníkov.

Z tisícky postihnutých pracovníkov boli štyri desiatky členmi špeciálnej protiteroristickej skupiny operujúcej z európskej centrály Facebooku v írskom Dubline, pričom Facebook potvrdil, že šiesti z nich mali profily navštívené jedincami zapojenými do činností v súvislosti s militantnými teroristickými skupinami Isis, Hizballáh a Stranou kurdských pracujúcich.

Britská redakcia denníka The Guardian s jedným človekom z tohto sexteta uverejnila anonymizovaný rozhovor, pričom šlo o rodeného Iračana, vo veku 20 až 25 rokov, ktorý do Írska emigroval ešte ako dieťa po tom, ako príslušníci extrémistických skupín popravili jeho strýka a uniesli jeho otca a brutálne ho zbili.

Mladý muž bol v rámci Facebooku iba ako subkontraktor, ktorého najala firma Cpl Recruitment, hlavne vďaka znalosti arabčiny. Tá je totiž v rámci týchto videí veľmi dôležitá v súvislosti s hodnotením nenávistných prejavov bez zobrazovania násilia.

Po neželanom odhalení identity mladý muž svoje zamestnanie okamžite opustil a  niekoľko mesiacov sa kvôli strachu skrýval vo východnej Európe.

Obavy človeka, ktorý kontakt s extrémistickými skupinami a ich hrozné činy zažil v súvislosti s vlastnou rodinou, boli nanajvýš oprávnené. Vo svojom rozhovore pre denník Guardian uviedol, že „Isis má pre ľudí ktorí sa podieľajú na protiteroristických aktivitách jediný trest – sťatie hlavy. Stačí, aby bol v Írsku informovaný nejaký radikál a veci sa ľahko môžu dať do pohybu“.

Vyjadril pri tom svoje rozhorčenie nad tým, že Facebook ho nikdy nevaroval, že k odhaleniu identity môže dôjsť a nedovolil jemu ani jeho kolegom používať pracovné profily s pseudonymom.

Podotkol pri tom, že aj keď pracoval priamo v írskej centrále Facebooku, tak ako subkontraktor bol „druhotriednym zamestnancom“, ktorý sa na stínanie hláv, kameňovanie a mučenie ľudí pozeral dennodenne za podpriemernú mzdu 13 eur na hodinu.

Trpko sa pritom posťažoval aj na to, že Facebook v rámci zdvihnutia morálky v tíme rozbehol súťaž o najlepších kontrolórov a tí ktorí zvládli ohodnotiť najviac obsahu boli na konci každého mesiaca ocenení. Odmenou bola šálka s logom Facebooku. Šálka, ktorú každý normálny zamestnanec Facebooku dostáva automaticky.

Sen o krajšom zajtrajšku

Azda nič nie je strašidelnejšie, než ľudská nátura vo svojej nahote. Kontrolóri internetového obsahu sa s ňou stretávajú denne v tisíckach rôznych podôb a prísun nového materiálu nikdy nekončí.

V súčasnosti existuje nádej, že v dohľadnej budúcnosti desiacich či maximálne dvadsiatich rokov tieto záležitosti plne zvládnu prevziať pokročilé konvolučné neurónové siete. Trénovanie prebieha už dnes, i keď hlavne v rámci porozumenia textu a video obsahu je ešte potrebné vykonať veľký kus cesty.

Úspech v tomto smere má však aj zaujímavé dôsledky pre robotiku a iné systémy umelej inteligencie, čomu som sa už venoval v staršom Nedeľníku (Má robot, ktorého si kúpite, právo vás udať?).

Dnes je však odstraňovanie tohto hrozivého materiálu plne v rukách človeka a najbližšie roky ešte aj stále bude. Jeho objem pri tom stále narastá. Hlavne extrémistické skupiny sú si dobre vedomé toho, ako sú sociálne siete dobrý prostriedkom na nábor nových členov a šírenie strachu a svojho posolstva medzi bežných ľudí. Dostať sa pred očí stoviek miliónov ľudí je skrátka obrovským lákadlom.

Najhoršie na práci kontrolóra však je, že ako náhle túto prácu začnete vykonávať, už nikdy s ňou nemôžete naozaj skončiť. Z práce môžete síce po pár mesiacoch či rokoch odísť, ale nemôžete ju skrátka hodiť za hlavu. Veci ktoré ste videli už z vašej hlavy nikdy nezmiznú a zostanú s vami až do konca života.

Nahlasovali ste niekedy na Facebooku či inde šokujúci alebo rasistický obsah a po čase vám prišla odpoveď, že obsah bol skontrolovaný moderátorom a ponechaný bez zásahu? Boli ste rozčúlený, že ako taká ohavnosť mohla prejsť a zostať on-line? Nuž, možno to bolo to najmenšie zlo, čo daný človek v ten deň videl…

Nedeľník TOUCHIT hľadajte na našom webe ako inak než v nedeľu. Ak ste predchádzajúce zmeškali, nájdete ich všetky pod rovnomenným kľúčovým slovom.