Nebezpečenstvo filtračnej informačnej bubliny

2

Počuli ste už o probléme filtračnej bubliny?

Možno aj vy ste práve jej obeťou, bez toho aby ste o tom vôbec tušili. Ak tento rastúci problém budeme ignorovať, v budúcnosti bude čoraz väčší a vo výsledku kvôli nemu môžeme stratiť cennú prelomovú výhodu jedného z najväčších vynálezov ľudstva.

Prakticky akýkoľvek názor alebo poznatok môže byť vo vás upevňovaný tak, že vám preň budú neprestajne podsúvané informácie, ktoré ho podporujú, zatiaľ čo všetky protichodné informácie budú pred vami systematicky skrývané. Pri akomkoľvek rozhodovaní alebo vytváraní názoru tak môžete byť pomerne účinne manipulovaní tým, že sa vám poskytne len časť informácií, na základe čoho dôjde k ilúzii vášho slobodného výberu alebo rozhodnutia. Ak vám niekto dá na výber z dvoch kariet, napríklad zo srdcovej sedmy a srdcového kráľa, slobodne si vyberiete niektorú podľa vašich preferencií. Výber bol malý, ale rozhodnutie bolo vaše. Každý z nich predsa vyberá, a preto majú podmienky všetci rovnaké. Čo ak ale iní ľudia dostanú na výber z iných kariet? Čo ak niekto dostane na výber len z krížového esa a krížovej osmy? Je jasné, že takýto človek si srdcového kráľa nikdy nevyberie. Veď ako by aj mohol, keď tú možnosť nemá.

Bez kolízie bublín by sme časom počúvali len vlastnú ozvenu

Bez kolízie bublín by sme časom počúvali len vlastnú ozvenu

Za posledné desaťročia nás internet posunul o obrovský krok vpred. Nikdy v ľudskej histórii sme ešte nežili v dobe, keď je šírenie informácií naprieč svetom také jednoduché a okamžité ako dnes. Jednou z prelomových výhod takéhoto šírenia je oslabovanie efektu takzvaných echo chambers, čo sa dá voľne preložiť ako miestnosti ozveny. Ide o pomerne známy a dlhodobý problém šírenia informácií, pri ktorom je možné zosilňovať vplyv nejakej správy či názoru neustálym opakovaním a pripomínaním v rámci uzavretého systému, zatiaľ čo opozičné informácie a názory sú silno potlačované alebo zakázané. V rámci malých miestností ozveny majú ľudia často falošný dojem, že ich názor a postoj je veľmi populárny a rozšírený, aj keď v skutočnosti môže byť úplnou raritou. Internet na miestnosti ozveny zaútočil ako nič iné predtým a jeho silný efekt sa nedá porovnať s televíziou, rádiom ani tlačou. To má často katastrofický efekt na mnoho kultov, totalitných režimov či iných systémov, ktoré sa spoliehajú na obmedzené šírenie informácií. V rámci internetu sa totiž k informáciám z celého sveta dostanete triviálne a je len ťažké predstierať, že napríklad nejaký vládca je bezchybný, ak máte prístup ku kritike z celého sveta a nielen z kontrolovaných médií v totalitnom režime. Takisto je problematické tvrdiť, že príslušníci nejakého nepriateľského štátu sú stelesnením zla, keď s nimi celkom bežne komunikujete na diskusných portáloch, herných serveroch a podobne a viete, že sú to ľudia rovnakí ako vy. Neľahké to majú aj kulty a rôzne náboženstvá, ktoré si ešte nedávno mohli užívať luxus malej informovanosti svojich členov. V rámci internetu sa totiž nedá zabrániť kontaktu s kritikou či alternatívnymi názormi, pričom ochrana súhlasného davu často chýba. Je nepochybné, že takýto stav posúva ľudstvo vpred. Táto nesmierna výhoda internetu však nie je nezničiteľná a existuje reálna šanca na to, že o ňu prídeme.

Zrod internetových bublín

Pod pojmom internetová filtračná bublina sa rozumie súhrn obmedzených informácií, ktorý je vám poskytovaný v rámci internetového vyhľadávača, sociálnych sietí a iných internetových zdrojov. S postupným vývojom týchto služieb totiž dochádza k čoraz väčšiemu cieleniu na to, aby zobrazované výsledky boli čo najviac personalizované a záviseli od toho, kde sa nachádzate, ako sa správate, aké stránky navštevujete, akých priateľov máte a na čo reagujete najviac pozitívne. Vo výsledku sa tak začne okolo vás vytvárať neviditeľná bublina, do ktorej vchádzajú len informácie, ktoré algoritmy vyhodnotia ako relevantné pre vás, pričom ide obvykle o obsah, s ktorým súhlasíte. Opačné názory s ktorými nesúhlasíte a ktorým nevenuje obvykle veľa pozornosti sa postupne strácajú, čím dochádza k znásobovaniu celého efektu. Tu je treba si uvedomiť, že internetová filtračná bublina je odlišná záležitosť, než osobné profilovanie záujmu o informácie. Ak sa napríklad zaujímate predovšetkým o informačné technológie a nie o politiku, čítate časopisy a weby s IT tematikou. To však ale automaticky neznamená, že politické informácie sú pre vás nejako tienené. Ak vás nejaká politická situácia zaujme, nedostanete zrazu zaujatý pohľad len z jednej strany, zatiaľ čo alternatívny bude pre vás skrytý. Ako sa ale situácia zmení v prípade, ak vám internetový vyhľadávač alebo sociálna sieť podstrčí vždy len tie „správne“ jednostranné príspevky? Mohol by vás takýto systém skryto ovplyvniť v najrôznejších rozhodnutiach?

Správy putujúce na stenu sociálnej siete alebo výsledkov vyhľadávača prejdú komplexným spracovaním a hodnotením relevantnosti

Správy putujúce na stenu sociálnej siete alebo výsledkov vyhľadávača prejdú komplexným spracovaním a hodnotením relevantnosti

Google začal personalizáciu vyhľadávania výrazne integrovať do svojich algoritmov od začiatku roku 2010. Nešlo o žiadne bombastické oznámenie a na blogu jeho vývojárov sa skrátka objavil jednoduchý príspevok nazvaný „Personalizované vyhľadávanie pre všetkých“. Príspevok oznamoval, že Google bude po novom používať celkom 57 signálov, určovaných vaším prehliadačom, polohou, a takisto predchádzajúcimi vyhľadávanými frázami, podľa ktorých odhadne, aká osoba zhruba ste a na základe toho pre vás bude voliť preferované výsledky. Inak povedané, éra rovnakých výsledkov pre vás aj vášho suseda skončila. Ak zadáte do Googla totožnú vec, každému sa zobrazia odlišné výsledky. Známy internetový aktivista Eli Pariser to nazval „Filtračnou bublinou“ a v roku 2011 vydal o tejto téme rovnomennú knihu. Výraz sa uchytil a dnes je bežne používaný na vyjadrenie tejto problematiky.

Pariser vo svojej knihe popisoval, ako začal filtračné bubliny vnímať už na jar roku 2010. V tej dobe došlo k smutne preslávenej udalosti v súvislosti s ropnou spoločnosťou BP, ktorá zaplnila spravodajské médiá. Jedna z jej ťažobných plošín v Mexickom zálive totiž explodovala a potopila sa, pričom z jej neuzavretého vrtu uniklo obrovské množstvo ropy, ktoré spôsobilo jedno z najväčších zamorení pobrežných vôd v zaznamenanej histórii. Pariser zadal výraz BP do vyhľadávača a pozrel si jeho výsledky. Následne zavolal dvom svojim priateľom a požiadal ich o zadanie rovnakého výrazu do svojich prehliadačov. Prekvapene zistil, že kým pre jedného Google zobrazil správy o ropnej škvrne, pre druhého sa zobrazili investičné informácie a reklamný odkaz spoločnosti BP. Zhrozil sa pri tom, že ak sú takéto rozdielne výsledky u relatívne podobných ľudí, ako to bude vyzerať pri výrazne rozdielnych osobách v súvislosti s inými dôležitými témami. Ak sa jednému používateľovi pri vyhľadávaní informácií o výskume kmeňových buniek zobrazia vedecké informácie, upozorňujúce na jasné výhody takýchto postupov, inému sa môžu naopak zobraziť predovšetkým varovania od cirkevných či iných organizácií, stavajúcich sa k téme veľmi negatívne. Podobná situácia môže nastať pri hľadaní informácií o globálnom otepľovaní, pri ktorom môže aktivista dostať napríklad výsledky vedeckých štúdií, ktoré ho v presvedčení utvrdia. Zatiaľ riaditeľovi nejakej firmy sa zobrazia štúdie dopadu na ekonomiku a zároveň odkazy na články, ktoré vedecké výsledky spochybňujú, avšak nepochádzajú od expertov z relevantných odborov.

Rozdiely na mapách Googlu. Kým Rusi vidia, že Krym patrí im, Ukrajinci vidia jeho príslušnosť k sebe. Slovákom sa zobrazuje územie ako oblasť s nevyriešeným hraničným sporom

Rozdiely na mapách Googlu. Kým Rusi vidia, že Krym patrí im, Ukrajinci vidia jeho príslušnosť k sebe. Slovákom sa zobrazuje územie ako oblasť s nevyriešeným hraničným sporom

Podobnú vec si Pariser začal všímať aj na Facebooku. Kým v minulosti sa mu zobrazovali rovnomerne príspevky od priateľov voliacich republikánov aj demokratov (dve dominantné politické strany v rámci USA), postupom času sa situácia začala meniť. Algoritmus Facebooku si totiž všimol, že Pariser v priemere viac klikal a „lajkoval“ príspevky svojich priateľov, ktorí podobne ako on volili demokratov a začal mu ich ponúkať vo väčšej miere. Príspevky priateľov, ktorí volili republikánov boli uprednostňované čoraz menej a stávali sa raritou. Tým sa efekt ešte viac zosilnil, pretože na príspevky „demokratov“ klikal ešte viac (tvorili väčšinu) a na príspevky republikánov ešte menej, pretože sa objavili len občas. Napokon z jeho steny príspevkov celkom zmizli. Aj keď Pariser o dané príspevky v základe mal záujem (aj keď na ne klikal menej), algoritmus Facebooku skrátka uprednostnil obsah, ktorý mal zaručenú lepšiu odozvu.

Snaha o kontrolované praskanie

Pariserova kniha a predovšetkým jeho prednáška na konferencii TED vyvolala nielen veľký záujem médií, ale aj vývojárov. Pariser apeloval na výkonných riaditeľov vyhľadávačov a sociálnych sietí, aby nedopustili ďalšie narastanie týchto bublín a snažili sa ich negatívny vplyv čo najviac potláčať. V tejto súvislosti netreba byť nejako prehnane zatrpknutý. Len ťažko môžeme očakávať, že programátori tvoriaci filtračné a uprednostňovacie algoritmy v rámci vyhľadávačov a sociálnych sietí sú nejakí ničomníci, ktorí sa celú dobu snažia maximalizovať zlo vo svete. Práve naopak. Ak problém rozpoznajú, budú sa snažiť negatívne efekty algoritmov čo možno najviac potlačiť. Často je to však neľahké, pretože aj keď sú algoritmy pomerne jasné, nedá sa ich výsledný efekt len tak ľahko odhadnúť, pretože v realite existuje obrovské množstvo variácií vstupných dát. Behom piatich rokov od vydania Pariserovej knihy sa každopádne objavilo niekoľko zaujímavých štúdií, ktoré efekty filtračných bublín sledovali.

Bude pred nami nesúhlasné názory internet skrývať?

Bude pred nami nesúhlasné názory internet skrývať?

Ak sú s personalizáciou vyhľadávania a zoraďovania problémy, prečo od takýchto mechanizmov celkom neupustiť? Odpoveď je pomerne jednoduchá. Tieto systémy ponúkajú veľké výhody pre prevádzkovateľa (zvýšenie tržieb) aj používateľa (zlepšenie použiteľnosti služby). V niektorých prípadoch by bez nich mnohé zvyklosti a mechanizmy ani neboli možné. Úplne základným prvkom vyplývajúcim z personalizácie je systém odporučení. Napríklad americký mega e-shop Amazon uvádza, že viac ako 35 % jeho predajov vychádza zo systému odporučení, pri ktorom je pod nejakou položkou uvedené to, čo si s ňou kupovali ostatní používatelia. V roku 2012 Netflix uverejnil informácie, že až 75 % sledovaného obsahu si používatelia zvolili prostredníctvom automatických doporučení, získaných na základe analýzy iných používateľov. Ak sa napríklad nejakej osobe páčili seriály A, B a C, zatiaľ čo vám seriály A a B, systém vám seriál C odporučí ako atraktívnu voľbu. Je jasné, že z tohto systému ťaží prevádzkovateľ aj používateľ. Paradoxne, tento systém je anti-bublinovský a štúdia nazvaná Prieskum filtračnej bubliny odporúčacích systémov (Exploring the Filter Bubble: The Effect of Using Recommender Systems on Content Diversity) z Univerzity v Minnesote ukázala, že tieto odporučenia obzor zužujú menej ako štandardné mechanizmy, pri ktorých sa človek rozhoduje sám.

Google pravdaže ide omnoho ďalej než sú takéto jednoduché odporúčania. Základným aspektom je samotná poloha používateľa, ktorá definuje uprednostňovanie stránok v rámci lokálnej súvislosti a výrazne zlepšuje použiteľnosť vyhľadávania bez nutnosti veľmi presných zadaní. Ak ste napríklad v nejakom slovenskom meste, kde existuje bar Oklahoma a zadáte toto znenie do vyhľadávača, očakávate, že stránka baru bude niekde na popredných pozíciách a nie, že vám vyhľadávač ponúkne najprv desiatky či stovky odkazov na rôzne bary, nachádzajúce sa v americkom štáte Oklahoma. Výsledky sú však takisto založené na vašej histórii vyhľadávania a môžu vytvoriť značné rozdiely v súvislosti so všeobecnými výrazmi. Človek, ktorý často vyhľadáva veci v súvislosti s rybárčením dostane po vyhľadávaní sietí mierne odlišné výsledky, ako človek ktorý vyhľadáva obvykle v súvislosti s počítačovými sieťami. Ak budeme ignorovať lokálne rozdiely, pri ktorých očakávame, že výsledky Slovákov budú značne odlišné než výsledky Japoncov, odlišnosti v rámci výsledkov sú v súčasnosti pomerne malé a majú obvykle len mierne zmenené poradie. Google si je problému informačnej bubliny dnes dobre vedomý a má vo svojich vyhľadávacích mechanizmoch integrované algoritmy na potlačenie neblahého efektu personalizácie a aktívne propaguje rôznorodosť výsledkov. To je chvályhodné, avšak problém pri filtračných a uprednostňovacích algoritmoch je, že sú uplatnené automaticky ešte predtým, než dôjdu k používateľovi a nikto presne nevie, ako sa budú správať za všetkých okolností a vo všetkých prípadoch. Používateľ tak môže byť nevedomky postihnutý nejakou nepríjemnou zhodou okolností, kde sa mu pod vplyvom rôznych faktorov výsledky pozmenia významne. Ak ste prihlásení s vaším Google účtom, personalizácia je založená hlavne na uloženej histórii vyhľadávania, ktorú si môžete prehliadať a upravovať. Ak nie ste prihlásení, Google prispôsobuje vaše výsledky na základe identifikačných cookies súborov vo vašom prehliadači. Dáta o vašej práci s vyhľadávačom udržuje v časovom úseku 180 dní. V oboch prípadoch Google umožňuje personalizáciu výsledkov vypnúť v nastavení vyhľadávača. V súčasnosti ale nejaké veľké nebezpečenstvo v tejto súvislosti nehrozí.

Vypnutie personalizovaného vyhľadávania v nastavení vyhľadávača Google

Vypnutie personalizovaného vyhľadávania v nastavení vyhľadávača Google

Facebook a podobné sociálne siete je v značne odlišnej situácii. V jeho prípade je filtrácia nutná z dôvodu obmedzeného času používateľa, ktorý skrátka pri väčšom počte pridaných priateľov a iných sledovaných zdrojov nedokáže prezrieť všetko. Mnohí používatelia by boli behom dňa zavalení stovkami či tisíckami príspevkov a sieť by sa pre nich stala nepoužiteľnou. Podobne ako Google hodnotí dôležitosť stránok, hodnotí Facebook dôležitosť príspevkov, pričom niektoré skrátka vôbec nezobrazí alebo zobrazí až veľmi hlboko. Pre každého používateľa je relevantné niečo iné, takže Facebook vychádza výrazne z vašej predošlej interakcie, klikania a „lajkovania“. Ste teda strojcom vlastnej bubliny. Ako povedal Mark Zuckerberg „Informácia o veveričke umierajúcej pred vaším domom môže byť pre vás dôležitejšia ako článok o ľuďoch, ktorí umierajú v Afrike“. I keď to pôsobí na pohľad kruto, ide o celkom normálny jav. Koniec koncov, informácia, že na námestí v Paríži pobehuje vrah je síce dôležitá, ale nie tak, ako upozornenie, že zajtra od 13.00 h sa kvôli údržbe na vašej ulici vypne dodávka vody a výpadok potrvá niekoľko hodín. I keď nebezpečenstvo vraha je pri priamom porovnaní väčšie, vzhľadom k vašej polohe je naozaj dôležitejšia a akútnejšia tá druhá informácia, ktorú na svojej stene príspevkov potrebujete viac.

Podobne ako v prípade Googlu, je aj na Facebooku vplyv algoritmov na vytváranie bubliny dnes relatívne malý a bublinu si obvykle utvárame hlavne sami cieleným vyhľadávaním alebo sledovaním zdrojov, ktoré sú blízke našim aktuálnym názorom. V minulom roku sa objavila štúdia vo vedeckom magazíne Science, v ktorej vývojári Facebooku Eytan Bakshy, Solomon Messing a Lada Adamic publikovali výsledky z analýzy 10 miliónov amerických používateľov, ktorí vo svojich profiloch vyplnili politickú preferenciu a o politiku sa výrazne zaujímali. Z analýzy vyplynulo, že v polrok trvajúcom období sa týmto používateľom zobrazovali na stene články s protichodnými názormi v 24 až 35 % prípadov. Takže je jasné, že bublina rozhodne praská a používatelia nie sú od odlišných názorov výrazne tienení. Dáta však ukázali, že filtrácia týmto smerom prebieha, a to na úrovni 5 až 8 %. To je však miernejší faktor, ako samotné klikanie používateľov. Na zobrazené výsledky totiž ľudia klikali v prípade protichodných názorov značne menej a ignorovali 83 až 93 % príspevkov smerujúcich na príspevky s protichodnými názormi. Informatik David Lazer z Northeasternskej univerzity, ktorý sa štúdiu vplyvu filtračných algoritmov venuje, to pekne zhrnul vetou „Momentálne ešte síce neprší, ale bezoblačno rozhodne nie je“.

Bubliny odtrhnuté z reťaze

V súčasnosti sú bubliny neuzavreté a nepredstavujú žiadne výrazné ohrozenie. Pamätať na tento problém je však nesmierne dôležité v súvislosti s budúcnosťou. Personalizovanie týchto služieb je čoraz väčšie a zdá sa, že tento trend v najbližšej dobe nebude utíchať. Ako ďaleko môže filtračná informačná bublina potenciálne zájsť? Môže personalizovanie jedného dna narásť až do takej miery, že zamedzenie šírenia tých „nesprávnych“ informácií bude na podobnej úrovni ako v totalitných režimoch, kde sú TV, rádio, tlač a iné formy šírenia informácií striktne kontrolované? Facebook by veľmi rád vydavateľov presvedčil o tom, že éra „web stránkového internetu“ je na konci a používatelia už nechcú chodiť na stránku A a B a chcú všetky informácie mať naservírované na svojej Facebook stene. Vyzýva tak vydavateľov, aby vyskúšali vydávať spravodajstvo len na tejto sociálnej sieti. V ideálnom prípade to podľa Marka Zuckerberga vyzerá tak, že túto sociálnu sieť používatelia nebudú musieť opúšťať. Kliknutie na video, ktoré vás z Facebooku odvedie na YouTube alebo na článok, ktorý vás presmeruje na inú webovú stránku, vníma Facebook negatívne, pretože túto sociálnu sieť a jej reklamný systém opúšťate. Facebook by rád články vydavateľov zaradil priamo do svojich štruktúr, podobne ako to dnes robí s videom. V takomto svete však sociálna sieť na základe algoritmov plne kontroluje, čo vidíte a čo nie a kompletne uzatvára vašu bublinu. Všetko to môže byť ešte znásobené efektom, pri ktorom používatelia vlastne nič iné ako Facebook nemajú, čo je prípad služby Internet.org, respektíve Free Basics, ktorej sme sa podrobne venovali v predošlom vydaní TOUCHIT.

Ak sa efekt bublín nezastaví, časom s vami začne súhlasiť „celý“ internet

Ak sa efekt bublín nezastaví, časom s vami začne súhlasiť „celý“ internet

Zneužitie takýchto mechanizmov sa dá predstaviť pomerne ľahko. Čo ak jedného dňa klasické reklamné systémy sociálnym sieťam nebudú stačiť a namiesto toho bude novou „menou“ to, čo používatelia vidia a čo nie? Predstavme si napríklad situáciu, že algoritmus bude vedieť, že budúcu stredu má napr. váš syn narodeniny. Výrobca, ktorého nazveme Zvukotron, má nové slúchadlá ZV-01 a zaplatí si reklamu na sociálnej sieti. Priplatí si pritom funkciu nazvanú „emočná propagácia“, ktorá bude napríklad založená na výskume, že šťastný používateľ je viac náchylný k nákupu. Algoritmus sociálnej siete následne upraví výsledky vašej steny tak, aby ste posledných pár hodín nedostali upozornenia na zlé udalosti, ale len na tie dobré (extrahovanie významu a hodnotenia textu je aktívny prvok vývoja súčasných deep learning systémov). Akoby náhodou sa zároveň objavia na vašej stene články o tom, že počúvanie hudby pomáha v rozvoji schopností mládeže. O pár minút neskôr vás Facebook upozorní, že váš syn má o pár dní narodeniny a ako zázrakom sa o pár sekúnd zobrazí reklama na slúchadlá Zvukotron ZV-01. Zaujme vás a sám seba pochválite za skvelý nápad. Veď napokon ste čítali, že kvalitné slúchadlá sú pre deti prospešné a tovar kúpite. Ste pri tom spokojní a netušíte, že úmyselná manipulácia vašej bubliny sa zaručila o to, že ste sa k tomuto nákupu stáli náchylnejší možno aj o niekoľko desiatok percent. Ak by ste reklamu videli včera, bez doplnkových informácií, ktoré vás na jej videnie prichystali, vôbec by vás nezaujala.

Možno si poviete, že sa nestalo nič zlé. Nejaký darček ste predsa chceli kúpiť a toto bol predsa naozaj dobrý nápad. Je len plus pre predajcu, že dokázal zaujať a podať správne argumenty. Navyše, ide len o vymyslený príklad. Emočná manipulácia špecializovaným algoritmom je však plne reálna a nie vždy musí ísť len správnym smerom. V roku 2014 vyvolala pobúrenie štúdia vývojárov Facebooku a Cornellovej univerzity (Experimental evidence of massive-scale emotional contagion through social networks), v ktorej sa Adam Kramer, Jamie Guillory a Jeffrey Hancock zamerali na to, ako používateľov tejto sociálnej siete pozitívne a negatívne príspevky emocionálne ovplyvňujú. Počas jedného týždňa vývojári Facebooku zmanipulovali stenu príspevkov 689 000 používateľov tak, že odstránili pozitívne alebo negatívne príspevky na stene a sledovali, či negatívna prezentácia spôsobí negatívne príspevky používateľov a pozitívna naopak pozitívne. Štúdia vyvolala kontroverzie, pretože Facebook si z používateľov spravil pokusných králikov bez ich vedomia. Obraňoval sa pri tom vetou, že nie je nutné si povolenie pýtať, pretože všetci už súhlasili s plnou kontrolou nad obsahom siete v rámci potvrdenia jej podmienok používania. Výsledkom štúdie je, že k zmene naozaj dochádza, i keď vplyv nie je extrémny. Z hľadiska obrovského množstva používateľov sa však aj malá zmena o pár percent môže prevteliť napríklad do zarobenia miliónov dolárov. Štúdia pritom mala slabiny v tom, že pozitívne a negatívne príspevky sa dnes strojovo rozlišujú stále problematicky, avšak v tomto smere ide vývoj vďaka hlbokým neurónovým sieťam raketovo vpred a behom pár rokov sa také niečo môže stať triviálnou záležitosťou.

Budeme na internete všetci uzavretí do bublín?

Budeme na internete všetci uzavretí do bublín?

Bublina odtrhnutá z reťaze však zďaleka nekončí u marketingu. Ako by ste zareagovali napríklad na to, že takýmto štýlom by bolo ovplyvnené to, akú politickú stranu budete voliť? Niekoľkopercentný rozdiel môže znamenať stovky tisíc či milióny získaných voličov. Čím väčšia by manipulácie bola, tým väčší rozdiel by sa mohol dať získať. V súvislosti s niečím takýmto je darmo hrať sa na hrdinu a myslieť si, „mňa nič ovplyvniť nemôže, ja mám vlastný rozum“. Naše rozhodnutia obvykle vychádzajú z externých stimulov a ich podrobnou manipuláciou je možné „slobodné rozhodnutia z vlastného rozumu“ značene manipulovať. Platí to pre sociálne siete a aj pre internetové vyhľadávače.

V roku 2013 napríklad psychológ Robert Epstein, pôsobiaci na Harvardovej univerzite, publikoval štúdiu, v ktorej sa zaoberal potenciálnym vplyvom filtračnej bubliny v rámci internetového vyhľadávača na výsledky volieb. Zistil pri tom, že už malá zmena výsledkov môže mať výrazný efekt. Tento jav označil skratkou SEME (Search Engine Manipulation Effect), popisujúcou efekt manipulácie vyhľadávacieho mechanizmu. Nevieme či k niečomu takému došlo už v praxi, avšak výsledky štúdie ukazujú, že toto riziko je reálne. Epstein pri svojej štúdii využil práve prebiehajúce voľby v Indii, pričom použil 1800 nerozhodnutých voličov, ktorí súhlasili s účasťou v experimente. Voliči sa rozhodovali s použitím vyhľadávania, pričom jednotlivým testovacím skupinám boli výsledky nevedomky alternované. Epstein zistil, že len jednoduchou zmenou poradia výsledkov na prvých pozíciách (jednoduché preskupenie prvých stránok, podporujúce jedného kandidáta) bolo možné zvýšiť úspešnosť kandidátov až o 12,5 % (na ľudí výrazne vplýva to, k akej informácii sa dostanú ako prvej), čo môže byť ľahko rozdiel medzi víťazstvom a porážkou. V prípade väčšej manipulácie, kde sa do popredia (prvých desať výsledkov) umiestňovali pochvalné články, dosiahli kandidáti behom 10 až 11 minút zvýšenia pravdepodobnosti zvolenia až o 26,5 %. Na to, že výsledky boli manipulované prišiel menej ako 1 človek zo 100.

Nutnosť filtrovej etiky

Sociálne siete a iné internetové služby dnes o používateľoch zbierajú obrovské množstvo dát. V rámci nich je možné vykonávať komplexné analýzy rôznych vplyvov, ktoré boli v minulosti pre nás ešte veľkou neznámou a tápaním v temnote. Ako povedal Adam Kramer, stojaci za emočnou štúdiou Facebooku, dáta tejto sociálnej siete umožňujú najrozsiahlejšie štúdie ľudského správania v histórii ľudstva. Poznatky o vplyve manipulácií však môžu byť veľmi nebezpečnou komoditou. Kým vývojári môžu zastávať postoj, že tvorbu nepreniknuteľných bublín nebudú podporovať, pretože také niečo bráni v dobrom rozhľade používateľov, celkom opačný názor môže mať osoba z vyššieho manažmentu, ktorej úlohou je zlepšiť finančné výsledky firmy. V niektorých algoritmoch toto zvýšenie totiž jasne vidí a vie, že stačí kolieska ovládania len trochu viac „poštelovať“ a žiadaný efekt zvýšenia príjmov je tu. To, že jeho dôsledkom je zvýšenie izolačných filtračných bublín môže byť pre neho podružný parameter, respektíve obeť, ktorú je kvôli lepším finančným výsledkom nutné podstúpiť.

Spoločnosti ako je Google alebo Facebook, ktoré majú svoj biznis založený na reklamných systémoch, sa predbiehajú v získavaní čo najväčšieho zástupu informácií o používateľoch. Facebook má jasnú výhodu, pretože má podrobný prístup do súkromia z hľadiska vašej polohy, aktuálnych záujmov, zoznamu priateľov a podobne. Google kontruje s poznaním vášho vyhľadávania a napríklad aj strojovou analýzou obsahu vašej pošty na Gmaile, čo je následne využívané na cielené zobrazovanie reklamy. Za tieto služby skrátka neplatíte peniazmi, ale formou poskytovania informácií o vás. V súvislosti so zoraďovacími algoritmami sa na sociálne siete a vyhľadávače postupom času valí čoraz väčšia zodpovednosť. Facebook by sa rád stal pre mnohých ľudí jediným zdrojom informácií o svete a je nepochybné, že pre mnohých ľudí už takáto situácia panuje dnes. V tejto súvislosti je však nutné integrovať do systému značnú dávku klasickej žurnalistickej etiky, podobne ako sa to udialo v tlači pred niekoľkými storočiami. Ak by bol pre ľudí Facebook jediným zdrojom správ o svete, tvorba nepriedušných informačných bublín by sa mohla stať katastrofou. Je nutné, aby sociálne siete a vyhľadávače mali neprestajne zabudované mechanizmy, schopné bubliny prepichovať a injektovať do nich externé názory a dáta. Len tak sa do budúcnosti zachová obrovská výhoda internetu, ktorú sme si užívali doteraz.

Budú nám vyhľadávače a sociálne siete časom ponúkať len jeden správny pohľad na svet?

Budú nám vyhľadávače a sociálne siete časom ponúkať len jeden správny pohľad na svet?

Analýza preklikov, lajkov a podobných udalostí musí vždy rátať s tým, že ľahko stráviteľný obsah priláka vždy väčšiu pozornosť. Neznamená to ale, že ľudia po kvalitnejšom a rôznorodom obsahu netúžia. V tejto súvislosti sa často objavuje prirovnanie s cukrom. Ľudský organizmus má totiž v sebe zabudovaný mechanizmus, ktorý nám extrémne zatraktívňuje vysoko kalorickú stravu a nemôžeme sa nabažiť napríklad sladkostí. Tie nám však kvalitný prísun živín sami o sebe nezabezpečia. Tento mechanizmus je v prírode veľmi cenený, pretože znamená „ak narazíš na sladkú stravu, jedz jej čo najviac“, pretože v prírode sú takéto zdroje vzácne a nie príliš časté. To však v prípade moderného človeka, ktorý je schopný si stravu vyrábať a zadovažovať vo veľkom neplatí a tento starodávny evolučný mechanizmus sa výrazne podieľa na problémoch s obezitou. Podobné je to aj prípade konzumácie ľahko stráviteľných informácií, keď sa ľudia nemôžu nabažiť bulvárnych správ a jednoduchých rýchlych stimulov, zabezpečujúcich rozptýlenie či zlepšenie nálady. Facebook, Google či akýkoľvek vydavateľ médií musí rátať s tým, že bulvárnejší a jednoduchší obsah priláka vždy viac kliknutí a reakcií, než komplexnejší. Ide o ľudskú prirodzenosť. To však automaticky neznamená, že o kvalitnejší obsah ľudia nemajú záujem. Len skrátka nevyvolá také reakcie a návalovosť. Jeho potlačovanie do úzadia je teda veľkým negatívom, i keď z pohľadu preklikov to vyzerá najprv ako dobré rozhodnutie. Uzavretie používateľa do bubliny z ľahko stráviteľného alebo len súhlasného obsahu by bolo katastrofou, ktorá by ľudom výrazne bránila vo vývoji ich názorov a zlepšovaní povedomia o svete okolo seba.

Z hľadiska používateľa je nesmierne dôležité o probléme informačnej bubliny vôbec vedieť. Vždy pri tom treba počítať s tým, že jej nebezpečenstvo je reálne, najmä ak sa rozhodnete prijímať správy len zo zdroja, ktorý vám ich filtruje algoritmom na základe vašich predchádzajúcich činností. Personalizácia má obrovské výhody a je jasné, že týmto smerom sa vývoj bude uberať. Je nutné však na bubliny dávať pozor a udržovať stav, pri ktorom je internet otvorenou pokladnicou informácií a nie uzavretá miestnosť, v ktorej počujeme len ozvenu samého seba.

Tento článok vyšiel aj v tlačenom aprílovom vydaní TOUCHIT č. 3/2016, preto sa niektoré skutočnosti uvedené v článku, môžu odlišovať oproti aktuálnemu dátumu publikovania. 

O autorovi

Profesionálnej žurnalistike sa venujem od roku 2006. Zameriavam sa najmä na prehľadové a analytické články z prostredia hardvéru, výrobných procesov polovodičov, umelej inteligencie a ďalších technológií. Mojou doménou je takisto servis hardvéru aj softvéru.

2 komentáre

  1. Pingback: Big Data: Keď je veľký naozaj veľký | TOUCHIT

  2. Pingback: Ako sa rozhodujeme (14.) - Instoreslovakia

Pridaj komentár