Obťažujú vás trollovia v internetových diskusiách? Onedlho môžu byť už len trpkou spomienkou na počiatky internetu.

Internetový troll, teda používateľ, ktorý hľadá potešenie v rozhnevaní iných ľudí, je pliagou mnohých internetových diskusií. Aj keď označenie troll pôsobí mytologicky, nadnesene či rozprávkovo, skutočnosť je už žiaľ omnoho smutnejšia. Veľmi často totiž tento názov slúži na označenie ľudí, ktorí trpia rozličnými psychologickými poruchami, v dôsledku čoho nerozpoznávajú princíp bežnej sociálnej interakcie.

Pre týchto ľudí je internetová diskusia nástroj na získanie inak nedostupnej pozornosti, ktorá je často sprevádzaná jedným druhom špecifickej úchylky. Podobne ako bežní ľudia vyhľadávajú príjemné pocity v humorných videách či roztomilých obrázkoch zvierat, v internetovom trollovi podobne príjemné pocity vyvolá situácia, keď niekto stratí nervy. Obvykle sa preto snažia vyvolať negatívnu a výbušnú reakciu, ktorá značne vybočuje z bežnej diskusie. Čím viac cudzích ľudí na nich agresívnejšie a opakovane reaguje, tým lepšie sa cítia.

Nejde pri tom o niečo, nad čím sa dá mávnuť rukou a povedať, že ľudia tohto typu majú iba nejaký zvláštny zmysel pre humor. V posledných rokoch sa objavilo niekoľko štúdií, ktoré skúmali prvky sociálneho správania a interakcie týchto ľudí a odhalili výrazné prvky psychopatiesadizmu. Na týchto ľudí treba preto nazerať skôr s pochopením, nakoľko ide o poruchu, vyžadujúcu profesionálnu pomoc, nie posmech a odsudzovanie.

Mnoho používateľov sa na trolling sprvu pozerá s humorom a skrátka ho vnímajú ako spestrenie, pričom v prípade prekročenia hranice dobrých mravov ho skrátka ignorujú. Z hľadiska poskytovateľa obsahu je však nárast trollingu na stránke bezpodmienečne nutné riešiť, inak hrozí odlev bežných čitateľov, ktorí sú znechutení nastanou situáciou. Tento stav sa dá prirovnať k tomu, akoby pred vašim obľúbeným obchodom stál človek, ktorý vám hrubo nadáva a provokuje vás. Prvý krát to necháte tak a nevšímate si ho, ale ak tam bude stáť každý deň, rozhodne vám návštevu daného obchodu nespríjemní a časom sa zrejme naučíte chodiť inam.

internet_troll_by_brittmartin_nowat

Pod zľahčujúcim označením internetový troll si obvykle predstavujeme úmyselného škodiča či človeka so zvláštnym zmyslom pre humor. Veľmi často však ide o osoby s poľutovaniahodnou psychickou poruchou (Kresba: BrittMartin)

Vážnosť tejto psychologickej poruchy sa obvykle len ťažko odhaduje z diskusie pod obyčajnými článkami a svoju skutočnú podobu odhalí tento problém v situáciách, ako je napríklad úmrtie. Osoby tohto typu sú totiž často neschopné dosiahnuť normálnej úrovne empatie a dokážu žartovať a provokovať aj na mieste, kde hľadá podporu v ťažkých chvíľach aj rodina zosnulého. Existuje množstvo aj mediálne známych prípadov, kde po samovraždách maloletých zaplavili internetoví trollovia napríklad pamiatkovú stenu príspevkov na Facebooku, ktorá slúžila pre kondolencie pre smútiacu rodinu.

Za spomenutie stojí aj prípad 18-ročnej Nikki Catsouras, ktorá v rýchlosti 160 km/h stratila kontrolu nad otcovým športovým automobilom a narazila do betónové stĺpu. Sila nárazu spôsobila tak hrôzostrašné zdeformovanie jej tela, že z psychologických dôvodov vyšetrovatelia ani nepožiadali rodičov o jeho identifikáciu. Nehoda však bola nafotená v rámci klasickej policajnej dokumentácie a fotografie Nikkinho tela unikli na internet. Internetoví trollovia, ktorým jednoducho chýbala rozvinutá empatia a mentálna kapacita na pochopenie danej situácie, začali tieto fotografie umiestňovať na sociálnych profiloch pozostalých a rodičom dokonca začali posielať e-maily s textami „ahoj tatino, som stále nažive“, kde boli fotografie umiestnené v prílohe.

Takéto extrémne prípady internetového trollingu zrejme najviac ukazujú, ako veľmi škodlivý tento problém môže byť. Na jeho riešenie sa najnovšie podujal tím Stanfordovej univerzity sídliacej v srdci Silicon Valley, v spolupráci s Cornellovou univerzitou v New Yorku.

Tím pod vedením Justina Chenga zozbieral niekoľko desiatok miliónov diskusných príspevkov zo spravodajského portálu CNN.com, politicky zameraného informačného serveru Breitbart.com a herného portálu IGN.com. Dovedna identifikovali viac ako 10 000 internetových trollov, ktorí v minulosti tieto portály zneužívali na ukájanie vlastnej úchylky až dovtedy, dokým im administrátori neudelili ban. Tento základ poslúžil na vytvorenie jadra nového detekčného algoritmu slúžiaceho na ich včasné odhalenie, vďaka čomu je možné izolovať takýchto používateľov skôr, než dokážu napáchať väčšiu škodu.

Tím sa zameral na detekovateľné rozdiely medzi počiatočnými príspevkami ľudí, ktorým bol neskôr udelený ban a ľuďmi, ktorým ban nikdy udelený nebol. Z hľadiska mnohých kritérií sa objavili viditeľné rozdiely, z ktorých detekčný algoritmus môže vychádzať. Jedným z dôležitých parametrov je tzv. automatický index čitateľnosti, ktorý hodnotí stupeň zrozumiteľnosti určitého odseku textu. Pri strojovom porovnaní sa objavili rozdiely nielen vo vyhrotených situáciách, ale aj pri prvých príspevkoch, ktoré sa za trollovanie považovať nedajú. Ukázalo sa, že budúci trollovia začínajú s nepríliš kvalitnými príspevkami už v úvode svojho pôsobenia na danom webe, pričom kvalita tých ďalších sa obvykle v priebehu času zhoršuje, čo nakoniec prerastie do aktívneho trollingu.

Troll-Graf_nowat

Už prvé príspevky obvykle vykazujú nízky index čitateľnosti a obsahujú výrazy indikujúce budúci konflikt. Ide napríklad o použitie množstva slov s negatívnym nádychom či nadávky, pričom štylisticky sú takéto texty výrazne odlišné od konštruktívnej kritiky či výhrad. Obvykle takéto príspevky navyše vyvolajú veľkú reakciu od iných čitateľov a ich autor sa zvyčajne výrazne zapája do diskusie v danom vlákne.

Automatické rozpoznávanie takýchto prejavov je možné pomocou základných prvkov umelej inteligencie, konkrétne pomocou machine learningu, teda strojového učenia sa. Tím svoju štúdiu vykonával na už spomenutých bohato navštevovaných stránkach po dobu 18 mesiacov, počas ktorých analyzoval 40 miliónov príspevkov od 1,7 milióna používateľov. Výsledkom ich práce je detekčný algoritmus, ktorý dokáže budúceho internetového trolla rozpoznať behom piatich až desiatich príspevkov a s 80 % úspešnosťou predpovedať, že daný používateľ bude v budúcnosti zabanovaný administrátormi stránky.

Takáto úspešnosť ešte nie je dostatočne vysoká na to, aby systém blokoval, respektíve banoval podozrivých používateľov celkom automaticky. Môže však slúžiť ako vynikajúci pomocník pre administrátorov stránok so stovkami tisíc rozličných diskutérov, kde rýchlo upozorní na potenciálnych internetových trollov, na ktorých sa treba zamerať.

V prípade, že vás celá štúdia zaujíma podrobnejšie, môžete si ju zdarma stiahnuť vo formáte PDF zo stránok Cornellovej univerzity.

Značky:

František Urban

František Urban
Zameriavam sa najmä na prehľadové a analytické články z oblasti najrôznejších technológií a ich vývoja. Nájdete ma takisto pri diagnostike HW a SW problémov.