Keďže boj s dezinformáciami je nadľudská úloha, Kempelenov inštitút inteligentných technológií (KInIT) chce pri ňom využiť umelú inteligenciu. Algoritmy umelej inteligencie sa však najprv potrebujú naučiť rozoznávať dezinformácie od ľudí. KInIT preto vytvoril nástroj, pomocou ktorého môžu ľudia označovať (anotovať) manipulatívne a falošné články a príspevky na sociálnych sieťach. Na anotovanie si stačí stiahnuť rozšírenie do prehliadača.
KInIT Označovač bude slúžiť ako prvý krok k učeniu sa umelej inteligencie o slovenských dezinformáciách. Takáto umelá inteligencia sa v zahraničí využíva napríklad ako pomoc a podpora pre ľudí, ktorí overujú fakty (fact-checkerov). V súčasnosti je však k dispozícii veľmi málo dát o slovenských dezinformačných stránkach.KInIT preto pozýva všetkých, ktorí chcú prispieť k nazbieraniu potrebných údajov, aby si to vyskúšali na www.oznacuj-dezinfo.kinit.sk.
„Keďže ide o prvú takúto slovenskú iniciatívu, každá odoslaná anotácia je pre nás dobrá. Čím viac anotácií získame od ľudí, tým lepšie výsledky dosiahne umelá inteligencia, pre ktorú budú tieto anotácie využité,” hovorí výskumník Branislav Pecher z KInITu.
Samotné učenie algoritmov umelej inteligencie funguje na báze vzorov, ktoré im odhalia, ako niečo vyzerá. Anotácie článkov budú slúžiť ako signály, ktoré určia, že môže ísť o dezinformáciu. Tie budú následne použité ako vzory pre umelú inteligenciu, aby sa takéto signály naučila automaticky odhaľovať.
Samotný proces označovania je používateľsky jednoduchý. Anotátori na stránke www.oznacuj-dezinfo.kinit.sk nájdu nástroj, ako aj všetky potrebné inštrukcie a tutoriál na označovanie problematického obsahu.
Nástroj je dostupný pre kohokoľvek, no najlepšie ho využijú tí, ktorých falošné a manipulované správy trápia. Takými môžu byť ľudia s vyššou úrovňou informačnej gramotnosti, odborníci na dezinformácie, novinári, ale aj odborníci na rôzne témy, o ktorých sa dezinformácie šíria (od astronómov až po zdravotníkov).
Projekt podporila Férová nadácia O2 v rámci výzvy „Vráťme spolu rozum na internet”.
V KInITe v uplynulých dňoch prebehlo testovanie nástroja a zber spätnej väzby. Anotátori, ktorí sa doteraz zapojili, takúto aktivitu ocenili a veria, že takto môžu s obrovským množstvom manipulatívneho obsahu aspoň niečo urobiť. Nástroj je v súčasnosti verejne dostupný a výskumníci z KInITu povzbudzujú ľudí, aby ho využívali.
„Žiadny spodný ani horný limit na počet anotácií ani časové ohraničenie nemáme. Budeme radi, keď sa zapojí čo najviac ľudí. Čím viac dát, tým lepšie,” dodáva Branislav Pecher.
KInIT má s dezinformáciami bohaté skúsenosti. Je súčasťou CEDMO hub (Central European Digital Media Observatory), ktorý združuje 8 odborných partnerov z Česka, Poľska a Slovenska. KInIT sa v rámci neho venuje výskumu a vývoju nástrojov na báze umelej inteligencie, ktoré podporujú overovanie faktov (fact checking).
Okrem toho vyvíja platformy Monant a Fireant na monitorovanie dezinformácií, ich analýzu a anotáciu prostredníctvom modelov umelej inteligencie. Výskumný inštitút tiež publikoval niekoľko odborných článkov o dezinformáciách. Jeden z nich, ktorý sa venoval auditu filtračných bublín na YouTube, ocenili ako najlepší článok na prestížnej medzinárodnej konferencii ACM Recommender Systems Conference (RecSys) 2021.