Tentoraz tu máme odvrátenú stránku umelej inteligencie.
Dezinformačná skupina napojená na Rusko využíva AI na generovanie obrovského počtu falošných správ. Bezpečnostní výskumníci objavili sieť s názvom CopyCop, ktorá využíva LLM, teda veľký jazykový model na rýchle publikovanie článkov.
Celkovo zatiaľ hovoríme o 19 000 správach (údaj k marcu 2024), no ich počet sa neustále zvyšuje. Podľa servera Cybernews využívajú na šírenie rôzne weby, ktoré sa vydávajú za štandardné médiá. Najviac sa tento obsah šíri v USA, Spojenom kráľovstve a Francúzsku. Tieto aktivity objavila skupina Insikt Group.
Upravené správy o konfliktoch vo svete
Skupina uvádza, že ide pravdepodobne o aktivity riadené z Ruska, napojené na ruskú vládu. Je ale zrejmé, že podvodníci sa chcú chrániť, a tak sa snažia maskovať. Preto žiadne vyhlásenia nemôžu byť chápané ako úplne stopercentné. CopyCop používa AI na vyhľadávanie informácií z bežných zdrojov a následne publikuje upravené správy.
Tie už sú v súlade so žiadanou propagandou. Články sú zamerané na informácie z oblasti vojny Ruska proti Ukrajine a takisto aj na konflikt medzi Izraelom a Hamasom. Nechýba ani zameranie na prezidentské voľby v USA a kritiku Bidenovej administratívy.
Zdroj: ESETV správe sa ďalej uvádza, že podvodníci si registrujú nové domény, ktoré majú imitovať oficiálne spravodajské servery. Vďaka umelej inteligencii a automatizovanému systému sú správy publikované automaticky, pričom sa hovorí o tom, že približne raz za hodinu vznikne nová správa na niektorú z vyššie uvedených tém. Pre AI je jednoduché vytvoriť kompletnú stránku vyzerajúcu aj ako e-shop.
Priznaný preklad cez AI
Zaujímavosťou je že preklad rôznych stránok a pokrivenie štandardných informácií je do istej miery verejné. Pod článkom sa dokonca zobrazuje informácia o tom, že veľký jazykový model preložil konkrétnu správu v konzervatívnom režime podľa zadania používateľa. To môže dodať pre neznalých čitateľov pocit objektivity bez pridávania emotívneho tónu.
Už niekoľko mesiacov je vidieť rozmach internetových serverov, ktoré sú založené na publikovaní správ prostredníctvom veľkých jazykových modelov. Ide napríklad o rôzne recenzie alebo porovnania z konkrétnej oblasti. Môže ísť o technológie alebo medicínske tipy. Stránky bývajú preložené do mnohých svetových jazykov, vrátane slovenčiny a na pohľad vyzerajú ako skutočné weby, ktoré píšu ľudia.
Zdroj: Cybernews
Prečítajte si aj:
