Téma umelej inteligencie je v posledných rokoch veľmi populárna a často vzbudzuje protichodné emócie. V rozhovore s Jurajom Jánošíkom, odborníkom na umelú inteligenciu zo spoločnosti ESET, sme sa rozprávali o tom, ako umelá inteligencia ovplyvňuje kybernetickú bezpečnosť.
Juraj Jánošík, analytik škodlivého kódu v spoločnosti ESET, Zdroj: ESET
Aký je význam umelej inteligencie pre kybernetickú bezpečnosť?
Z nášho pohľadu je to ďalšia možnosť ochrany. Je to ďalšia technológia, ktorá nám môže pomôcť zvýšiť bezpečnosť našich používateľov. Určite to ale nie je nejaký zázrak, čo by nás v rámci kybernetickej bezpečnosti zachránil.
Stretli sme sa názorom, že je to v princípe len nástroj, ktorý môžeme použiť na pozitívny, ale aj negatívny úmysel. Je to tak?
Presne tak, je to neutrálny nástroj. Takisto, ako napríklad programovací jazyk, alebo TCP komunikácia po sieti. Až reálne využívanie z toho nástroja robí hrozbu, alebo naopak prospešný nástroj.
Umelá inteligencia sa teda dá aj zneužiť. Ako konkrétne?
Presne tým istým spôsobom, akým ju my využívame na dobrý účel. Otázku môžeme položiť aj takto: čo potrebujú spraviť útočníci, aby boli úspešní? Oni majú tiež k dispozícii veľký objem dát a ich cieľom je napadnúť veľký počet ľudí. A podobne ako my, aj oni sa snažia svoju prácu zautomatizovať. Vedia si zautomatizovať širokú škálu činností počínajúc vyhľadávaním zraniteľností či vytváraním škodlivého kódu až po zmeny v škodlivom kóde.
Ak máme umelú inteligenciu na strane ochrany aj na strane útočníkov, môže sa stať, že na seba narazia s protichodnými úlohami. Čo sa stane v prípade, ak proti sebe takto postavím dve umelé inteligencie?
To je zložitá otázka. Pomôžem si príkladom s umelou inteligenciou, ktorá porazila najlepšieho hráča v hre GO. Umelá inteligencia AlphaGo v tomto zápase spravila ťah, ktorý šokoval všetkých skúsených hráčov. V danom momente sa tento krok zdal byť úplne nevýhodný. Avšak, po približne ďalších piatich krokoch sa ukázalo, že to bol správny postup, ktorý viedol k víťazstvu. Ponaučenie z tohto príkladu sa dá preniesť aj na detekciu škodlivého kódu. Aj tu platí, že ak sa na niečo na prvý pohľad môže zdať nevýhodné, môže to byť nakoniec výhodné a naopak.
Reálne sa môže stať, že napríklad neurónová sieť ESET-u označí nejaký súbor za podozrivý a vy neviete identifikovať prečo?
Áno, môže sa to stať, a aj sa to deje. Ona sa však naučila, že tento typ súboru, alebo niektoré jeho špecifiká sú podozrivé, aj keď sa to na prvý pohľad nezdá. Dôležité však je, že to náš systém zachytil a následne sa na to môžu pozrieť naši experti. Inak by tento súbor mohol roky fungovať a my by sme si ho ani nevšimli.
Evidujete nárast používania umelej inteligencie na škodlivú činnosť?
Na túto otázku odpoviem zoširoka. Doba, kedy si vírus napísal študent na internáte, je už dávno za nami. Dnes ide o profesionalizovaný a vysoko výnosný organizovaný zločin, alebo dokonca o priemyselnú či medzištátnu špionáž. Títo ľudia sú ochotní investovať veľké peniaze do toho, aby vedeli preniknúť rôznymi obrannými technológiami. Boli by hlúpi, ak by umelú inteligenciu nevyužili.
Viete sa vyjadriť k rozšírenosti využívania umelej inteligencie, alebo strojového učenia, pri tvorbe škodlivého kódu?
K tomu presne smerujem. Vidíme, že je tu z ich pohľadu priestor na automatizáciu. A navyše z našich dát vieme s vysokou pravdepodobnosťou tvrdiť, že niektoré populárne a pokročilé škodlivé kódy pravdepodobne používajú strojové učenie. Na základe toho, ako sa tieto kódy správajú usudzujeme, že sa pri ich tvorbe použili metódy strojového učenia. Nevieme síce identifikovať konkrétnu metódu, ale vieme povedať, že na to boli pravdepodobne použité metódy strojového učenia.
Čo si máme predstaviť pod pojmom „správanie škodlivého kódu“?
Povedzme, že máme trójskeho koňa, čo je typ škodlivého kódu. On štandardne komunikuje s nejakým serverom, z ktorého získava príkazy čo má robiť, kam má posielať dáta, odkiaľ získať aktualizácie, alebo ďalší škodlivý kód. Momentálne jeden z najpopulárnejších a najrozšírenejších trójskych koní tohto druhu je Emotet. S ohľadom na rozšírenie tohto škodlivého kódu a pri rozsahu informácií, ktoré zbiera, ide o príliš náročnú úlohu na to, aby sa vykonávala manuálne.
Priamo sa to ale z kódu zistiť nedá?
Nie, nedá. Avšak jeho správanie ho usvedčuje. Ak by to chcel niekto robiť dobre – a v tomto prípade to asi dobre robí, keďže ide o jedného z najrozšírenejších trójskych koní na svete – mal by využívať aj techniky automatizácie. Treba zdôrazniť, že ide o naozaj populárny škodlivý kód, ktorý sa teší obľube aj na čiernom trhu. Emotet sa napríklad používa na šírenie kódu na kradnutie hesiel, alebo prístupov do internetbankingu.
Kedy sa začala používať umelá inteligencia na odhaľovanie škodlivých praktík v kybernetickej bezpečnosti?
Za ESET môžem povedať, že už od prvých dní od vzniku firmy riešil jeden zo zakladateľov, Miroslav Trnka, použitie prístupov strojového učenia, čo bolo pred takmer 30 rokmi. Do koncových produktov, ktoré používatelia dostali v tom čase na disketách alebo CD nosičoch, sa neurónové siete dostali približne v rokoch 1997 a 1998. Dávno predtým, ako vznikol ošiaľ okolo umelej inteligencie. V roku 2005 sme prišli s pokročilou heuristikou, ktorá detekciu posunula na novú úroveň.
Je známe, že útočníci neustále skúšajú nové cesty. Ako sa dá voči tomu brániť?
Tak ako menia stratégiu útočníci, aj my pravidelne trénujeme naše modely strojového učenia a prispôsobujeme ich novým stratégiám útočníkov. Kybernetická bezpečnosť sa neustále vyvíja na oboch stranách barikády. Preto musíme reagovať pružne. Niekedy, samozrejme, zasiahnu naše modely a detekujú automaticky veci, ktoré ešte nik nezachytil. Inokedy musíme naše modely naučiť nové spôsoby útočníkov. Ak by sme to nerobili, nastala by degradácia našich modelov.
Je umelá inteligencia konečným riešením kybernetickej bezpečnosti?
S nárastom popularity umelej inteligencie vzniklo v posledných rokoch množstvo startupov, ktorých mantrou je práve umelá inteligencia. Z nášho pohľadu to nie je pravda, pretože ide iba o ďalšiu vrstvu ochrany. Pripomína mi to obdobie spred desiatich rokov, kedy veľa dodávateľov bezpečnostných riešení tvrdilo, že všetky bezpečnostné problémy vyrieši cloud. Vyriešil ich? Nie, nevyriešil a dokonca priniesol aj nejaké nové. Podobný vývoj by som preto očakával aj pri strojovom učení.
Juraj Jánošík, analytik škodlivého kódu
Juraj Jánošík, ESET, Zdroj: ESET
V roku 2008 nastúpil do spoločnosti ESET na pozíciu analytika škodlivého kódu. Od roku 2013 vedie tím zodpovedný za automatickú detekciu hrozieb a umelú inteligenciu, v súčasnosti je zodpovedný za integráciu strojového učenia do detekčného jadra.
Zdroj titulného obrázka: 123rf.com
