Súčasná AI z pohľadu kyber-bezpečnosti

Prichádza jeden zo spôsobov, ako mať skutočne to najlepšie z dvoch rozdielnych svetov – reálneho a virtuálneho.

A to je mať váš vlastný „chatgpt“ u seba doma či vo firemnom intranet-e. Predstavme si, že ak bude vami tento nový nástroj riadne školený a vyškolený na vašom pracovnom prostredí, tak určite bude relevantnejší a aj užitočnejší ako súčasne verejný ChatGPT od OpenAI. Zároveň vám zaručí uchovanie súkromných a citlivých údajov a zároveň bude schopný sám kontrolovať citlivosť, dôveryhodnosť, spravodlivosť a aj tzv. „halucináciu“.

Len tak na okraj… Ilya Sutskever, šéf vedeckého výskumu v OpenAI a jeden z tvorcov ChatGPT, hovorí, že je presvedčený, že problémy zmiznú s časom, keď sa veľké jazykové modely naučia ukotviť svoje odpovede v realite. OpenAI je priekopníkom techniky formovania svojich modelov správania sa pomocou niečoho čo je nazývané ako posilňovanie učenia s ľudskou spätnou väzbou.

Od začiatku tohto roka má každý plné ústa o „ChatGPT“. Lenže tento konverzačný nástroj, ktorý umožňuje výmenu a generovanie textu vo forme správy, nám pomocou „umelej inteligencie“ ukázal rozsah svojich možností, ako je napr. písanie článkov, motivačných listov alebo dokonca riadkov počítačového kódu. No napriek jeho mnohým výhodám by som sa nečudoval rôznym entitám, ktoré by sa rozhodli zakázať k tomuto „nástroju umelej inteligencie“. Nižšie sú uvedené niektoré dôvody.

Stručne ako funguje ChatGPT?

ChatGPT, ktorý bol uvedený na trh v novembri 2022, je to konverzačný nástroj založený na modeli umelej inteligencie jazyka GPT-3.5 (v súčasnosti už možno aj GPT-4), ktorý vyvinula spoločnosť OpenAI v roku 2020.

Jeho názov „ChatGPT“ pochádza z kombinácie slova „chat“ ako konverzácia a „GPT“ odkazujúceho na AI model ako vopred vyškolený na pochopenie ľudského jazyka a odpovedanie známym a prirodzeným spôsobom.

Nástroj používa veľké množstvo textov, ako sú novinové články, romány, filmové a televízne scenáre a online konverzácie, aby presvedčivo reagoval na požiadavky používateľov.

ChatGPT je nástrojom, ktorý je postavený za účelom nielen odpovedať na vaše otázky, ale aj vytvárať obsah.

Tento nástroj je veľmi úspešný vďaka svojej schopnosti prispôsobiť sa širokej škále predmetov a jazykových štýlov, čo priťahuje nielen nováčikov ale aj najmä rôznych „profesionálov“.

Dnes by mnohí, v súkromných spoločnostiach či verejných organizáciách, mohli byť v pokušení používať profesionálne ChatGPT na uspokojenie rôznych potrieb, ako je vývoj aplikácií, vytváranie obsahu pre sociálne siete, písanie článkov alebo vytváranie špecifických chatbotov.

Existuje ale veľké množstvo rizík kybernetickej bezpečnosti. ChatGPT predstavuje šesť hlavných rizík.

Únik údajov: pri používaní ChatGPT sa od vás môže vyžadovať prenos údajov týkajúcich sa určitej entity a jej biznisu. K týmto údajom potom môžu pristupovať tretie strany, a preto ich môžu potencionálne použiť ľudia so zlým úmyslom.
Ukladanie údajom mimo nejakej entity: všetky údaje zhromaždené a odoslané do ChatGPT sú uložené v „niektorých“ dátových centrách, a my nevieme ako sú chránené alebo kto k nim a aký má prístup.
Kvalita a prenos vytvorených prístupov nie je zaručená: niektoré informácie neboli aktualizované od roku 2021 (?!) Získané informácie môžu byť neaktuálne a/alebo neúplné.
Dezinformácia: výstup môže byť skreslený aj interpretáciou nesprávnych údajov a môže viesť k dezinformáciám.
Plagiátorstvo: nemáme žiadnu kontrolu nad zdrojmi informácií na ChatGPT, to tiež môže byť založené na plagiátorstve diela alebo chránených diel. (príkladom môže byť aj tento článok – pozn. autora😊)
Riziko imidžu alebo reputácie pre entitu a jej biznis: najmä, v prípade nadmerného používania ChatGPT v našich profesionálnych aktivitách a najmä pri rozhodovaní.

Vysoká miera škodlivého používania.

Niet divu, že nástroj ChatGPT by sa mohol stať novým ihriskom pre kyberzločincov. Hoc tento nástroj uľahčuje vytváranie alebo analýzu obsahu, môže byť ľahko použitý (či zneužitý) aj na škodlivé účely.

Niektoré príklady:

Vytvorenie malvéru: ChatGPT môžu jednotlivci použiť na napísanie malvéru v priebehu niekoľkých sekúnd. To môže ušetriť kyberzločincom veľa času.
Odhaľovanie zraniteľností páchateľmi počítačovej kriminality prostredníctvom analýzy zdrojového kódu.
Script Kiddies: jednotlivci, ktorí noví alebo nemajú žiadne špeciálne zručnosti v počítačovej bezpečnosti, ale ktorí sa pokúšajú preniknúť do systémov pomocou skriptovacích programov. Mohli by použiť ChatGPT oportunisticky, napr. na spustenie vlastných útokov.
Vývoj phisingových kampaní na požiadanie.
. . .

Zároveň vyzývame, aby ste zostali opatrní ohľadom informácií, ktoré zdieľate, a to aj pri vašom súkromnom používaní ChatGPT.

Používanie ChatGPT by z týchto dôvodov malo byť zablokované vo všetkých obchodných entitách či public sektoroch pracujúcich s citlivými údajmi a zároveň by sa malo dôrazne odporúčať, aby sa tento „nástroj“ nepoužíval na profesionálne účely. Akonáhle však bude zvládnutý a splní očakávania z pohľadu kybernetickej bezpečnosti, môže sa stať neoddeliteľnou súčasťou našich každodenných digitálnych nástrojov.

Základné varianty „novej generácie“ chatbotov :