Prednedávnom sa v Bratislave stretli odborníci z oblasti IT, ktorí diskutovali o trendoch a inováciách v rámci umelej inteligencie a kybernetickej bezpečnosti.
Na odbornej konferencii Judgment Day slovenskej IT firmy Alanata sa osobne zúčastnil a prednášal aj svetoznámy počítačový vedec a profesor informatiky Stuart Jonathan Russell z Kalifornskej univerzity v Berkeley. Aký bol jeho odkaz na adresu rozvoja AI?
Cieľom konferencie Judgment Day bolo priniesť nový pohľad na rozvoj a smer AI a kybernetickej bezpečnosti, ako aj rozprúdiť debatu o tom, kam speje ich vývoj, po prípade, aké hrozby môžeme v blízkej dobe očakávať a na čo je potrebné sa čím skôr pripraviť. Zaujímavé bolo sledovať, že ani odborníci a technologickí experti sa v otázke inovácie umelej inteligencie nezhodujú.
„V otázke podpory alebo zákazu rozvoja umelej inteligencie sa prikláňam na liberálnejšiu stranu, pretože som presvedčený, že prílišná regulácia a zásahy štátu masívnym spôsobom stopujú inovácie. Som presvedčený, že zákazmi nič nedocielime a mám k tomu paralely z 90. rokov, kedy sa snažili zastaviť internet. Keby sa v tej dobe postavili veľké vlády k internetu takýmto zásadným regulačným spôsobom, tak by to pochovalo akýkoľvek progres v tejto oblasti,“ uviedol CEO spoločnosti Alanata Martin Murgáč.
Hlavný rečník podujatia, počítačový vedec a profesor informatiky z UC Berkeley, Stuart J. Russell má skôr opatrnejší prístup. Prezradil ho aj v jeho prednáške s názvom Bezpečná umelá inteligencia. V používaní AI bez regulácie vníma viac rizík. Je presvedčený o tom, že sa dá regulácia cielene nasadiť v rámci veľkých jazykových modelov a pokiaľ firma nebude spĺňať určité regulátore požiadavky, nebude môcť publikovať takýto veľký model. Je presvedčený, že tento prístup je smer, ktorým by sme mali uberať.
„Európsky zákon o umelej inteligencii sa pripravuje už niekoľko rokov. Myslím si, že jeho základný princíp je veľmi rozumný. Ak bude systém AI pracovať s vysokým rizikom, napr. aplikáciami, ktoré súvisia so zdravotnou starostlivosťou, finančníctvom či právom, tak musíte dokázať, že je to bezpečné, predvídateľné a odolné. To je základný princíp zákona. A potom existujú špecifické zákazy ako napr. zákaz vydávania sa za ľudské bytosti. To znamená, že ľudské bytosti majú právo vedieť či komunikujú so strojom alebo s osobou. Myslím si, že je to základné právo a musí byť presadzované celosvetovo v každej krajine,“ odpovedal Stuart Russell na otázku regulácie AI v európskych krajinách.
Ich ďalší vývoj vidí vo väčšej kvalite a bezpečnosti: „Myslím si, že ďalšia evolúcia veľkých jazykových modelov ako ChatGPT, botov a mnohých iných, bude spočívať v tom, že sa stanú spoľahlivejšími, prestanú zavádzať a celkovo sa budú lepšie správať. Ak ich chcete použiť v hocijakom obchodnom kontexte, tak sa musíte vedieť spoľahnúť, že budú dodržiavať pravidlá, povedia pravdu o produktoch a budú dodržiavať zásady vášho podnikania,“ uviedol Russell.
Jednotlivé prednášky boli zamerané na veľmi aktuálne otázky z oblasti kybernetickej bezpečnosti a umelej inteligencie. Prezentujúci otvorili rôzne témy, ako napríklad bezpečná AI, boty a automatizované útoky, tipy, ako chrániť organizáciu bez interného SOC (Security Operation Center), predpoveď budúcich hrozieb, ako AI mení kybernetickú bezpečnosť. Celý záznam z podujatia je dostupný aj online.
