Po úniku dát, ktoré vyťažila umelá inteligencia z webu chce Taliansko zakázať AI.
Taliansky úrad na ochranu osobných údajov aktuálne vydal zákaz na používanie AI ChatGPT od Open AI. Tvrdí, že majú obavy z porušenia ochrany osobných údajov a opatrenie má platiť, „kým ChatGPT nebude rešpektovať súkromie.“ Položme si teraz otázku: Ako AI získala prístup k dátam, ktoré majú byť chránené? Nie je to skôr o hľadaniu odkiaľ boli osobné dáta získané? Web The Guardian priniesol podrobnejšie informácie o celej kauze.
Zámer či spôsob zbierania informácií?
Umelá inteligencia nie je hackerský nástroj hoci návod ako na to, vám môže v obmedzenej miere dať. Je to nástroj na extrahovanie údajov na webe a poskladanie zmysluplných slov. Preto sa tvári ako „skutočná inteligencia“ aj keď až taká inteligentná nie je. Úrad vydal okamžité dočasné obmedzenie spracúvania informácií o talianskych používateľoch. Spoločnosť Open AI uviedla, že zákaz bude dodržiavať a použitie ChatGPT v tejto krajine zakázala a bude dodržiavať nariadenia GDPR.
Zdroj: The Rundown AIRozhodnutie zakázať používanie tohto nástroja prišiel po tom, čo sa viac ako 1000 expertov na umelú inteligenciu vyjadrilo, že je potrebné pozastaviť jej rozvoj a silný vzostup, pokým nebudú preskúmané jej dopady a nebude sa dať viac pochopiť, predvídať alebo spoľahlivo kontrolovať.
AI netreba brať ako všeliek a ani ako náhradu za internetový prehliadač. Je to pomôcka, no používateľov očarila svojimi schopnosťami extrakcie slov z internetu a ich spájaniu do zrozumiteľnej podoby. Vyhľadávače a pôvodné zdroje majú svoju váhu, nakoľko ChatGPT vám dá interpretáciu toho, čo si „naštudovala“. Jej prínos je bezpochybný, no nie je to svätý grál, nie nateraz.
K pozastaveniu sa vyjadril aj Elon Musk a je pochopiteľné, že firmy, ktoré zmeškali vlak zvaný generatívna AI sa budú búriť a snažiť sa spochybňovať jej prínos.
Varuje aj USA
V otvorenom liste sa vyjadril aj americký prezident. Ten hovorí o možných rizikách a opiera sa o rozsiahly výskum. Nejde o ovládnutie ľudí strojmi. Na toto aktuálna AI nie je stavaná. Čo jej však ide dobre, je sumarizovanie a skladanie informácií. Vyjadrenie prezidenta sa týkalo aj dezinformačnej scény. Ak totiž AI nedokáže rozpoznať relevantnosť zdroja, nastáva problém s dôveryhodnosťou informácií. Pre zjednodušenú predstavu: AI si prečíta poviedku o existencii tajnej organizácie, ktorá kontroluje vlády sveta a AI môže poskytnúť tieto informácie v odpovediach na otázky používateľov.
Takto sa na základe naschvál zverejneného textu podarilo presvedčiť AI, že jej konkurencia bola vypnutá. Nebola to pravda, no indexáciou takto podstrčeného textu to umelá inteligencia vzala do úvahy a poskytla túto pre ňu „faktickú informáciu“.
Prezident vyzval laboratóriá umelej inteligencie spolu s nezávislými odborníkmi na spoločne vypracovanie a zavedenie bezpečnostných protokolov pre vývoj a dizajn systémov AI. Zároveň sa vyslovil za pozastavenie tréningu systémov AI výkonnejších ako GPT-4. Talianske úrady zase operujú s argumentom nejednoznačnosti údajov, ktoré AI spracováva. Je ale jasné, že ak sa k niektorým dátam AI dostane, nie sú dostatočne chránené.
Súkromie nie je garantované
Navyše o súkromí tu teraz nemôže byť ani reč. Spoločnosti uvádzajú, že vami zadané údaje budú použité k ďalšiemu rozvoju umelej inteligencie. To je tá druhá stránka veci a ide o údaje, ktoré do nej vkladáte vy. Vlády sa snažia vytvárať reštrikcie na prvú oblasť a to údaje, ktoré si systémy analyzujú automaticky.
Svoje maslo má aj firma Open AI, ktorej nástroj čelil strate údajov týkajúci sa konverzácií používateľov platiacich za túto službu. Problém nastal 20. marca a v rámci úniku dát boli odhalené nielen konverzácie ale aj emailové adresy a posledné štyri číslice kreditných kariet používateľov. Firma sa vyjadrila, že bude pracovať na náprave a obnovení dôvery.
Regulačný orgán ďalej uvádza aj problém v nedostatočnom overení veku a služba je dostupná pre používateľov starších ako 13 rokov. Toto ale Open AI nemá dostatočne ošetrené a tak ju môže používať zrejme aj mladšia veková kategória. Problémom je, že tieto vekové skupiny ešte nemusia správne vyhodnotiť odpovede od AI. Podobným systémom by sme mohli argumentovať aj pri klasických vyhľadávačov. Tých sa ale vlády pravdepodobne neboja a tak nie je potrebné ich regulovať.
Rekordné pokuty
Taliansky úrad uvádza, že dal firme 20 dní na oznámenie prijatých opatrení, inak jej hrozí pokuta do výšky 20 mil. EUR alebo 4 % ročných globálnych príjmov (GDPR). V nasledujúcich mesiacoch uvidíme, ako sa bude svet generatívnej AI vyvíjať a aké budú ďalšie oblasti. Obrázkové generovanie zatiaľ nepredstavuje riziko, počkáme si, čo sa bude diať v tejto oblasti. Sme na začiatku a hoci nás AI prekvapila svojim vzostupom, nezabúdajme, že ide o neprebádanú oblasť.
Kryptomeny
Na pole odhryznúť si z koláča AI pristúpil aj kryptomenový segment. Vzniká množstvo coinov na riešenie AI a rôzne projekty zažívajú oživenie. Kryptomeny AI projekty poznajú už dlhšie, no teraz sa viac dostávajú do povedomia ostatných. Vnikajú potenciálne projekty s úspechom do budúcna, no aj množstvo hlúpostí, na ktoré si treba dať pozor. Buďte opatrní a informácie si overujte. Umelá inteligencia ešte nepovedala posledné slovo a aj systémy musia povedané v žargóne ľudí dozrieť a vyrásť.
Zdroj: CoinMarketCapUnikli dáta zo Samsungu
Vzhľadom na publikované informácie to vyzerá, že firma Samsung si bude musieť pripraviť vlastný nástroj umelej inteligencie, aby dokázala ochrániť svoje vlastné dáta. Inžinieri tejto spoločnosti využili možnosti nástroja ChatGPT a to konkrétne na analýzu chýb v zdrojovom kóde. Celkovo došlo k 3 únikom informácií behom 20 dní. Týkali sa najmä vývoja zdrojových kódov, ktoré si zamestnanci chceli overiť, alebo cez tento nástroj optimalizovať.
Kuriózny prípad nastal aj vtedy, keď si zamestnanec spoločnosti chcel vypracovať zápisnicu z poznámok, ktoré si pripravil počas schôdze. Ako sme už uviedli vyššie, tak nástroj chat v pravom slova zmysle nerešpektuje vaše súkromie, pretože má právo využívať dáta, ktoré mu poskytnete. A toto sa stalo osudným aj Samsungu.
Zdroj: The Guardian, vlastné
Prečítajte si aj:
