Umelá inteligencia priniesla nové formy rizika, na ktoré reaguje Európska únia.
V minulosti sme sa stretli s nevhodným použitím AI vo firmách a následnému úniku firemných údajov. Riziko je nielen v zadávaním osobných dát do modelov AI ale aj v odhalení firemného tajomstva konkurencii. EÚ reaguje na hrozbu AI zákazom pre modely, ktoré predstavujú neprirodzené riziko. Ide o zákaz, ktorý nadobudol platnosť 2. februára 2025.
Artificial Intelligence Act (EU AI Act) označený evidenčným záznamom 2024/1689 hovorí o zákaze použitia niekoľkých úrovní AI. Ide napríklad o manipulatívne systémy využívajúce zraniteľnosti vybraných skupín. Takisto sú zakázané systém sociálneho hodnotenia na základe správania a osobnostných profilov ľudí. Nové nariadenie reaguje aj na funkcie rozpoznávania tvárí cez kamerové systémy. Zakázaný je neadresný zber údajov a všeobecné zhromažďovanie online obrázkov alebo cez CCTV kamery.
Okrem zbierania kamerových záznamov neurčitého charakteru a analyzovanie cez AI nesmie byť AI použitá na biometrickú analýzu dát v reálnom čase na verejných miestach. Na pracoviskách alebo vzdelávacích inštitúciách sa napríklad nesmú používať systémy na odhaľovanie emócií.
AI Act tiež určuje pravidlá pre všeobecné modely ako napríklad Granite od IBM alebo Llama 3 od Meta. Sankcie za porušenie zákonov o AI môžu byť až 7,5 mil eur alebo 1,5 % celosvetového ročného obratu do 35 miliónov EUR prípadne 7 % celosvetového ročného obratu v závislosti od typu porušenia.
AI zákon sa vzťahuje na prevádzkovateľov alebo aj dovozcov či distribútorov produktov. Ide napríklad o organizácie, ktoré vytvárajú systém všeobecnej AI. Platí ale aj pre firmu, ktorá AI používa a nasadila ho vo svojom prostredí alebo produkte. Výnimku tvoria systémy pre osobné použitie alebo používané pre vedecký výskum.
Zdroj: IBM
Prečítajte si aj:
