Vo štvrtok 29. apríla usporiadala spoločnosť IBM online seminár s názvom Zodpovedné využívanie umelej inteligencie. My sme sa ho zúčastnili a neoľutovali sme. Hovorilo sa aj o koronavíruse a umelej inteligencii, poukázané bolo aj na možné riziká.

Viedla ho výskumníčka IBM na poli umelej inteligencie (AI) Aleksandra (Saška) Mojsilović. Jej prezentácia bola zameraná na potencionálne slabiny AI, ako je náchylnosť k zaujatosti, netransparentnosť či zraniteľnosť voči útokom. V debate sa doktorka Mojsilović tiež venovala problematickým formám uplatnenia AI v súčasnosti, akými sú deep fake videá či algoritmy sociálnych sietí smerujúce používateľa doslova do náručia dezinformácií.

AI môže zásadne zlepšiť kvalitu života ľudí na Zemi,“ jednoducho zhrnula doktorka Mojsilović. Dodala však zásadnú pripomienku – už to nie je len o vycibrenosti kódu

Saška Mojsilović zdôrazňovala nutnosť mať pri navrhovaní AI na zreteli popri výkonnostných parametroch tiež etické otázky. V IBM Research sa venuje vývoju procesov a algoritmov na definovanie a meranie základných vlastností dôveryhodných AI systémov, teda nástrojov na rozpoznanie a prekonanie zaujatosti, identifikáciu slabých miest v kóde, obranu proti hackerským útokom či odkrytie rozhodovacích procesov algoritmu. Vďaka napredovaniu na poli AI spolupracujú ľudia a umelá inteligencia v čoraz väčšej miere. Je preto nevyhnutné mať dôveru vo výstupy tejto technológie.

Odborníci v IBM Research identifikovali tieto hlavné charakteristiky dôveryhodných AI systémov:

  • Férovosť: AI systémy by sa mali učiť na dátach a modeloch zbavených zaujatosti a predsudkov tak, aby napríklad neznevýhodňovali určité skupiny používateľov
  • Robustnosť: AI systémy musia byť bezpečné a odolné voči manipulácii s dátami, na ktorých sú trénované
  • Transparentnosť: Vývojári aj používatelia AI systémov by mali byť schopní plne porozumieť rozhodovacím procesom AI systémov a ich výstupom
  • Pôvod: AI systémy by mali obsahovať detaily o ich vývoji, využití a údržbe tak, aby mohli byť kontrolované počas celého životného cyklu

Avšak rovnako ako fyzická budova, ani dôvera v AI nemôže stáť na jedinom pilieri. Pokiaľ je systém AI zbavený zaujatosti, ale nedokáže odolať útoku hackera, nedá sa naň spoľahnúť. A ak aj je dobre zabezpečený, ale jeho výstupom nikto nerozumie, používatelia mu nemôžu úplne dôverovať. Preto je nevyhnutné posilniť všetky vyššie vymenované piliere spoločne a definovať metriku na vyhodnocovanie výkonu systému na každej z týchto úrovní. Podľa Mojsilović je nevyhnutné posilniť všetky vyššie vymenované piliere spoločne.

Odborníci IBM preto navrhujú vybaviť AI systémy „príbalovým letákom“ či zhrnutím charakteristík systému, vrátane parametrov jeho fungovania, vstupných dát, základného algoritmu, testovania a jeho výsledkov, výkonnostných ukazovateľov, či zaistenia férovosti a robustnosti systému. A tiež jeho plánované využitie, údržbu a ďalší rozvoj.

Medzi posledné projekty, na ktorých sa podieľala, patrí výskum AI systému IBM Research, ktorý využíva túto technológiu pre urýchlenie vývoja nových peptidov umožňujúcich prekonať rezistenciu na antibiotiká. Rovnaké metódy možno využiť aj pre vývoj nových materiálov, pre boj s klimatickými zmenami, pokročilejšiu výrobu a uchovávanie energie a ďalšie. Tím vyvinul s pomocou procesov založených na AI 3000 nových molekúl pre boj s COVID-19.

Detailnejšie informácie nájdete na stránke projektu AI AI FactSheet spoločnosti IBM.

Aleksandra Mojsilović je vedúca základného výskumu AI v rámci IBM Research a spoluriaditeľka programu IBM Science for Social Good. Doktorka Mojsilović je postgraduálna štipendistka programov IBM Fellow a IEEE Fellow, autorka viac ako 100 publikácií a držiteľka 16 patentov. Medzi posledné projekty, na ktorých sa podieľala, patrí výskum AI systému IBM Research publikovaný v marci 2021, ktorý využíva túto technológiu pre urýchlenie vývoja nových peptidov umožňujúcich prekonať rezistenciu na antibiotiká. Rovnaké metódy možno využiť aj pre vývoj nových materiálov, pre boj s klimatickými zmenami, pokročilejšiu výrobu a uchovávanie energie a ďalšie. Tím vyvinul s pomocou procesov založených na AI 3000 nových molekúl pre boj s COVID-19. Ďalšie informácie o výskume doktorky Mojsilović a tímu IBM Research v oblasti etiky AI nájdete na webe Trusting AI.