Môže inteligentná práčka či chladnička nahlásiť porušenie zákona na políciu? Je morálna povinnosť tvorcov inteligentného zariadenia, ktoré je schopné rozpoznať trestný čin, zaručiť aby bol tento čin nahlásený?Nedeľník TOUCHIT vážne i nevážne. Nezviazané IT témy na tisíc spôsobov.

Možno sa zdá, že ide o pomerne jednoduchú otázku s jasnou odpoveďou. Čo ma má čo môj robot alebo inteligentná domácnosť udávať? Ide o elektroniku. Ide o veci čo som si kúpil a patria mne! Nejde predsa o žiadny nástroj štátu vytvorený na moje monitorovanie.

Nie je to však také jednoduché a osobne si myslím, že ide o pomerne vážny technologicko-morálny rozpor.

Predstavte si rodinu, v ktorej dochádza k zneužívaniu dieťaťa. Či už ide o fyzické, sexuálne alebo mentálne zneužívanie, dieťa nesmierne trpí a očividne nemá žiadne prostriedky a takisto obvykle ani mentálne schopnosti na to, aby sa z takejto situácie dostalo samo. Ide skrátka o jeho život, ktorý žije a nikdy nespoznalo iný.

Jeho rodičia, ktorí sú za to zodpovední, si však jedného dňa zavolajú do bytu opatrovateľku, pretože odchádzajú na večer preč. Opatrovateľka tak s dieťaťom zostane sama a rýchlo zbadá, že má na rukách modriny od veľkých prstov a úderov. Po rozhovore s ním rýchlo dedukuje, že je týrané alebo zneužívané a zalarmuje políciu.

Asi nikoho na svete tento príklad neprekvapí. Samozrejme, že opatrovateľka zavolá políciu. Bolo by predsa hrozné, ak by ju nezavolala. Nemalo by ale to isté platiť aj pre domáceho robota?

Robota čo by ma naprášil by som si nikdy nekúpil

Ak máte názor, že toto sa nikdy riešiť nebude, pretože takéto bonzovacie stroje by si nikto nikdy nekúpil, pokúsim sa vám ukázať iný pohľad. Z neho bude kúpenie takýchto strojov niečo úplne normálne a bežné, pričom automatická reakcia tohto charakteru bude aj morálne správna.

V prvom rade musím upozorniť na to, že nehovorím o tom, že by na takýto stroj boli napojené kamery policajných zložiek a policajti by cez ne sledovali každý byt v republike. Nejde o žiadne hrozivé narušenie súkromia a neprestajné monitorovanie.

Nechcem takisto ani zachádzať príliš do oblasti science fiction a uvažovať o pokročilých androidoch, ktorí by boli prakticky na nerozoznanie od človeka a dokázali by napríklad zabrániť vražde, alebo tomu, aby dieťa spadlo z balkóna, pretože si to uvedomia skôr ako jeho rodičia. Tu už sa totiž dostávame k trom zákonom robotiky Izáka Asimova a možno aj do oblasti rozumných nebiologických bytostí, majúcich svoje práva.

Ide mi hlavne o éru, ktorá nemusí byť až taká vzdialená. Éru, kde stroje nie sú schopné žiadneho chápania udalosti v priamom slova zmysle. Sú schopné len detekcie, ktorá vyvoláva náležitú reakciu. Mám na mysli teda to, že na základe špecifických znakov by robot alebo iná „inteligentná“ elektronika daný zločin rozpoznala a následne by ho nahlásila na políciu s príslušnými detailmi.

OK teda. Vieme na čom sme a pozrime sa na prvú očividnú otázku. Na čo by nejaká bežná elektronika mala v sebe mechanizmy, ktoré by dokázali rozpoznať modriny na rukách dieťaťa, monokel na tvári ženy, či to, že manželka práve manželovi vrazila nôž do chrbta? To snáď bude prijatý nejaký zákon, ktorý bude prikazovať všetkým vývojárom, aby takéto detekčné mechanizmy naprogramovali do všetkých predávaných strojov?

Zaujímavé je, že niečo také v konečnom dôsledku nebude musieť byť vôbec potrebné. Robot totiž môže relevantné veci obsahovať z dôvodu, aby vôbec fungoval na účel, ktorý ho potrebujeme.

Dnešný inteligentní softvéroví asistenti (napr. Cortana od Microsoftu) bez problémov zvládnu rozpoznať hlasový príkaz na uskutočnenie hovoru, zapísať poznámku do kalendára či prípadne aj vykonať nejaký nákup v e-shope. Ak im poviete, vytoč číslo 158, vytočia ho a vy môžete rozprávať. V súčasnosti nie je žiadny technický problém vytvoriť systém, ktorý by bol schopný splniť zadanie: vytoč číslo 158, počkaj na zdvihnutie, následne povedz vetu „potrebujem pomoc“ a pridaj moju adresu.

Vývoj pri tom pokračuje k vyššej autonómnosti týchto mechanizmov, pričom sa napreduje takisto v neverbálnom rozpoznávaní stavov. Napríklad Microsoft, ktorý spoločne s Googlom patrí k tvorcom najúspešnejších konvolučných neurónových sietí, ponúka dnes už značne pokročilé kognitívne služby. V rámci nich neurónová sieť rozpoznáva emočný stav osoby na obrázku alebo na videu a pomerne úspešne určuje to, či je podľa výrazu smutná, šťastná či napríklad v bolestiach.

Niektoré firmy, ako napríklad Eyeris, nechávajú obdobné technológie spolupracovať s video prehrávačom a webkamerou, takže sú schopné v reálnom čase detegovať, ako divák emočne reaguje na konkrétne časti videa. Máme tu takisto aj také pokročilé konvolučné neurónové siete, s ktorými vývojári umelej inteligencie súťažia o to, kto dokáže čo najlepšie určiť obsah fotografie a popísať ho.

Ak takéto súčasné systémy umelej inteligencie dokážu rozpoznať, že na fotografii je chlapec ktorý skáče na skateboarde cez prekážku, nie je ťažké si predstaviť, že dokážu rozpoznať ako vyzerá obrázok alebo video mŕtveho človeka s nožom v chrbte a ako vyzerá akt toho, že jedna osoba škrtí inú.

Nejde pri tom o to, že by neurónovej sieti niekto ukázal jednu fotografiu chlapca na skateboarde a systém potom hľadal kópiu. Sieť pri tréningu vidí obrovské množstvo takýchto fotografií, z ktorých si sama vyextrahuje špecifické znaky (my ich nepoznáme) a podľa toho hodnotí úplne iné fotografie, ktoré nikdy nevidela, či jej kritériá splňujú.

Systémy sú pri tom trénované čoraz viac, na čoraz väčších vzorkách a sú čoraz lepšie. V blízkej budúcnosti si môžeme predstaviť siete trénované na obrovských databázach takmer nepreberného obsahu a to, že systém umelej inteligencie bude vedieť rozpoznať vraždu vo videu alebo obrázku nebude preto, že by ho na túto úlohu niekto špeciálne vytvoril. Bude to preto, pretože už bude zvládať rozoznať obsah prakticky akejkoľvek fotografie a video obsahu a priradiť k nemu správne asociácie.

Ak takejto pokročilej neurónovej sieti pustíte akčný film a opýtate sa čo vidí, môžete dostať odpoveď: „V obraze sú dve osoby. Jedna drží pištoľ. Strieľa. Druhá osoba padá na zem, všade je veľa krvi.“ Systém pravdaže „nevie“ čo sa stalo. V súčasnom stave je to nevedomý mechanizmus. Dokáže však priradiť správne asociácie k veciam, čo vidí a je jedno či ide o obrázok, film, alebo záznam v reálnom čase z kamery v hlave robota.

Predstavte si napríklad, že je dostupná už pokročilejšia verzia robota ako je Pepper alebo Asimo, ktorého si kúpite s tým, že na rozdiel od hlasových asistentov Amazon Echo či Google Home je mobilný a dokáže na príkaz „Dones mi pohár vody“ reagovať fyzicky. Zdvihne sa, príde do kuchyne, jeho systém dokáže rozpoznať prázdny pohár, chytiť ho, prísť k točke, pustiť vodu, zastaviť ju keď je pohár plný a priniesť vám ho.

Detekčný systém s takto pokročilým rozpoznávaním objektov a udalostí v reálnom čase bude trénovaný na masívnom množstve dát. A medzi týmito dátami môže byť napríklad aj to, že rozpozná, že sa nejaká osoba dusí a poskytne jej Haimlichov zákrok. S takouto pokročilou neurónovou sieťou ale zrejme bude schopný rozpoznať aj to, že nejaká osoba práve vráža niekomu nôž do chrbta.

Nejde teda o to, že by ste v TV videli reklamu: „Kúpte si nášho nového robota Rony 24, ktorý vám bude robiť čaj, masírovať nohy, venčiť vášho psa a sledovať, či ste niekoho nezabili“. Ak ale bude zvládať celkom autonómne robiť prvé tri veci, môže zvládnuť aj tú poslednú už len z princípu.

Podobne ako vás nikto neučil rozpoznať týranie dieťaťa a aj napriek tomu to v dostatočne jasných prípadoch rozpoznáte, ani robota nemusí nikto programovať na to, aby presne túto situáciu rozpoznal. Pôjde o nevyhnutný dôsledok schopností jeho pokročilej neurónovej siete, ktorá je trénovaná rozpoznávať svet okolo seba, čo bude zahŕňať aj relevantné oblasti ľudskej interakcie.

Je ale udanie majiteľa správne?

Ak teda bude kvôli funkčnosti časom nevyhnutné, aby robot „chápal“ čo robíte, pretože inak by nemohol správne reagovať, aký je dôvod ignorovať rozpoznanie zlej veci?

V súčasnosti nie je problém naprogramovať mechanizmus, ktorý by využil súčasné schopnosti neurónových sietí na detekciu nálady a ak by zistil, že ste smutný, pustil by vám hudbu na rozveselenie. Ak dnes poviete Cortane, aby zapísala úlohu do kalendára, urobí to. Ak následne uplynie požadovaný čas, asistentka je naprogramovaná tak, aby vás na udalosť zapísanú v daný čas upozornila.

Na rôzne typy udalostí sú teda pripravené rôzne typy reakcií. Predstavte si, že ste vedúcim vývoja robota, ktorý je napojený na pokročilú neurónovú sieť, ktorá viac menej dokáže vytvoriť správne asociácie ku takmer každému obrazovému vnemu.

Po rozpoznaní toho, že majiteľ prichádza domov a vchádza dverami, nastavujete udalosť typu „povedz ahoj a daj report o nových správach“. Uvedomíte si ale, že reakciu môžete nastaviť aj na udalosť – pred robotom sa udiala vražda. Necháte kolónku reakcie prázdnu, alebo do nej napíšete „zavolaj 158 a pošli fotografiu s adresou“?

Ak robot už so svojej podstaty musí toto zvládnuť, čo je správne? Nastaviť reakciu, alebo nie?

Vytvorme si jednoduchý argument, s ktorým zrejme budeme všetci súhlasiť v prípade človeka a pozrime sa, či sa nám páči aj v prípade robota.

  • Ak je niekto svedkom vážneho zločinu, má morálnu povinnosť ho nahlásiť (alebo mu inak zabrániť).
  • Ak teda opatrovateľka zbadá týranie alebo zneužívanie dieťaťa, je jej morálnou povinnosťou tomu zabrániť a to napríklad privolaním polície.
  • Ak teda je robot už zo svojho princípu schopný rozpoznať týranie alebo nenažívanie dieťaťa, je morálnou povinnosťou jeho tvorcov, umožniť aby robot mohol zločinu zabrániť napríklad privolaním polície.

Súhlasíte? Alebo máte celkom odlišný názor? Myslíte si, že robot má zostať nečinný, aj keď jeho neurónová sieť popisuje situáciu pred ním ako „matka škrtí svojho syna“?

Nehovorím pri tom, aby robot reagoval fyzicky a silou. Robotika ešte dlho nebude v stave, kedy by takáto interakcia bola bez hrozieb omylu. Na nahlásení a poslaní fotografie či krátkeho videa polícii však nie je nič nebezpečné.

Robot a neurónová sieť na detekciu udalostí sa pravdaže môže zmýliť, avšak to sa môže stať aj človeku. Plané reporty na políciu je niečo, čo sa odohráva neustále. Polícia pri prešetrovaní hlásenia zistí, že v skutočnosti sa nič nestalo a ten krik z vedľajšieho bytu, čo v susedkiných ušiach znel ako vražda, bol v skutočnosti len vášnivejší sex.

Pomýliť sa môže aj robot, ale ak to nebude neustále, nie je dôvod aby to bol problém, ktorý by reportom zabránil.

V súčasnosti je pravdaže všetko ešte hypotetická situácia, pretože technológia nedospela do cieleného stavu, avšak to, že jedného dňa budeme všetci používať osobných robotov je jedna z tých jasných dlhodobých predpovedí budúcnosti, ktorá sa nepochybne stane skutočnosťou. Je to podobné ako v prípade diaľkovej komunikácie, pri ktorej už ľudom na konci 19. storočia bolo jasné, že logickým pokračovaním telefónu je komunikácia doplnená o obraz, čomu som sa už v jednom z predchádzajúcich nedeľníkov venoval (Sto rokov dlhý sen o videofóne).

Od týchto robotov a inteligentných strojov už pritom nemusíme byť vôbec ďaleko. Podobné detekčné schopnosti, vlastnosti a takisto produkty sa môžu objaviť pokojne v najbližších desiatich či dvadsiatich rokoch, pretože už dnes sú tieto technológie v značne pokročilom stave.

Myslím si, že robot by na vraždy, týranie a podobné prípady mal reagovať. Ak je neurónová sieť schopná to rozpoznať, kolónka priradenej reakcie by nemala zostať prázdna. Nechcel by som ale, aby podobne reagoval každý inteligentný stroj pri menej vážnych priestupkoch.

Na obrázkoch si uťahujem z toho, ako robot nahlasuje nelegálny hazard, používanie pirátskych programov či dokonca zmiznutie jogurtu z chladničky. Myslím si, že z robotov v domácnosti by sa nemali stať policajti. To by si ich asi naozaj nikto nekúpil. Dobrá paralela je asi v tom, že by sa mal robot chovať ako bežný človek, sused alebo člen rodiny. Pomocný robot v domácnosti nie je na stráženie zákona, ale na spríjemnenie života. Existujú extrémy, ako vraždy či znásilnenia, ktoré nikto nechce ignorovať a nemal by ani robot. Myslím si, že je to tá správna vyvážená línia, ktorú by ľudia boli ochotní akceptovať vo svojich domoch.

Nedeľník TOUCHIT hľadajte na našom webe ako inak než v nedeľu. Ak ste predchádzajúce zmeškali, nájdete ich všetky pod rovnomenným kľúčovým slovom.