Ako sa strojové rozpoznávanie tvárí zahrýza do dnešného sveta a ako bude vyzerať o 5 či 10 rokov? Kde všade sa môže používať? Ako sa pod jeho vplyvom zmení celá naša spoločnosť? Sú pre vás jej aktuálne uplatnenia technickým snom alebo naopak stelesnením nočných môr?

Aktuálne vchádzame do obdobia, ktoré prináša novú zmenu paradigmy žitia našich životov. V súčasnosti zavádzané technológie rozpoznávania tváre začínajú pretvárať naše mestá, meniť spôsoby policajného vyšetrovania, alternujú komerčné vzťahy, marketing i používateľský kontakt s elektronickými systémami. Je to však len začiatok.

Niekoľko nasledujúcich rokov bude pre mnohé tieto oblasti kľúčové, nakoľko my ako spoločnosť rozhodneme, čo je pre nás akceptovateľné a ako budeme v nasledujúcich dekádach žiť. Zmierime sa časom s neustálym dohľadom? Zmenia sa naše mestá, obchody a školy na jedny spojené oči, ktoré budú neprestajne vedieť, kto kde je a čo robí? Stanú sa akceptovaným nástrojom v súvislosti s predikciou zločinu? Marketingom? Bude pre nás akceptovateľné, že rôzne veľké firmy na svete budú už navždy vedieť, ako ktorý človek vyzerá, vrátane jeho rodiny a priateľov?

V celej problematike čoraz viac prestáva záležať na technológii ako takej. Tá vďaka pokročilým neurónovým sieťam nielen dozrela, ale sa aj naďalej zlepšuje, pričom sa nedá očakávať, že by sa to v budúcnosti zmenilo (v mnohých ohľadoch je rovnaká a v mnohých dokonca výrazne lepšia, ako človek). Snaha zastaviť vývoj, používanie a šírenie pokročilých systémov umelej inteligencie, určených na automatické rozpoznávanie tváre, bude márna, nakoľko ide o nevyhnutný dôsledok pokroku v konkrétnych technológiách. Tieto veci už skrátka „nezabudneme“ a budú tu.

To, o čom budeme rozhodovať je to, kde používanie týchto systémov budeme akceptovať, ako ich budeme regulovať a ako ich necháme zasiahnuť do našich životov a nášho fungovania spoločnosti. Rozhodneme o tom, čo bude „normálne“ a už dnes je isté, že finálny stav bude síce možno normálnym pre väčšinu ľudí, ale pre nemalú skupinu z nich bude veľmi nepríjemný až strašidelný.

ZÁKLADNÁ ĽUDSKÁ REAKCIA NA ZAVÁDZANIE TÝCHTO SYSTÉMOV DO PREVÁDZKY

Technológiu rozpoznávania tvárí dnes uplatňujeme v mnohých oblastiach. Vidíme ju napríklad v akcii pri tagovaní fotografií na sociálnych sieťach, pri automatickom triedení fotografií podľa toho, kto na nich je, používame ju pri odomykaní smartfónov či dverí a takisto pri policajných pátraniach v súvislosti s kamerovými systémami miest. To je však stále len zlomok toho, kde všade môže byť použitá a kde v nasledujúcich rokoch aj použitá bude.

Aktuálne testujeme jej nasadenie pri kontrole vstupu na hromadné podujatia (napr. koncerty, či športové zápasy), pri nakupovaní, pri cestovaní v hromadnej doprave, vo väzniciach a takisto v školách.

Čína zaviedla sofistikované systémy rozpoznávania tváre po celej krajine, pričom využíva viac ako 200 miliónov kamier na verejných priestranstvách /snímka z CCTV kamier v Pekingu/

Ľudia tieto zmeny vnímajú rôzne, pričom v základe sa dajú rozdeliť do dvoch hlavných názorových skupín. Pomenujme ich na ilustráciu ako zvítačovburičov, pričom sa snažme vnímať tieto slová len pozitívne, bez dodatočných skrytých charakteristík a súvislostí.

Do tej prvej skupiny patria ľudia, ktorým technológie automatického rozpoznávania tvárí nevadia a nevidia v nich relatívne žiadny problém. Ich príchod teda vo všeobecnosti vítajú. Neobávajú sa ich, pretože potenciálne nebezpečenstvá v tejto súvislosti im buď vôbec neprekážajú (nepovažujú ich za dôležité), alebo o nich nevedia. Ich typický názor je, že technológie tohto typu sú veľmi užitočné, pričom porušenie svojho súkromia alebo súkromia iných ľudí v tejto súvislosti nevnímajú. Bežný argument je, že všetci predsa tváre vonku ukazujeme všetkým okoloidúcim, takže to, že ich ukazujeme aj kamerám a detekčným systémom umelej inteligencie je predsa totožné.

Druhú skupinu tvoria ľudia, ktorým tieto technológie prekážajú z hľadiska narúšania súkromia, alebo v nich vyvolávajú nemalé obavy z dôvodu zneužitia. Proti ich čoraz väčšiemu zavádzaniu sa teda búria, vyjadrujú svoj nesúhlas a snažia sa vyhýbať tomu, aby ich tvár bola strojovo rozpoznávaná napríklad na ulici či na rôznych internetových službách. Mnohým z nich pravdaže nevadí technológia ako taká a môžu ju aj používať, ale očakávajú, že bude pod ich úplnou kontrolou. Môžu teda odomykať tvárou svoj telefón, dvere domu alebo si triediť svoje fotografie podľa lokálneho špecializovaného programu na rozpoznávanie tvári. To, čo im vadí je zdieľanie identifikátorov, teda to, že tváre a ich definície sú súčasťou hromadných databáz rôznych firiem a inštitúcii, ktoré ich môžu používať podľa svojej ľubovôle.

Rýchle rozpoznávanie pohlavia a veku okoloidúcich zo snímky tváre /Foto: Rodrigo Reyes Marin/

Obe skupiny pravdaže nemajú ostré hranice. Mnohí ľudia z vítacej skupiny neraz rozpoznávajú, že existujú aj prípady, pri ktorých je používanie danej technológie jasne za čiarou a malo by byť zakázané, či obmedzené. Ide napríklad o neférový marketing využívajúci chvíľkové duševné slabiny, neprestajné nezákonné monitorovanie nevinných osôb a podobne. Takisto ľudia v skupine buričov často súhlasia, že existujú prípady, kedy hromadné detekčné systémy napojené na kamerové systémy majú zmysel, ako napríklad pri ochrane proti teroristickým útokom na letiskách, chytaní masových vrahov a podobne.

Či už patríte do prvej alebo druhej skupiny, isté je, že váš základný postoj smerom k jednej alebo druhej strane výrazne ovplyvní to, ako budete na nasledovné témy tohto článku reagovať.

MASÍVNY AKTUÁLNY ZBER VŠETKÝCH TVÁRÍ SVETA, V DOBROM I ZLOM

Celkom základnou a aktuálnou problematikou rozpoznávania tvárí je neprestajný zber zdrojových dát prakticky všetkých ľudí na svete bez ich súhlasu. To sa deje už niekoľko rokov, pričom túto činnosť vykonáva mnoho firiem a organizácií po celom svete.

To, že nejaký konkrétny človek so zberom fotografie jeho tváre nesúhlasí, je irelevantné, pretože natrénovanie umelej inteligencie na jeho tvár môžu spustiť napríklad aj jeho priatelia či rodinní príslušníci, ktorí fotku s ním (napríklad nejakú spoločnú) nahrajú na nejakú internetovú službu a otagujú. Tag pri tom ani nemusí byť vložený. Stačí vytvoriť popisku „ja a môj brat“, pričom napríklad Facebook obvykle má vytvorenú perfektnú hierarchiu o tom, kto tento brat je, či už z hľadiska nadviazaného účtu na sociálnej sieti, komunikátora, telefónneho čísla alebo skrátka položiek kontaktov, ku ktorým používatelia smartfónov rutinne dávajú prístup rôznym aplikáciám.

Výsledkom je, že človek ktorý v súčasnosti s uložením svoje tváre a svojho identifikátora nesúhlasí, nemá vo väčšine prípadov ako reagovať a prípadne ani zistiť, že sa stal súčasťou nejakej databázy tohto typu.

Je chybné očakávať, že databázy tvárí s nadviazanými údajmi majú len sociálne siete, kde svoje podobizne pod iným účelom nahrávajú ľudia sami. Verejné alebo čiastočne verejné zdroje využíva mnoho firiem. Jednou z nich je napríklad izraelská spoločnosť Terrogence (od roku 2017 je jej vlastníkom americká analytická spoločnosť Verint), ktorá posledných päť rokov hromadne zbiera verejné dáta z profilov Facebooku, YouTube videí a z ďalších on-line služieb, pričom vytvára masívnu databázu tvárí v rámci svojej služby Face-Int.

Firma je dlhodobo kontraktorom americkej vlády, pričom svoj systém a databázy poskytuje americkému námorníctvu, NSA a iným tajným službám po celom svete. V jej prípade ide predovšetkým o preberanie tvárí z fotiek a videí, ktoré na Facebooku, Twitteri a YouTube uverejnia rôzne teroristické skupiny, či už v rámci propagačných vyhlásení, alebo videí z tréningových táborov, ktoré používajú hlavne na získavanie nových členov.

Aj keď s vytváraním takejto databázy bude zrejme súhlasiť väčšina ľudí, je dôležité si uvedomiť, ako vlastne k jej vytváraniu dochádza. Prebieha len relatívne obyčajným skenovaním obsahu Facebooku, YouTube, Twitteru a iných služieb. Akákoľvek firma môže robiť to isté a tváre miliónov či miliárd ľudí si takto skenovať a uchovávať, v nadväznosti na ich mená, sociálne profily či dokonca aj hlas.

Pre americký magazín Forbes napríklad jeden z bývalých zamestnancov Terrogence prezradil, že firma podobné aktivity robila nielen pre teroristické, ale aj pre rôzne politické a sociálne skupiny, a to na objednávku rôznych vládnych klientov z celého sveta. Kým v prípade YouTube ide o zber verejných dát, v prípade Facebooku mohlo ísť aj o tie súkromné, pričom tento druh „pochybenia“ je dobre známy v súvislosti so škandálom Cambridge Analytica z roku 2014, kedy táto firma využila Facebook na hromadný zber politických dát, vďaka jeho laxnému prístupu a otvorenému systému, ktorý rôznym firmám poskytoval.

Webová stránka firmy BlinkIdentity, hlásajúca „identifikujeme ľudí v pohybe“, ktorú si predajca lístkov Ticketmaster zajednal na vytvorenie identifikačného systému pre koncerty

Je veľmi nešťastné, že aktuálnu podobu zberu tvárí si veľká časť bežnej verejnosti vôbec neuvedomuje. Obrovské množstvo firiem po celom svete dnes prakticky bez akéhokoľvek dohľadu zbiera identifikátory tvárí stoviek miliónov až miliárd ľudí, ktoré budú následne použité v systémoch iných firiem alebo organizácií. Účel môže byť pritom rôzny. Na jednej strane môžu byť použité na identifikáciu teroristov, zlodejov a iných nebezpečných osôb, na strane druhej na identifikáciu politických oponentov, nepriateľov režimu a v neposlednom rade takisto na identifikáciu zákazníkov a cieľov pre reklamu.

Vo všetkých prípadoch môže dôjsť chybám a konkrétne osoby môžu byť identifikované zle a dostať na svoje čelo terč na základe chybného obvinenia. V lepšom prípade môže byť niekto falošne obvinený z krádeže, v horšom prípade sa môže stať nedopatrením cieľom pre zabitie autonómnym dronom. Zbieranie tvárí je takisto problém v krajinách s relatívne silnými reguláciami. Ani veľké známe firmy, ktoré sú pod veľkým dohľadom, totiž nemajú problém pri zbere dát balansovať na hrane dobrých mravov a súhlas si od ľudí vynútiť zmanipulovaním.

V Európskej únii nás už takmer rok chráni nové všeobecné nariadenie o ochrane osobných údajov (GDPR), pri ktorom je okrem iného vyžadované, aby rozpoznávanie tváre bolo aktívne až potom, ako naň dá používateľ výslovný súhlas. Vzhľadom na to, že Facebook na tejto funkcionalite nie je založený, podľa GDPR si od Európanov nemôže súhlas vynútiť štýlom: „Klikni na súhlasím, lebo inak bude tvoj účet zrušený“. Musí dať používateľovi jasne na výber a ten má možnosť túto funkciu odmietnuť.

Keďže ale Facebook tieto dáta od Európanov rozhodne chce, v rámci svojho rozhrania sa rozhodol pre tzv. dark pattern, teda temný mechanizmus (podrobnejšie informácie o týchto praktikách nájdete v našom článku Temné mechanizmy, ako sa nás rôzne IT firmy snažia beztrestne zmanipulovať s úsmevom na tvári). Používateľom zobrazil okno o tom, že od nich vyžaduje povolenie na rozpoznávanie tváre, tak ako mu zákon káže. Prvé okno pôsobilo úprimne s nápisom „Zapnite rozpoznávanie tváre, ak chcete, aby sme používali túto technológiu“. Tým počestnosť ale končila. Namiesto logických tlačidiel „áno, súhlasím“ a „nie, nesúhlasím“ obsahovalo okno tlačidlá „Spravovať nastavenia údajov“ (šedé) a „Akceptovať a pokračovať“(žiarivo modré).

Už len toto zmätenie zapríčinilo, že mnoho ľudí kliklo na modré tlačidlo nachádzajúce sa na pozícii „pokračovať“, neuvedomujúc si, že funkciu už týmto povoľujú a mali aj inú možnosť. Ak si to uvedomili a klikli na nič nehovoriace šedé tlačidlo, zobrazilo sa druhé okno s temným mechanizmom, kde Facebook na presvedčenie schválenia použil strach. Ešte predtým, než používateľovi zobrazil na výber medzi povolením alebo nepovolením tejto funkcie, ukázal im okno s nasledovným textom: Technológia rozpoznávania tváre nám umožňuje chrániť vás pred cudzími osobami používajúcimi vašu fotku na predstieranie vašej identity alebo prostredníctvom čítača obrazovky informovať ľudí s poruchami zraku o tom, kto je na fotke alebo vo videu. Ak ponecháte rozpoznávanie tváre vypnuté, nebudeme môcť túto technológiu použiť v prípadoch, keď cudzia osoba použije fotku, na ktorej ste, na predstieranie vašej identity.

Táto informácia bola zavádzajúca. Schopnosť chrániť sa proti falošným profilom totiž s funkciou rozpoznávania tváre nijako nesúvisí a nijako vás proti nej neochráni. Váš účet by po jej vypnutí nebol z hľadiska tejto ochrany o nič horší a ani o nič menej bezpečný. Šlo a aj stále ide o nečestnú praktiku vyvolania súhlasu hlúpym zastrašením, ktoré používatelia bez dostatočných znalostí danej technológie nemohli rozpoznať.

Ako je vidieť, firmy nemajú zábrany získať súhlas formou zmanipulovania ľudí a reguláciu tak „splniť“. Okrem toho, prítomnosť regulácie automaticky neznamená koniec problémov. Ako dobrý príklad by mohla slúžiť menšia americká firma LocalBlox, ktorá sa od roku 2010 zameriava na automatický zber tvárí a iných dát zo sociálnych profilov ako Facebook, Twitter a LinkedIn, spoločne s ďalšími zdrojmi, ako napríklad realitnými stránkami, bežnými webmi a podobne.

Vytvára pritom databázu používateľov s ich tvárami, menami, IP adresami ich zariadení, e-mailovými adresami, telefónnymi číslami a ďalšími dátami, ako sú napríklad ich záujmy, preferencie z hľadiska nákupov a podobne. Tieto databázy následne predáva firemným a iným záujemcom.

Predstavme si, že v budúcnosti budú takéto firmy po celom svete silno regulované a museli by mať na každý záznam výslovné povolenie, ktoré by bolo možné neskôr stiahnuť (tak ako to v EU máme možnosť vďaka GDPR). To síce naoko môže pôsobiť pozitívne, ale len za ideálnych podmienok.

V minulom roku totiž vyšlo najavo, že 1,2 TB databáza LocalBoxu so 48 miliónmi osobných profilov bola voľne dostupná na cloudovom serveri firmy komukoľvek, kto ju našiel. Jej účet (na službe Amazonu) totiž nebol chránený heslom a dáta tak mohol stiahnuť ktokoľvek. Ako dlho tomu tak bolo a koľko ľudí si tieto dáta stiahlo, to nevedno. Na problém firmu upozornil bezpečnostný expert Chris Vickery, z bezpečnostnej spoločnosti UpGuard, ktorý nechránený server našiel pri skenovaní webu vo februári minulého roku (o pár hodín neskôr firma server zabezpečila).

ROZPOZNÁVANIE VAŠEJ TVÁRE V OBCHODOCH, NA KONCERTOCH AJ ŠPORTOVÝCH PODUJATIACH

Akonáhle konkrétne firmy databázy tvárí majú, môžu ich predávať ďalej, takže v rámci samotného použitia sa rozhodne nebude situácia obmedzovať len na ich tvorcov a vládne organizácie, ale aj na komerčnú sféru. Podobne ako dnes napríklad cielenú reklamu môže uplatniť akákoľvek firma (sprostredkovane), tak bude v budúcnosti pravdepodobne akákoľvek firma môcť ťažiť z rozpoznávania tvárí. Veľké perspektívy má táto technológia v obchodoch, pričom v základe vidíme dva rôzne prístupy.

Buď sa rozpoznáva tvár z hľadiska konkrétnej osoby (teda to, že v obchode ste práve vy), alebo z hľadiska základných prvkov, teda napríklad toho, aký typ osoby v obchode je (pohlavie a vek určený podľa tváre a postavy) a akú má náladu (podľa výrazu v tvári).

Sledovací reklamný pútač s rozpoznávaním tváre v obchodnom centre Westfield /Foto: Ocean Outdoor UK/

Ten druhý menovaný prístup dnes môžeme vidieť v akcii napríklad vo veľkých obchodných centrách Westfield, ktoré nájdeme vo Veľkej Británii, Austrálii či na Novom Zélande. V útrobách viac ako 40 obchodných domov sa nachádza zhruba 1600 reklamných pútačov s čiastočne skrytými kamerami. Bilbordy používajú systém od francúzskej firmy Quividi, pričom skenovanie vykonávajú autonómne. To znamená, že natáčajú jednotlivých nakupujúcich, pričom systém umelej inteligencie rozpoznáva podľa ich tváre a postavy ich pohlavie, vek a takisto aj náladu.

To všetko z dôvodu, aby v momente, ako sa na reklamu pozrú, zaznamenali ich reakciu a následne ju zdieľali so zadávateľom reklamy. Quividi uvádza, že systém odhaduje pohlavie a vek s viac ako 90 % presnosťou a náladu s 80 %. Takisto je možné reklamu meniť interaktívne podľa toho, či sú v danom momente v okolí hlavne muži, alebo prevažne ženy. V základe ide o anonymné získavanie dát, respektíve reakcií na reklamy, pričom logickým ďalším krokom je napojenie na databázu tvárí a mien.

Prečo zaznamenávať reakciu „40-ročného muža“, keď je rovno možné zaznamenať reakciu „Jána Kováča“, u ktorého je známy reklamný identifikátor, záľuby, rodinní príslušníci a posledné nákupy. Ide o jednoduché uplatnenie cielenej reklamy v off-line svete, pričom je na nás, či ho budeme schopní tolerovať.

Nad týmto systémom uvažuje napríklad Facebook, ktorý má v tejto súvislosti niekoľko aktívnych patentov. Tie popisujú kamerové systémy v obchodoch, ktoré by rozpoznávali zákazníkov a poskytovali obchodu základné údaje z ich sociálnych profilov. Na základe toho obchod môže vedieť, akí ľudia sa na aký tovar zameriavajú. Facebook na oplátku môže získavať kompletné dáta o tom, čo konkrétne osoby nakupujú, čím môže ďalej rozšíriť svoj masívny personalizovaný záber pre cielenie reklamy.

Identifikácia tvárí ľudí v obchodoch bude v nasledujúcich rokoch horúcim trendom /Foto: Consumer Reports/

Jeden z patentov Facebooku sa napríklad zaoberá detekciou výrazu tváre a odhadom nálady, čím personál môže rýchlo zistiť, či je nejaký zákazník rozladený, naladený a podobne a potenciálne ho môže personál alebo automatický systém osloviť (podrobnejší popis toho, ako detegovanie nálad umelou inteligenciou funguje, nájdete v článku: Automatické rozpoznávanie pocitov a nálad ide do akcie). V dohľadnej budúcnosti by sme mohli byť dokonca svedkami toho, že v spolupráci s digitálnymi cenovkami sa ceny produktov budú meniť podľa toho, aký zákazník sa na ne pozerá. Nie diskriminačnou formou, ale napríklad tým, že kamerový systém zistí, že nejaký človek sa pozerá na čokoládovú tyčinku X, pričom vyzerá váhavo, tak mu cenu zmení napríklad na zľavu pri nákupe dvoch kusov.

Potenciál rozpoznávania tváre v komerčnej sfére je masívny. V minulom roku odhalil plány na jej zavedenie napríklad predajca vstupeniek Ticketmaster, ktorý si od nej sľubuje výrazné zrýchlenie vstupov na rôzne podujatia. Namiesto ukazovania vstupenky by teda návštevníci prešli len turniketom s kamerou. Systém by mala zabezpečovať spoločnosť Blink Identity, ktorá vyvíja identifikačné systémy rozpoznávania tváre určené pre rýchlosť chôdze, bez toho, aby ľudia museli zastavovať a konkrétne sa pozerať do kamery.

Rozpoznávanie tvárí dnes vidíme zavádzať v obchodoch takisto z bezpečnostných dôvodov. Napríklad americký reťazec obchodov Saks Fifth Avenue zaviedol pri vstupe kamerové systémy, ktoré tváre nakupujúcich porovnávajú s databázou známych zlodejov a pokiaľ ich zaznamenajú, upozornia ochranku.

Minulý rok rozpoznávanie tváre pri vstupe zaviedol takisto aj veľký americký štadión Madison Square Garden v New Yorku. Prvé použitie sme mohli vidieť na basketbalovom turnaji v marci minulého roku, pri ktorom návštevníci prechádzali bezpečnostnými bránami, na ktorých bol kamerový systém. Tváre boli rozpoznávané a hľadala sa zhoda s tvárami potenciálne problematických osôb, ako napríklad v minulosti zatknutých výtržníkov.

Automatické rozpoznávanie tváre v minulom roku zaviedol pri vstupe aj newyorský štadión Madison Square Garden /Benjamin Norman/The New York Times/

Prevádzkovatelia štadiónu nový systém okomentovali so slovami: „Náš štadión pokračuje v preskúmavaní nových technológií, aby zabezpečil bezpečný a úžasný zážitok pre svojich hostí“. Nepreradili však, ako systém dáta používa a či sú záznamy tváre návštevníkov uchovávané dlhodobo.

Kamerové systémy budú rozhodne pomáhať prevádzkovateľom v určovaní toho, kto podujatia naozaj navštevuje. Pôvodný kupca lístku totiž nie je vždy ten, kto na zápas príde. Charles Carroll , viceprezident spoločnosti IDEMIA, ktorá identifikačné a bezpečnostné riešenia pre rôzne štadióny poskytuje, aktuálnu situáciu okomentoval so slovami „Doba, kedy je na štadióne 40 000 až 60 000 ľudí, o ktorých nikto nevie kto sú, bude čo nevidieť preč“.

V máji minulého roku sa systém rozpoznávania tváre objavil takisto na kalifornskom koncerte populárnej speváčky Taylor Swift, kde bol zabudovaný do kiosku s veľkým displejom, ktorý zobrazoval jej prípravu na vystúpenie. Všetci ľudia, ktorý sa na displej pozreli, mali nevedomky tvár zoskenovanú, pričom systém tváre prechádzal databázu niekoľkých stoviek osôb, ktoré Taylor Swift v minulosti obťažovali. Bolo tak rýchlo možné zistiť, či sú na podujatí a predstavujú riziko. V rámci USA je tajné používanie tohto riešenia stále relatívne bezstarostné, nakoľko koncert je de facto súkromná akcia, ktorú prevádzkovateľ má podľa amerického práva možnosť zaznamenávať.

Legalitu týchto riešení majú „vyriešenú“ takisto v Číne, kde je na mnohých miestach v prevádzke systém Sharp Eyes, určený na vyhľadávanie zločincov (a nepriateľov štátu) pohybujúcich sa na verejných priestranstvách a podujatiach. V apríli minulého roku bolo napríklad ohlásené úspešné zatknutie 31-ročného muža, ktorého systém našiel na koncerte medzi takmer 60 000 návštevníkmi.

ROZPOZNÁVANIE TVÁRÍ NA ŠKOLÁCH

Rozpoznávanie tváre za začína uplatňovať takisto na školách. Priekopníkmi sú v tomto inštitúcie v USA, kde sa táto technológia objavila ako doplnok kamerových systémov, strážiacich školský pozemok. Do databázy je možné vkladať fotografie sexuálnych predátorov, ktorých je možné rozpoznať medzi osobami, ktoré sa približujú k budove.

Ďalším krokom je prítomnosť týchto systémov v triedach, s čím sa v niektorých krajinách takisto experimentuje. Behom októbra minulého roku ich začalo zavádzať viac ako 100 štátnych základných a stredných škôl v Austrálii, za účelom zisťovania dochádzky. Systém zavádzal v školách melbournský technologický startup LoopLearn, na základne dotácie od federálnej vlády Austrálie v hodnote 300 000 eur.

Zavedenie rozpoznávanie tváre detí na školách testuje USA, Austrália a takisto India /Snímka: India Today/

Systémy sú v základe navrhnuté tak, aby nahradzovali praktiku, ktorú poznáme aj na Slovensku, pri ktorej učitelia na začiatku vyučovania skontrolujú prítomnosť jednotlivých žiakov napríklad odškrtávaním položiek v triednej knihe. V austrálskych školách namiesto toho začali používať malé kamery, ktoré pravidelne skenujú triedy a párujú fotografie študentov s videným záznamom. Ak nejaký žiak chýba, vykonajú záznam, alebo upozornia personál.

Keďže v Austrálii sa vykonáva kontrola dochádzky žiakov pred začiatkom každej hodiny, školy testujúce automatické rozpoznávania tvárí sa pochválili (napr. Ballarat Clarendon College), že im technológia ušetrí až 2,5 hodiny vyučovacieho času týždenne.

Zavedenie týchto systémov však v Austrálii nezostalo bez odozvy a svoj protest vznieslo mnoho učiteľov, rodičov i žiakov. Vo februári tohto roku to napokon viedlo k hromadnému zákazu, ktoré vydalo austrálske ministerstvo vzdelávania, pričom školám nariadilo, že podobné systémy na žiakoch nesmú používať bez výslovného súhlasu rodičov. Kým niektorí ľudia toto rozhodnutie o zákaze uvítali, iní boli k nemu kritickí.

Vedúce osoby v školách, kde dané systémy testovali, sa napríklad proti zákazu ohradili a upozornili na to, že systém bol navrhovaný s dôrazom na bezpečnosť a súkromie, pretože fotografie študentov z krátkodobého záznamu kamery sú po identifikácii ihneď zmazané. Argumentovali tým, že kamery nezaznamenávajú to, čo žiaci robia. Iba kontrolujú, že sú naozaj v triede. Z tohto dôvodu teda zákaz austrálskeho ministerstvo školstva, odôvodnený rizikom potenciálneho ukladania a následného zneužívania biometrických dát žiakov, považovali za neoprávnený.

V Číne rozpoznávanie tváre používajú v triedach aj na kontrolu správania žiakov /Foto: Mark Schiefelbein/

So zákazom naopak súhlasilo mnoho žiakov. Tí poukazovali na to, že im neustála prítomnosť kamery v triede vadila a pripomínala im ideu „veľkého brata“, či inej šedej eminencie, ktorá ich neustále monitoruje. Na ich stranu sa postavilo aj mnoho učiteľov, ktorí vzniesli oprávnenú námietku, že nie je správne, aby sme mladú generáciu učili, že byť pod neustálym dohľadom kamery a automatických systémov je niečo normálne a čo sa má očakávať. Človek by sa nemal vo verejných budovách cítiť ako vo väzení.

Tieto sociálne argumenty žiakov a učiteľov sú samozrejme dôležité, ale netreba zabudnúť ani na tie technické, riešiace bezpečnosť a potenciálne zneužitia. Systémy tohto typu, kontrolované školou, alebo sprostredkovateľom, sú nevyhnutne náchylné na napadnutie. Ťažko môžeme v štátnych školách očakávať technické zabezpečenie na úrovni najlepších technologických firiem na svete. Na školách bude možné systém napadnúť a používať na monitorovanie alebo hromadný zber dát, čo rozhodne nie je v súvislosti s deťmi (ale ani dospelými ľuďmi) žiadané a v poriadku.

Okrem týchto relevantných diskusií má celá problematika rozpoznávania tváre na školách pravdaže aj mnoho naivných argumentov, ktoré sa nachádzajú na strane zástancov aj odporcov. Typickou ukážkou naivity zo strany odporcov je napríklad argument, že dochádzku by mali kontrolovať ľudia, nie roboti. Takýto názor sa dá označiť za technofóbiu, pretože vychádza jednoducho len zo strachu z technických riešení, bez priameho upozornenia na ich nedostatky alebo chyby. Zástup naivity nájdeme takisto na strane podporovateľov. Napríklad v austrálskom spravodajskom médiu The Conversations sa v tejto súvislosti objavilo hlúpe poukázanie na fakt, že používanie kamier a rozpoznávanie tvárí v školách nie je nič zvláštne, pretože žiaci majú telefóny, ktoré aplikácie na rozpoznávanie tváre takisto obsahujú, takže tieto technológie už dávno v školách vlastne sú.

Ešte absurdnejšie bolo tvrdenie, že v daných systémoch nie je žiadne nebezpečenstvo, pretože fotografie alebo tváre študentov sú učiteľom už teraz známe a jediné v čom je rozdiel je, že tvár nekontroluje učiteľ, ale počítač. Takže je to vlastne v jadre to isté. Tento naivný pohľad nijako neadresuje problém existencie dát, ich zber, distribúciu a uschovávanie. Ak tváre sleduje učiteľ v škole, alebo imigračný pracovník na letisku pri kontrole pasu, je to len jedna tvár človeka v jednej hlave človeka. Ľudia si nemôžu pamätať nekonečné množstvo tvárí a ich hlava je „off-line“. To je na hony vzdialené od systému, ktorý pozná prakticky všetky tváre, môže ich ľubovoľne perfektne ukladať a viesť si o nich podrobné záznamy, pričom všetky môžu byť kedykoľvek ukradnuté, zneužité, predané alebo zdieľané s inými systémami, známeho alebo neznámeho charakteru, a to naveky.

SKENOVACIE DODÁVKY, KTORÉ JAZDIA PO MESTE

To, že skenovanie tvárí na uliciach, úradoch či na verejných podujatiach prebieha dnes vo veľkom v Číne, mnoho ľudí neprekvapí. Monitorovanie populácie patrí totiž v totalitných krajinách k dlhodobým trendom, pričom nové technológie ich len viac zjednodušili a zefektívnili. Systémy sú však v hojnej miere testované aj v západných demokraciách.

Dodávka na rozpoznávanie tváre okoloidúcich v centre Londýna /Foto: Big Brother Watch UK/

V predvianočnom období sme test rozpoznávania tvárí na uliciach mesta mohli vidieť napríklad v Londýne. Akciu vykonávala 17. a 18. decembra miestna metropolitná polícia, ktorá na niekoľkých lokalitách zaparkovala neoznačenú zelenú dodávku, vybavenú kamerami, ktorá bola napojená na register hľadaných a nebezpečných osôb.

Celá testovacia akcia bola vopred ohlásená na webovej stránke polície, pričom v mieste zaparkovaných dodávok bolo vidieť aj niekoľko malých plagátov vo formáte A4, ktoré na rozpoznávanie tvárí upozorňovali. Vzhľadom na ich veľkosť a umiestnenie si však mnoho okoloidúcich akciu ani nevšimlo, o čom svedčil aj dotazník britských redakcií, ktoré ľudí zastavovali a pýtali sa, čo si o danej činnosti polície myslia. Drvivá väčšina ľudí nemala vôbec poňatia o tom, že sa v dosahu skenovacej dodávky nachádzajú.

Aj keď tlačové vyhlásenie polície oznamovalo, že ľudia, ktorí sa od kamier odvrátia, alebo sa danej oblasti vyhnú, nebudú automaticky vnímaní za podozrivých, niekoľko aktivistov pre ľudské práva, ktoré sa na miesto dostavili a rozprávali sa s prítomnými hliadkami, tvrdili opak.

Malý plagát na londýnskej lampe. Upozorňuje, že v blízkosti je identifikačná dodávka /Foto: Adrian Short/

Napríklad Hannah Couchman zo združenia Liberty, alebo Silkie Carlo z Big Brother Watch oznámili, že prítomné policajnými hliadky im verbálne potvrdili, že majú príkaz zvážiť podrobnejšiu kontrolu kohokoľvek, kto by sa kamerám snažil viditeľne vyhýbať. Nervózne odvrátenie zraku od kamier a rýchla chôdza preč s rukou pred tvárou by teda zrejme vyprovokovala zásah.

Dodávky boli zaparkované v londýnskych oblastiach Soho, Piccadilly Circus a Leicester Square, pričom v oboch dňoch boli v prevádzke 8 hodín. Neboli známe žiadne zatknutia, pričom polícia oznámila, že kamerový záznam zmazala hneď po teste a rozpoznané tváre okoloidúcich budú uložené v databáze maximálne 30 dní.

MICROSOFT A AMAZON VOLAJÚ PO REGULÁCII

Špičkové systémy na rozpoznávanie tváre, poháňané pokročilými neurónovými sieťami dnes vyvíja mnoho firiem. Či už ide o systém Facebooku nazvaný DeepFace, Google a jeho FaceNet, Microsoft a jeho Face API, Amazon a jeho systém Rekognition, alebo systémy čínskych firiem Megvill a SenseTime, vo všetkých prípadoch ide o účinné riešenia, ktoré v budúcnosti celkom zmenia svet.

Hrozby ktoré prinášajú sú reálne. Či už ide o možnosť pochybenia formou diskriminácie z dôvodu zlých tréningových dát, alebo o narúšanie súkromia a ľudských práv, je extrémne dôležité, aby jednotlivé štáty a únie vytvorili v tejto súvislosti čo najrýchlejšie účinné regulácie. Pomerne prekvapujúce je, že ich k tomu vyzývajú aj samotní vývojári, pričom asi najhlasnejšie to urobil v decembri minulého roku Microsoft.

Ten vo svojom blogovom príspevku Rozpoznávanie tvárí: je čas konať predostrel svoj dôraz na to, aby v roku 2019 americká vláda začala urýchlene adoptovať zákony na reguláciu tejto technológie. Microsoft upozornil, že džin je vypustený fľaše a pokiaľ nebudeme konať, riskujeme, že do 5 rokov sa rozpoznávanie tváre rozšíri v podobe, ktorá zhorší rôzne sociálne problémy našej spoločnosti. V tom čase už pritom bude mnohonásobne náročnejšie dané problémy riešiť.

/Foto: Microsoft/

Jedno z najdôležitejších upozornení, ktoré Microsoft vzniesol, je nebezpečenstvo komerčného „preteku ku dnu“, pri ktorom sú firmy nútené vybrať si medzi sociálnou zodpovednosťou a trhovým úspechom (neprekvapivo volia vždy druhú možnosť). Jediným riešením, ako tomu zabrániť, je vybudovať silné základy povinnej zodpovednosti, ktoré tieto firmy budú musieť zo zákona bezpodmienečne dodržiavať. Microsoft pritom navrhuje, aby bola vytvorené legislatíva, ktorá by ukladala poskytovateľom riešení na rozpoznávanie tváre povinnosť poskytovať verejnú dokumentáciu a verejné stanovenie nameraných limitácií.

Takisto by malo byť povinné umožniť testovať všetky systémy tretím stranám v nezávislých porovnávacích testoch, ktoré by odhaľovali slabiny a skrytý bias. Microsoft takisto upozornil na problémy technológie z hľadiska súkromia a na to, že onedlho bude realitou to, že kamerové systémy obchodov budú vzájomne zdieľať dáta, čím bude možné získavať dlhodobú históriu pohybu konkrétnych ľudí a ich nákupov a iných činností. Je teda nutné vytvoriť zákony, ktoré zaručia, že práva verejnosti budú zachované v dostatočnej miere. Pričom navrhol, aby aj USA zvážili aplikovanie silnej ochrany spotrebiteľa, akú má zavedenú Európska únia.

Firma sa takisto vyjadrila k použitiu technológie vo vládnych systémoch a upozorňuje, že je nutné vytvoriť legislatívu, ktorá zaručí, že rok 2024 sa nebude podobať na knihu 1984 od Georgea Orwella. Vládne organizácie v podobe tajných služieb a policajných zložiek by podľa Microsoftu mali byť limitované na použitie rozpoznávanie tvárí len v prípade konkrétnych ľudí, nie celej populácie a mali by vyžadovať povolenie súdu.

Na stranu Microsoftu sa vo februári postavil aj Amazon. Z jeho strany však boli upozornenia značne slabšie. Firma zhrnula svoje odporúčania do niekoľkých bodov, ktorými by sa budúce regulácie mali zaoberať. V prvom rade majú zákony zabezpečiť zachovanie osobných práv jednotlivcov a v prípade, že je rozpoznávanie tváre používané v súdnictve a pri policajnej činnosti, podľa Amazonu má byť na konci rozhodnutia vždy človek, alebo aspoň strojový systém nesmie pri automatickom rozhodnutí prekročiť nižšiu istotu než 99 %. Polícia by zároveň mala byť podľa Amazonu vždy transparentná v tom, ako tieto technológie používa. V rámci komerčnej sféry Amazon zastáva názor, že firmy by mali zákazníkov na prítomnosť rozpoznávania tvárí vždy viditeľne upozorňovať.

Príslušníci polície v 6,5-miliónovom čínskom meste Luo-jang, s nasadenými okuliarmi na rozpoznávanie tváre, ktoré zaviedli v minulom roku /Foto: China Stringer Network/

Tieto postoje sú ale značne slabé. Amazon napríklad odporúča, aby obchodné centrá, reštaurácie a iné podniky vždy upozorňovali na rozpoznávanie tváre veľkou písomnou informáciou viditeľnou pri vstupe. Pripomína to dnešné povinné upozornenia na kamery, umiestnené napríklad na dverách budovy alebo oplotení pozemku. Toto jednoduché prianie však nemá vzhľadom na budúcnosť prakticky žiadny význam.

Aby bolo relevantné, človek musí mať možnosť ovplyvniť svoje rozhodnutie. Keby bol systém rozpoznávania tváre len v jednom obchode v meste, zákazníci by mali možnosť sa mu vyhnúť a ísť nakupovať inam. Avšak v momente, ako sa dané upozornenie nachádza pri vstupe do každej budovy, je jeho existencia už irelevantná. Človek sa už nemôže rozhodnúť, že sa systému rozpoznávania tváre vyhne, pretože by už ďalej nemohol byť súčasťou spoločnosti.

Je nad slnko jasnejšie, že s postupom času môžeme očakávať zavádzanie kamerových systémov a identifikátorov tvárí práve na lokalitách, ktoré sú pre spoločnosť kľúčové (obchody, stanice dopravy, školy, úrady). Povinné upozornenie je v takomto prípade už len divadlo, bez akéhokoľvek opodstatnenia a efektu.

PRIPRAVTE SA, ZMENA NEVYHNUTNE PRICHÁDZA

Systémy na rozpoznávanie tváre sú vo vládnej aj komerčnej sfére dnes adoptované extrémne rýchlym tempom. V súčasnom stave sa zdá, že zabrániť ére ich masívneho uplatňovania bude už nemožné, pričom musíme očakávať ich pozitívny aj negatívny efekt.

Odporcovia si nemôžu zakrývať oči nad tým, že rozpoznávanie tváre prináša do sveta aj mnoho dobra. V apríli minulého roku napríklad indická polícia v Novom Delí pomocou týchto systémov úspešne našla takmer 3000 stratených detí. Americkí historici dnes pomocou nich identifikujú portréty ľudí, ktorí sa zúčastnili bojov v americkej občianskej vojne pred 150 rokmi, zatiaľ čo mnoho výskumníkov z oblasti zdravotníctva túto technológiu čoraz častejšie úspešne používa na hromadnú a lacnú detekciu raritných genetických chorôb v populácii Afriky a latinskej Ameriky.

Podporovatelia si zároveň ale nemôžu zakrývať oči nad tým, že technológie rozpoznávania tváre sú dnes používané v totalitných krajinách na potlačovanie práv a slobôd občanov. V západných krajinách sa môžu stať nositeľom diskriminácie, na základe skrytého strojového biasu a takisto nástrojom na falošné obvinenia a stratu súkromia. V komerčnej sfére hrozí, že podobizne ľudí sa stanú samozrejmým verejným majetkom firiem, ktoré ich budú zneužívať na rôzne pochybné účely a čierne predajné praktiky.

Je nutné, aby sa v tejto oblasti celosvetovo vytvorili silné a rozsiahle regulácie, podobne ako tomu došlo v súvislosti s potravinami či nebezpečnými látkami. Regulácie síce všetky potenciálne problémy v žiadnom prípade nevyriešia, ale sú rozhodne lepšie, než neregulovaný divoký západ odtrhnutý z reťaze, ktorý by sa rýchlo mohol zvrhnúť do absurdných podôb.

Tento článok vyšiel aj v tlačenom aprílovom vydaní TOUCHIT č. 4/2019, preto sa niektoré skutočnosti uvedené v článku, môžu odlišovať oproti aktuálnemu dátumu publikovania.