Skryté nebezpečenstvá rozpoznávania tváre

0

Prihlasovanie sa do systému alebo webovej služby bez zdržovania a pohodlné automatické triedenie a popisovanie fotografií. To sú dve najrozšírenejšie a veľmi obľúbené použitia automatického rozpoznania tváre. Táto technológia má však aj mnohé temné stránky, ktoré používateľom na prvý pohľad nemusia byť zrejmé.

Biometrická identifikácia je moderným technologickým trendom. Súčasná rýchlosť a pohodlnosť týchto metód je na vysokej úrovni a ak sa k tomu pridá aj chytľavá fráza „heslo, ktoré nikdy nezabudneš, si ty sám“, je jasné, prečo sú tieto technológie stále populárnejšie. Najlákavejším typom biometrie je rozpoznávanie tváre, pretože nevyžaduje konkrétnu fyzickú akciu, a teda žiadne špeciálne približovanie či prikladanie časti tela k senzoru.

Stačí skrátka byť len prítomný a viditeľný. Okrem toho, takéto identifikovanie je pre človeka celkom prirodzené, pretože tvár za týmto účelom používame počas celej histórie ľudstva. Rozpoznávame podľa nej priateľov či rodinu a ide takisto o hlavný identifikátor totožnosti pri kontakte so štátom a úradmi (fotka tváre na občianskom preukaze, pase či vodičskom oprávnení).

Testovacia identifikácia návštevníkov hotela, ktorú spustil Baidu v Číne

Ak porovnáme moderné biometrické rozpoznanie tváre s tým prirodzeným, ktoré vlastnými očami vykonávame denne, v základe pôsobí všetko totožne. Na jednej strane je systém, ktorý rozpozná štruktúry a tvary, porovná ich s databázou a zhodu oznámi ako nájdenie výsledku. Na strane druhej je náš vizuálny vnem, v rámci ktorého si videnú tvár náš mozog dá do súvislosti s našimi spomienkami a vo výsledku osobu spoznávame, alebo nie. V základe sa môže teda zdať, že pri presune identifikácie do elektronickej formy žiadne zvláštne nebezpečenstvo nehrozí. Aj to je dôvod, prečo je súčasné zavádzanie týchto systémov bez masívneho odporu verejnosti.

Hlavným rozdielom však je, že kým v jednom prípade ide o biologický a v určitom zmysle manuálny proces, v druhom ide o prejav softvéru a hardvéru počítača, ktorý môže podobné úlohy vykonávať na úplne iných objemových a rýchlostných hladinách. Systém teda môže porovnávať buď jednu tvár s masívnou databázou tvárí v rýchlom čase, alebo naopak hľadať konkrétnu tvár na obrovskom množstve rôznych fotografií či videí z veľkého počtu kamier na rôznych miestach.

Ako rozpoznávanie tváre funguje a kde sa dnes všade zavádza?

Rozpoznávanie tváre vo svojich počiatkoch používalo jednoduché meranie konkrétnych štruktúr, ako napríklad vzdialenosť nosa a úst, rozstup očí a tvar obočia, pričom celkový pomer všetkých prvkov dával pomerne dobrý unikátny biometrický odtlačok. Problémom vždy bolo, že systémy fungovali dobre len na fotografiách, ktoré boli zhotovené z priameho a vždy rovnakého uhla (napríklad fotky na dokladoch totožnosti). Fotografie z iných uhlov alebo videa však majú tvár v rozličných polohách a natočeniach, čo identifikáciu značne sťažuje a takýto primitívny systém tak veľmi často chybuje.

Na prelome 20. a 21. storočia sa síce používané postupy začali výrazne vylepšovať pomocou pokročilej analýzy založenej na pravdepodobnosti, avšak skutočný prielom, ktorý úroveň rozpoznávania vyšvihol na a nad ľudskú úroveň (98 % a viac), nastal až po roku 2010 s nástupom konvolučných neurónových sietí. Tieto systémy založené na umelej inteligencii si totiž poradia aj s čiastočne prekrytými tvárami, grimasami a neštandardnými uhlami.

Rozpoznávanie tváre začína testovaciu prevádzku pri kontrolách na letiskách

Proces rozpoznania fotografie sa skladá zo štyroch základných krokov. Tým prvým, ktorý počítače v inej súvislosti vykonávajú už viac ako dekádu, je odlíšenie tváre ako takej od iných objektov. Vidíme to najmä v súvislosti s digitálnymi fotoaparátmi a smartfónmi, ktoré na displeji označia tvár štvorčekom, čo je obvykle signálom toho, že práve na ňu budú zostrovať. Druhým krokom je zistenie, ako je tvár otočená, čo sa dá zhodnotiť napríklad podľa toho, že je jedna z jej strán výrazne väčšia ako druhá (odvíjajúc sa od nosa, ktorý sa dá považovať za stred).

Najťažšou fázou je tá tretia v poradí, pri ktorej sa tvár porovnáva s inými tvárami, ktoré sú v databáze. Práve tu sa prejaví najväčšia sila neurónových sietí, ktoré sa môžu trénovať na veľkom množstve dát, pričom si vytvoria vlastné modely toho, ako tváre identifikovať a uložia si pre ne svoje vlastné číselne reprezentácie. Viac-menej to vyzerá tak, že vývojári dajú neurónovej sieti napríklad desať fotografií jednej osoby v rozličných polohách (a napríklad aj veku) a sieť následne sama upravuje svoje parametre až dovtedy, kým sa nezačne triafať pri ich porovnávaní (identitu všetkých fotografií totiž pozná, takže vie, kedy sa trafí a kedy nie).

Nerobí to pri tom len s fotografiami jednej osoby, ale aj tisíckami ďalších. Tu majú výhodu hlavne Facebook a Google, ktorí svoje siete môžu trénovať na miliónoch osôb a stovkách miliónov fotografií. Výsledkom je hotový identifikačný model, ktorý nikto konkrétny nenaprogramoval. Sieť si ho vytvorila sama na základe vlastných testov a nám ako pozorovateľom vôbec nemusí byť jasné, ako presne funguje. Svoje znalosti následne neurónová sieť uplatní v praxi, teda na ďalších fotografiách, ktoré nikdy nevidela. Použije totiž model, o ktorom už vie, že má najväčšiu presnosť.

Posledný krok už je najľahší, pričom ide o naviazanie identity k rozpoznanej fotografii. K tomu totiž stačí len prístup k správnej databáze.

Mnohé letiská takisto v tomto roku zavedú self check-in s rozpoznaním tváre

Je nesporné, že systémy na biometrické rozpoznanie tváre majú mnoho pozitívnych a veľmi žiadaných použití. Očividný význam majú hlavne v súvislosti s bezpečnostnými zložkami a vyšetrovateľmi, pretože je pomocou nich možné rýchlo identifikovať zločinca na úteku, alebo osoby zapojené do teroristického útoku (napríklad pomocou rozsiahleho kamerového systému v Londýne).

Medzi ďalšie logické použitia patrí zjednodušovanie alebo urýchľovanie overenia. Ide teda napríklad o udeľovanie prístupu personálu do budov či urýchlenie nástupu pasažierov do lietadla. Na letiskách sa prvé systémy rozpoznávania tváre začali objavovať v roku 2015, konkrétne na washingtonskom letisku Dulles a v roku 2016 napríklad zas na newyorskom letisku JFK.

Vo februári tohto roku obdobný systém začal testovaciu prevádzku aj na letisku Charles de Gaulle v Paríži a v najbližších mesiacoch sa očakávajú špeciálne biometrické kiosky na letiskách v kanadskej Ottawe a Toronte (pre rýchlejší check-in).

Na londýnskom letisku Heathrow sa tento rok objaví systém na kontrolu pasažierov, ktorého úlohou bude porovnávať tváre ľudí pri bezpečnostnej kontrole spolu s tvárami ľudí nastupujúcich do lietadla. Nezaostávajú ani prvé úspešné pokusy v hoteloch na identifikáciu hostí, ktoré zaviedol koncom minulého roku v Číne miestny internetový gigant Baidu. V marci tohto roku sa dokonca podobný systém objavil aj na verejných toaletách v Pekingu, kde zabraňuje krádeži celých roliek toaletného papiera a okamžite znížil spotrebu z 20 na 3 rolky denne (uvoľní len určitý objem útržkov na jednu tvár).

Za vysokou úspešnosťou dnešných systémov stoja neurónové siete

Najväčšia výhoda biometrického rozpoznania tváre je však zároveň aj jej najväčším nebezpečenstvom. Keďže identifikáciu je možné vykonať aj na diaľku a bez vedomia cielenej osoby, nikdy neviete, kedy vás systém rozpozná. A ako to už býva, úmysly ľudí prevádzkujúcich tieto systémy  nemusia byť vždy šľachetné.

Previazanie so sociálnymi sieťami a zdvihnutý varovný prst

Facebook používa rozpoznávanie tvári v rámci fotografií, ktoré používatelia nahrajú do svojich profilov. Všetko začalo pred viac ako desiatimi rokmi možnosťou pridávať do fotografií menovky, pomocou ktorých mal používateľ možnosť určiť, kto na fotografii je. Ak daná osoba mala profil na Facebooku, okamžite došlo k automatickému spárovaniu. Tieto dáta boli následne použité na tréning a kalibráciu identifikačného systému, ktorý od roku 2010 začal navrhovať popisné dáta sám.

Túto funkciu nazvanú ako „tag suggestion“ (navrhovanie popisov), zaviedol Facebook bez akejkoľvek diskusie a špeciálnych oznámení pre všetkých vtedajších 800 miliónov používateľov. Objavil sa prakticky len vývojársky blogový príspevok, ktorý nadšene technológiu popisoval v súvislosti so zrýchlením a zjednodušením nahrávania fotografií.

Hlavným stavebným kameňom je konvolučná hlboká neurónová sieť DeepFace (hlboká tvár), ktorú Facebook po prvý raz podrobnejšie predstavil vo svojej akademickej publikácii „DeepFace: približovanie sa ľudskej schopnosti overovania tváre (DeepFace: Closing the Gap to Human-Level Performance in Face Verification). V nej okrem iného odhalil, že bola pôvodne trénovaná na viac ako štyroch miliónoch popísaných fotografií používateľov a dosahuje presnosť 97,35 % (v súčasnosti už výkonné siete Facebooku, Googlu a ďalších veľkých spoločností prelamujú 98 a 99 % hranicu).

Facebook so svojím automatickým identifikovaním používateľov v EU narazil, inde vo svete ho ale stále používa vo veľkom

Pre používateľa má systém v základe nespornú výhodu, pretože umožňuje fotografie triediť podľa toho, aké osoby na nich sú, bez toho aby musel pohnúť prstom. Facebook však nie je dobročinná spoločnosť, ktorá poskytuje na prevádzku enormne drahú službu zdarma. Jej úmysly majú komerčný charakter a hlavným faktorom v zavádzaním konkrétnych funkcií je užitočnosť pre neho ako firmu, nie pre používateľov.

Biznis Facebooku je založený na poskytovaní systému veľmi precízne cielenej reklamy, pričom rozpoznávanie tvárí je potenciálne veľmi cenný zdroj dát. Obrazová informácia je totiž rýchlo spárovaná s cieľovou osobou a jej konkrétnym sociálnym profilom. Je pri tom jedno, že vy ste žiadne konkrétne fotografie na túto sieť nenahrali. Facebook u ľudí normalizoval to, že systému tieto dáta nahlásia iné osoby. Je potom jedno, že Facebook od vás nedostane dáta, že ste boli cez víkend na koncerte kapely XY.

Z nahratých fotografií vášho priateľa túto informáciu Facebook dostane tak ako tak, pričom zároveň dáta môže spárovať s informáciou o tom, s kým ste tam boli. Aj keď ste teda nikdy Facebooku neprezradili to, ako vyzeráte a vo svojom profile nemáte vyplnené podrobné údaje o svojej osobe, systém sa vďaka dátam poskytnutým vašimi priateľmi naučil vašu tvár rozpoznávať a priradil ju k vášmu profilu. Súčasné pokročilé systémy (viď napríklad verejný testovací systém Microsoftu) pri tom dokážu relatívne dobre rozpoznať váš vek, pohlavie a potenciálne napríklad takisto váhu, výšku, či konkrétnu preferenciu oblečenia.

Všetky tieto dáta majú veľký marketingový význam, ktorý je následne zužitkovaný na cielenú reklamu. Je irelevantné, že sa konkrétnemu používateľovi dá možnosť menovku z fotografie odobrať. K spárovaniu už došlo a informáciu má Facebook zaznamenanú. To, že už nie je následne zobrazená verejne ničomu neprekáža.

Nebezpečenstvá rozpoznávania tváre v minulom roku dobre predviedol ruský FindFace

Aktuálne zavádzanie týchto procesov chce v ľuďoch zakoreniť predstavu, že rozpoznávanie tváre bez vedomia a súhlasu cieľovej osoby je niečo celkom normálne a očakávané. Množstvo organizácií a združení, ktoré sa zameriavajú na súkromie a používateľské práva, rozhodnutia Facebooku kritizovali a kritizujú. Štyri z nich (Electronic Privacy Information Center, Center for Digital Democracy, Consumer Watchdog, Privacy Rights Clearinghouse) dokonca na Facebook podali sťažnosť u Americkej obchodnej komisie, poukazujúc na jeho neférové obchodné praktiky v súvislosti s rutinným zväzovaním biometrických identifikátorov s konkrétnymi používateľmi bez ich vedomia.

Manažér Facebooku pre styk s verejnosťou však toto zavedenie úspešne obhajoval pred americkým senátom vetami ako „ide o inovatívne nástroje na zlepšovanie zážitku z našich on-line služieb“, pričom upozorňoval na to, že používateľ má kontrolu nad tým, či chce alebo nechce byť označovaný na fotografiách svojich priateľov. To je síce pravda, avšak treba si uvedomiť, že tieto používateľské nastavenia nijako neovplyvňujú neverejný systém, bežiaci na pozadí, ktorého dáta Facebook neprestajne využíva bez ohľadu na rozhodnutia používateľa.

V súčasnosti je pri tom plne normalizované, že Facebook má o svojich používateľoch detailné informácie, a to v miere, ktorá bola v minulosti vyhradená len pre blízkych priateľov a rodinu. Keďže zdieľanie osobných informácií je čoraz viac vnímané ako fakt moderného života, Facebooku sa pomerne rýchlo podarilo do akceptácie začleniť aj automatické rozpoznanie tvárí na fotografiách.

Rozpoznávanie tváre je pri tom v USA stále prakticky neregulovaná záležitosť, čo spustilo skutočnú identifikačnú lavínu. Ľudia sa obvykle mylne domnievajú, že nakladanie s týmito dátami má extrémne prísne pravidlá, ktoré sa v minulosti vzťahovali napríklad na vládne organizácie. V skutočnosti sa však takéto zliatie biometrickej identifikácie s ostatnými osobnými dátami odohráva celkom na divoko a dáta tohto typu sú k dispozícii prakticky komukoľvek, kto si je ich schopný zaobstarať. Žiadne špeciálne overenie ani oprávnenie nepotrebuje.

Po svete tak mnoho spoločností a organizácii buduje vskutku masívne databázy osobných údajov a biometrických identifikátorov. Výsledkom je, že pomerne v krátkej dobe sa môže prakticky každá osoba stať „verejne známa“.

Akonáhle je k obrázku vašej tváre rýchlo možné priradiť vaše reálne meno, záujmy, činnosti a povahové vlastnosti vyplývajúce zo správania na sociálnych sieťach, tak pre takýto systém znamená vidieť a poznať totožnú vec. Skutočná sila tohto faktu sa následne dobre prejaví v momente, keď začne byť systém používaný na fotografie alebo video v reálnom čase, napríklad v rámci kamerového systému mesta.

Jeden z najviac mediáne známych prípadov zneužitia týchto technológií sa odohral v roku 2016 v súvislosti s ruskou službou FindFace. Táto služba, dostupná na adrese www.findface.ru, umožňuje zobrať akúkoľvek fotografiu a porovnať ju s verejnými fotografiami na sociálnej sieti VKONTAKTE, s viac ako 200 miliónmi používateľov (najpopulárnejšia sieť v Rusku a iných postsovietskych krajinách). FindFace si len pár mesiacov po štarte získal viac ako pol milióna používateľov, ktorí tu realizovali desiatky miliónov hľadaní.

Databáza obsahuje viac ako miliardu fotografií, pričom používateľom rýchlo umožňuje hľadať mená osôb len podľa fotografie (aplikácia dosahuje 70 % úspešnosť , pričom ponúka okrem najpravdepodobnejšieho výsledku aj 10 profilov, ktoré odpovedajú najviac ako ďalšie v poradí). Aplikácia je prioritne určená na hľadanie priateľov, avšak netrvalo dlho, aby sa ukázala aj tienistá stránka. Umožňuje totiž napríklad to, aby ľudia nahrali fotografiu napríklad svojho bývalého partnera alebo partnerky, či napríklad aj celebrity a následne použili aplikáciu na vyhľadanie iných ľudí, ktorí sa im najviac podobali a obťažovali ich.

Rozpoznávanie tváre nakupujúcich v obchodoch je na prahu spustenia

Zaujal takisto prípad fotografa, ktorý fotil spolucestujúcich v Petrohradskom metre a zverejňoval ich sociálne profily. Azda najviac odpudivé použitie sa však objavilo v súvislosti so skupinami, ktoré začali vyhľadávať osoby na rôznych profesionálnych a amatérskych pornovideách a následne ich na sociálnych sieťach kontaktovali a vyhrážali sa, že videá ukážu ich rodine, pokiaľ nezaplatia (v mnohých prípadoch nepochybne šlo len o osoby, ktoré sa podobali, ale v skutočnosti na videách neboli).

Startup bol do dnešného dňa kontaktovaný viacerými firmami, organizáciami a združeniami, ktoré majú o použitie jeho technológií záujem, pričom šlo napríklad o kasína v bývalej portugalskej kolónii Macao, ktorá je dnes akýmsi čínskym Las Vegas a takisto o zastupiteľstvo Moskvy, ktoré sa o systém zaujíma v súvislosti so svojou sieťou viac ako 150 000 mestských CCTV kamier.

Chystá sa masívne zavedenie ešte vtieravejšej reklamy

Ako by ste sa cítili v situácii, pri ktorej by ste sa neprestajne stretávali s nekonečnými zástupom neznámych ľudí, ktorí by vás všetci do jedného veľmi dôverne poznali? Nejde pri tom o to, že by vás napríklad obdivovali, čo sa deje rôznym celebritám. Všetci by vás dôverne poznali za účelom toho, aby výrazne zvýšili šancu vám niečo predať. Tomuto extrémnemu a nezdravému nakloneniu váh medzi predajcom a zákazníkom sme sa nedávno venovali v článku o cielenej reklame (Pokrútená mágia cielenej reklamy).

V súvislosti s biometrickým rozpoznávaním tváre však naberá ešte väčší rozsah. Otvára sa totiž rýchla brána prepojenia vašej skutočnej identity a pohybu vo fyzickom svete s vašim on-line správaním a prejavom.

Sme na prahu toho, aby sa rozpoznávanie tváre objavilo napríklad v obchodných domoch pri nakupovaní. Podobne ako dnes môže byť facebookové tlačidlo „Páči sa mi to“ použité na rôznych regulárnych weboch na vytváranie profilu záujmov používateľa, môže sa podobnej funkcie v blízkej budúcnosti dočkať aj kamera v rôznych obchodoch. Nehovoríme pri tom o samotnom stlačení tlačidla, ktoré pridá na váš profil správu typu „Jankovi sa páči stránka XY“, ale len o jeho pasívnom načítaní spolu so stránkou, ktorá používateľa spozná a môže využiť informáciu, že na danom mieste bol.

Ďalším očividným použitím je napríklad interaktívny reklamný bilbord na autobusovej zastávke, na ktorom by sa menil obsah podľa ľudí, ktorí by boli v jeho dohľade. Kamera na ňom by totiž rozpoznala tváre, priradila k nim identity a vypýtala by si od on-line systému ich reklamné preferencie. Ide teda o cielenú reklamu vo fyzickom svete.

Nejde o žiadne fantazírovanie. Spoločnosť Axis, zameriavajúca sa na sledovacie kamerové systémy, sa napríklad v minulom roku vyjadrila, že v súčasnosti už spolupracuje s niekoľkými obchodmi, ktoré vyjadrili záujem identifikovať konkrétnych ľudí pri vstupe do obchodu (v súvislosti s poskytnutím VIP služieb pre najvernejších zákazníkov). Firma má pri tom už niekoľko praktických skúseností s pouličnými reklamami, ktoré automaticky zaznamenávajú to, koľko ľudí ich videlo. Bilbord totiž obsahuje kameru, ktorá deteguje tváre (bez možnosti priradenia identity) a softvér rozpozná, kedy sa ľudia pozerajú priamo na reklamu.

Štatistiku pri tom zaznamenáva a dokáže odlišovať pohlavie a vek osôb. Získava teda cenné informácie o tom, že na konkrétnu reklamu sa krátko pozerali napríklad ženy vo veku 20 až 40 rokov, zatiaľ čo na inú hlavne dôchodcovia. Rozšírenie rozpoznávania tvárí o priradenie konkrétnej identity je podľa Andyho Martina, produktového manažéra firmy Axis, ďalším logickým krokom.

Axis má zároveň aj skúsenosti s kampaňami, pri ktorých boli rozpoznávané autá jednotlivých výrobcov (podľa registračnej značky a štátneho registra), na základe čoho bilbord mierne upravoval svoj obsah. Ak šlo napríklad o reklamu na Renault a kamera bilbordu zbadala, že sa blíži Citroën, bilbord zmenil svoj obsah na správu „Ahoj vodič Citroënu, pozri sa na tento skvelý Reanault“, zatiaľ čo za pár sekúnd už bola fotografia vozidla na bilborde sprevádzaná správou „Ahoj vodič Škodovky, pozri sa na tento skvelý Renault“.

Reklamu tohto typu použila nedávno napríklad aj automobilka BMW v súvislosti so svojím modelom X5, v okamihu ako uvidela auto ekvivalentných parametrov od Mercedesu.

Inteligentný bilbord, rozpoznávajúci vek a pohlavie okoloidúceho, pre zmenu svojho obsahu

Je nepochybné, že práve tieto systémy s rozpoznaním tváre a identity môžu nabrať výrazne na sile, pretože by mohli hovoriť napríklad „Ahoj Karol, nepáčila by sa Katke (manželke) práve táto kabelka?“. Môžeme sa teda veľmi rýchlo približovať do éry, keď bude identita prakticky každého človeka verejná. Systémy sa pri tom neprestajne zlepšujú a okrem pohlavia, veku, či kompletnej identity môžu rozpoznávať aj momentálnu náladu, podobne ako to pri pohľade na cudziu tvár dokáže človek.

Aktuálne policajné použitie prekračuje medze slušnosti

To, ako môže byť táto technológia nebezpečná aj v službe štátnych orgánov, nám ukázal mimoriadne zaujímavý report, ktorý publikovala v októbri minulého roku Právnická fakulta Univerzity v Georgetowne (The Perpetual Line-up: Unregulated Police Face Recognition in America). Report poukázal napríklad aj na to, že v súčasnosti sú v biometrických databázach policajných zložiek USA tváre až 117 miliónov Američanov, pričom v drvivej väčšine prípadov ide o osoby, ktoré neboli nikdy odsúdené zo žiadneho zločinu. Ich biometrické dáta boli skrátka vyextrahované z fotografií na vodičských preukazoch. Databáza FBI je pri tom značne masívnejšia a obsahuje aj údaje osôb z fotografií na pasoch, vízach a iných zdrojov.

Tento systém je používaný na rozpoznávanie tvárí v reálnom čase, a to buď pomocou mestských kamier, alebo fotoaparátov policajných hliadok. Hliadka teda môže bez toho, aby vystúpila z auta odfotiť osobu na chodníku a podľa jej tváre behom pár sekúnd zistiť jej totožnosť, bez potreby kontaktu. Takéto použitia boli minulý rok nahlásené napríklad v Kalifornii a takisto v Marylande, kde polícia týmto spôsobom identifikovala osoby, ktoré sa zúčastnili na verejnej demonštrácii.

Rýchle a neprestajné identifikovanie ľudí na ulici kamerami straší mnohých

Americká občianskoprávna únia (ACLU) v októbri minulého roku urgovala americké Ministerstvo spravodlivosti, aby hlbšie preskúmalo toto neregulované a ničím nezviazané používanie biometrie. Podľa nich totiž porušuje občianske práva. Najväčšiu kontroverziu pritom spustilo rozpoznávanie tvárí na proteste Black Lives Matter v meste Baltimore (Maryland). Podľa ACLU totiž policajné zložky nadviazali spoluprácu s kontroverznou firmou Geofeedia, ktorá sa špecializuje na monitorovanie príspevkov na sociálnych sieťach.

Geofeedia má prístup k aplikačnému programovému rozhraniu Instagramu (API), vďaka ktorému môže vykonávať rýchle hľadanie a kategorizovanie na verejných príspevkoch používateľov, ktoré okrem iného obsahujú aj GPS údaje o ich polohe (vkladané do fotografií). V rámci Facebooku má podobný prístup do „Topic Feed API“, ktorý je určený pre mediálne spoločnosti a umožňuje monitorovanie toku príspevkov točiacich sa okolo konkrétnej udalosti, alebo lokality a nechýba ani prístup k Twitteru, kde má k dispozícii vyhľadávanie v rámci verejných príspevkov.

Z tohto dôvodu tak existuje oprávnené podozrenie, že identifikácia tvárí išla ruka v ruke s aktuálnymi príspevkami na sociálnych sieťach, kde dané osoby publikovali fotografie a svoje názory. Ihneď po októbrovom uverejnení reportu Twitter a Facebook (ktorý vlastní aj Instagram) ukončili spoluprácu s firmou Geofeedia a tieto prístupy jej už ďalej neposkytujú. ACLU toto odstrihnutie prístupu označilo za krok správnym smerom, ale pripomenula, že sám o sebe nič neznamená, pokiaľ technologické spoločnosti nevyriešia túto problematiku pri veľkom zástupe iných, obdobných firiem, špecializujúcich sa na tieto služby.

Spomenutý report, ktorý na tieto praktiky upozornil, je výsledkom jednoročného prieskumu viac ako 100 policajných oddelení a v súčasnosti je zrejme najpodrobnejším verejným zhodnotením súčasnej situácie. Jeho hlavným argumentom je to, že v súčasnosti rozpoznávanie tváre predstavuje obrovské riziko v súvislosti so súkromím a občianskymi právami ľudí, nakoľko používané systémy sú netransparentné a aplikované bez akéhokoľvek dohľadu a zhodnotenia toho, aké dopady na spoločnosť môžu mať.

Na konci marca tohto roku sa problém dostal na pretras v komisii Snemovne reprezentantov (dolná komora kongresu USA), kde politici a zástupcovia organizácií na ochranu práv kritizovali postupy FBI a policajných zložiek. Aj keď členom komisie boli jasné výhody, ktoré tieto technológie môžu mať v boji s terorizmom a zločinnosťou, vyjadrili obavy, že budú zneužité na obťažovanie nevinných ľudí a cielené takisto na osoby z politickej či názorovej opozície, protestov, členov konkrétnych náboženstiev a podobne.

V USA polícia použila rozpoznávanie tvárí v reálnom čase na proteste Black Lives Matter

Najväčšie nebezpečenstvo komisia videla v tom, že technológia môže byť použitá na neprestajnú identifikáciu všetkých voľne sa pohybujúcich osôb po meste, prostredníctvom kamier.

Biometrická databáza tvárí, ktorú FBI buduje od roku 2010 (plnohodnotnú prevádzku dosiahol systém v roku 2014), je podľa vyjadrení komisie veľmi problematická, pretože žiadne zákony túto technológiu detailne nepokrývajú a všetko funguje prakticky bez limitov a bez účasti napríklad súdnych nariadení. Členovia komisie zároveň vyjadrili rozhorčenie, že verejnosť nebola detailne informovaná o tom, že biometrická databáza, skladajúca sa z odtlačkov prstov, sa začala o tváre v roku 2010 dopĺňať a dnes už dosahuje vysokej presnosti.

Poukázali zároveň na to, že neboli vykonané ani žiadne nezávislé štúdie systému, ktoré by potvrdili stupeň úspešnosti a percento omylov a takisto to, či nemajú pre niektoré rasy výrazne väčšiu chybovosť, ako pre iné. Mnohé štúdie iných nezávislých systémov totiž ukázali, že pri rozdelenej farbe pleti a tvárových črtách je často chybovosť odlišná (napríklad už len z dôvodu menšej tréningovej vzorky neurónovej siete). To môže viesť k tomu, že černošská populácia môže byť v USA najväčším cieľom tejto technológie a pri tom môže byť systém pri nej najviac chybový.

Facebook čelí žalobe, ktorá sa môže stať vzorom

Na Facebook bola v roku 2015 podaná ostro sledovaná hromadná žaloba v americkom štáte Illinois (skombinované boli totožné žaloby trojice používateľov). V tomto americkom štáte by mal byť svojvoľný zber biometrických dát zakázaný na základe zákona BIPA z roku 2008 (Biometric Information Privacy Act). Podľa žalobcov teda Facebook tento zákon porušil, pretože dáta zbieral bez súhlasu a vedomia používateľov na pozadí, vďaka používaniu ručne vkladaných popisov.

Používatelia totiž nemali ako zabrániť tomu, aby ich ktokoľvek na fotografii označil, čo bolo následne použité na trénovanie neurónovej siete Facebooku (DeepFace), a teda vytvorenie obrazového profilu, ktorý bol následne priradený ku konkrétnemu používateľovi bez jeho vedomia. Zákon takisto stanovuje, aby formy a organizácie jasne stanovili, ako dlho dáta uchovávajú a akým spôsobom ich po vypršaní lehoty likvidujú, čo Facebook neurobil.

Právnici Facebooku sa snažili žaloby striasť ihneď pri prvých pojednávaniach v roku 2016, keď sa snažili autority presvedčiť, že je neoprávnená. Argumentovali tým, že zákon sa týka len „živej“ biometrie, pri ktorej sa skenuje skutočná živá tvár a nie fotografia. To je pravdaže absurdné, pretože záznamové zariadenie pri rozpoznávaní vždy vytvára fotografiu alebo videozáznam (zložený zo statických fotografií, prehrávaných v rýchlom slede), takže by zákon vlastne nemohol platiť nikdy.

Námietku tak súd zmietol zo stola a prípadu tak bolo umožnené pokračovať. Facebook v Illinois nie je jediným cieľom a podobnej žalobe čelí aj Google a Snapchat (súd je ešte v ranejších fázach). Pod súdny tlak sa dostal aj web Shutterfly, avšak v jeho prípade žaloba skončila v roku 2016 dohodou o mimosúdnom vyrovnaní (za nezverejnenú sumu).

V prípade úspechu žaloby hrozí firmám pokuta 1000 až 5000 dolárov za každé použitie rozpoznania tváre bez súhlasu konkrétneho používateľa (Illinois má 12 miliónov obyvateľov). Vzhľadom na rozsah bude však musieť byť zrejme omnoho menšia, aby bola vôbec uplatniteľná.

Facebook po zamietnutí jeho žiadosti o stiahnutie žaloby vykonal v priebehu minulého roku masívny politický lobing, v snahe pretlačiť novelu zákona, ktorá by rozpoznávaniu tváre na fotografiách udelila výnimku. Jeho snaha však napokon nebola úspešná a novela zákona koncom minulého roku prijatá napokon nebola. Prípad by však mohol v USA naštartovať zavádzanie obdobných zákonov v iných štátoch, čo by malo na tento segment biometrie výrazný vplyv. Illinoiský zákon pravdaže nie je nijak prísny a prakticky od spoločností požaduje len oznámenie vopred.

Bezpečnostný kamerový systém mesta od Huawei, ktorý automaticky fotí každú tvár a pripravuje fotografie na identifikáciu

Situácia je však celkom iná v štátoch Európskej únie. Orgány EU sú na porušovanie práv používateľov, respektíve ochranu súkromia občanov omnoho viac citlivé ako v USA a Facebook narazil na odpor už krátko po zavedení systému. Nátlak sa začal v roku 2011 najprv v Nemecku a následne v Írsku, pričom Facebook rýchlo usúdil, že najbezpečnejším postupom bude identifikačný systém pre EU vypnúť. To sa stalo v roku 2012 a stav trvá dodnes. Regulátorom pri tom prisľúbil, že nazhromaždené dáta, ktoré používa na detekciu tvárí európskych používateľov na fotografiách, zlikviduje.

Ide o jeden z prípadov, kde EU funguje pre nás ako pomerne efektívny štít. Pre veľké nadnárodné korporácie ako je Facebook či Google je totiž EU trh veľmi dôležitý a stará sa o značnú časť ich ziskov. Oponovanie napríklad samotného Slovenska by sa zrejme nestretlo s úspechom, pretože veľké spoločnosti si môžu odchod z takej malej krajiny dovoliť, čím štát stráca príslovečnú páku. Pre zapojené politické strany by navyše blokovanie takýchto služieb ako celku pôsobilo ako veľmi nepriaznivý faktor v nadchádzajúcich voľbách. V prípade celej EU však tieto spoločnosti nepochybne vždy ťahajú za kratší koniec.

Regulačné orgány EU pri tom dali jasne najavo, čo je potrebné pre zavedenie týchto funkcií vo veľkej miere v rámci populárnych webových služieb. Hlavnými požiadavkami sú dostatočná transparentnosť v tom, ako sú dáta používané, ďalej umožnenie používateľom kontrolovať (a v prípade potreby aj zmazať) nazhromaždené biometrické dáta a implantovanie maximálnej doby držania dát, po ktorej budú dáta zmazané. Ide na prvý pohľad o veľmi rozumné požiadavky, avšak dôležitá je dobrá implementácia, aby sme neskončili s tak fundamentálne pokazeným konceptom, ako je povinné ohlasovanie ukladania cookies.

Bojisko o rozpoznávanie tvárí je nepochybne otvorené. Technológia je tu a nikam nezmizne a je na nás, či sa so všetkým vhodne popasujeme. Riziká sú totiž nesmierne vysoké.

Tento článok vyšiel aj v tlačenom májovom vydaní TOUCHIT č. 5/2017, preto sa niektoré skutočnosti uvedené v článku, môžu odlišovať oproti aktuálnemu dátumu publikovania.

O autorovi

Profesionálnej žurnalistike sa venujem od roku 2006. Zameriavam sa najmä na prehľadové a analytické články z prostredia hardvéru, výrobných procesov polovodičov, umelej inteligencie a ďalších technológií. Mojou doménou je takisto servis hardvéru aj softvéru.

Pridaj komentár