Ak patríte k ľudom, ktorí sa nazdávajú, že nástup armádnych robotov, riadených umelou inteligenciou, prinesie nevyhnutnú skazu ľudstva a preto ich treba definitívne zakázať, mám pre vás smutnú správu. Ich nástup je nielenže nevyhnutný, ale aj nezvratný. Nedeľník TOUCHIT vážne i nevážne. Nezviazané IT témy na tisíc spôsobov.

Tú ideu, živenú nespočetným zástupom sci-fi filmov či kníh, dávno poznáme. Väčšina ľudí má armádnu robotiku a nebezpečnú umelú inteligenciu spojenú s nejakou podobou terminátora, masívneho mecha robota, alebo skrátka len šedej a nehmotnej eminencie v pozadí, ktorá ťahá za nitky zo svojho superpočítača.

Väčšina verejnosti sa pri tom zhodne v tom, že tieto predstavy sú síce strašidelné, ale aspoň zatiaľ pomerne vzdialené. Takáto pokročilá robotika nebude na svete ešte minimálne desaťročia a s väčšou pravdepodobnosťou aj viac ako storočie.

Nuž, možno vás prekvapím, ale tieto konkrétne stroje, s ktorými bojovú robotiku možno dlhodobo vnímate, nebudú mať s realitou, ktorú pocítime ako prvú, nič spoločné.

Je pravda, že vývoj autonómnej robotiky pohybujúcej sa na dvoch alebo štyroch nohách, neprestajne pokračuje a robí aj masívne pokroky. Podrobne sa tomu venujem v samostatnom článku Autonómna robotika, ktorá onedlho celkom zmení náš svet, ktorý nájdete v pripravovanom aprílovom vydaní nášho magazínu, čo bude už o pár dní v predaji.

Dnes je však v plnom prúde nástup autonómnej a na diaľku riadenej robotiky nie v pozemnej, ale predovšetkým vzdušnej oblasti. Táto problematika pritom rozhodne nekončí u klasických útočných dronov ako Predator, ktoré v amerických ozbrojených silách lietajú už od polovice 90. rokov.

V tomto Nedeľníku sa vás pokúsim presvedčiť o dvoch základných a podľa mňa celkom očividných faktoch, od ktorých nie je úniku.

1) Smrtiaca a extrémne efektívna robotická armáda nie je vzdialená storočie či desaťročie, ale doslova roky či dokonca mesiace.

2) Jej vznik a spárovanie s umelou inteligenciou v nasledujúcich dekádach je nevyhnutný a celkom nezvratný, nech budeme protestovať akokoľvek.

A toto všetko sa bude podieľať na vskutku masívnej zmene moderného boja a to nielen na úrovni špičkových armád, alebo takisto partizánskeho spôsobu odboja a terorizmu.

Zabijácke robokŕdle pripravené na vypustenie

Roboty sa používajú v armádach už dlhé roky. V súčasnosti je ich bezkonkurenčne najpoužívanejšou podobou dron. Oficiálne sa tieto mechanizmy označujú ako UAV, teda lietajúce vozidlá bez človeka na palube (Unmanned Aerial Vehicles).

Tieto veľké a drahé drony (milióny dolárov), ktoré sa z hľadiska ceny a letových vlastností často približujú klasickému bojovému lietadlu, výrazne ovplyvňujú vedenie boja za posledné dekády, avšak budúcnosť bude ovládaná celkom inými strojmi.

Dominovať budú tie, ktoré máme dnes spojené hlavne s rekreačnou činnosťou. Áno, tie maličké drony, ktoré si môže kúpiť ktokoľvek a púšťať ich napríklad doma na záhrade.

Ak túto problematiku príliš nesledujete, zrejme si nie ste vedomí toho, ako prítomnosť týchto mechanizmov momentálne tvaruje podobu bojiska a hlavne to, ako v nasledujúcich desaťročiach zmenia od základu bojovú taktiku a prevrátia použitie ozbrojených síl celkom naruby.

V roku 2015 vzbudilo pomerne veľký rozruch YouTube video, v ktorom 18-ročný amatér pripevnil na svoj dron pištoľ a následne s ním lietal v lese a úspešne strieľal na terč. Mnoho ľudí sa vyľakalo toho, o akú nesmierne nebezpečnú zbraň pre atentátnika a vraha môže ísť.

Ten už namiesto stretnutia obete zoči-voči skrátka pripevní zbraň len na dron, doletí s ním na miesto, urobí špinavú prácu a zmizne za domami či za kopcami, nenechávajúc za sebou žiadnych svedkov.

Toto celkom logické použitie na diaľku ovládaných dronov si nevyhnutne nachádza cestu aj do armády. Na rozdiel o nepohodlného na diaľku ovládaného pásového alebo kolesového vozidla, sa totiž malý lietajúci dron dostane nielen cez les či hustú zástavbu, ale pokojne môže operovať aj v budovách bez ohľadu na schodištia či iné prekážky.

V súčasnosti sa týmto smerom vydáva napríklad startup Duke Robotics, ktorý začal ponúkať multikoptéry TIKAD, schopné lietať so samopalom alebo granátometom a podniknúť na diaľku riadený útok bez rizika zranenia vojakov, ktoré za nimi stoja.

Za startupom stojí bývalý veliteľ špeciálnych jednotiek ozbrojených síl Izraelskej armády a tieto drony, vybavené špecializovanými tlmičmi na potlačenie spätného rázu z výstrelu, boli už v izraelskej armáde niekoľkokrát použité

Možno sa len zasmejete, že veď nejde o nič nové. No tak je to lietadlo zo zbraňou, to mi je novinka. A stíhačky či bombardéry sú čo? Na útočiaci dron sa skrátka hodí sieť, alebo sa zostrelí protileteckým guľometom a je to vybavené. Nič nové na svete. Nie?

To však hovoríte obvykle s tým, že si vybavujete nejaký neobratný a pomaly letiaci dron, s ktorým niekto lieta pri dome, alebo sa s ním Amazon pokúša doručiť poštu. Pozrite sa ale na toto video vyššie a okamžite zmeníte dojem z toho, čoho je malý dron schopný.

A tento dron prosím pekne ovláda človek. Predstavte si, ako ho potenciálne môže bleskovo ovládať v blízkej budúcnosti autonómny riadiaci mechanizmus.

Zvuk dronu vyššie na vás možno pôsobí trochu hororovo a v bojovom použití by mal aj bez potreby výstrelu masívny psychologický efekt. Koniec koncov, to bol prípad aj tzv. trúbky Jericho, ktorá bola pripevňovaná na nacistické lietadlá Junkers Ju 87, pričom sa stala symbolom nemeckej vzdušnej nadvlády.

Možno si takisto hovoríte, že nejaké použitie dronov vo veľkom a všade nebude možné, pretože pri obrovskej obratnosti, ako vidíte na videu, skrátka budú mať dolet len pár desiatok minút či hodinu a pokryjú tak len pár kilometrový rozsah. Batérie sú skrátka príliš slabé, ak je váha takto limitovaná.

To ale nie je problém. V súčasnosti vidíme, že tieto systémy sú vyvíjané s „donáškou“ do cieľa, pričom ide o prepravu lietadlom či raketou, ktorá ich vypustí priamo nad konkrétnou lokalitou. Drony následne behom pár minút pokryjú oblasť ako namosúrený roj včiel.

A práve toto je súčasnosti najviac preskúmavanou a potenciálne najväčšou premenou bojiska za posledné storočie.

Tak ako prvá a druhá svetová vojna priniesla éru tankov, ktoré neskôr na dôležitosti výrazne ustúpili vzdušnej prevahe. Tak ako klasické delá postupne ustúpili riadeným strelám. Tak rojenie dronov behom nasledujúcich mesiacov a rokov masívne naruší technologickú rovnováhu súčasnej výzbroje.

Rojenie, v angličtine označované ako swarming, je v súčasnosti tou najhorúcejšou novou zbrojnou technológiou a týmto smerom sa masívne vydala americká, čínska či ruská armáda. Kľúčovými faktormi v rámci rojov malých moderných dronov je cena a účinné automatické algoritmy riadenia.

Jeden, desať či dvadsať malých dronov, vyzbrojených nejakým tipom munície či zbrane nič neznamená. Ako však ich počet narastá, situácia sa veľmi rýchlo začne meniť. Stačí si len pozrieť na nasledovné video:

Vidíme tu tri stíhacie lietadlá F18 vypúšťať nad cieľovou lokalitou 15 cm drony Perdix, ktoré rýchlo začnú vytvárať roj. Jednotlivé stroje nemajú striktne naprogramovanú dráhu letu a podobne ako vtáky v obrovskom kŕdli reagujú jeden na druhý. Aj keď je ich počet relatívne malý a presahuje len mierne sto kusov, synchronizáciou letu je možné zahltiť radar nepriateľa, umožňujúci kryť letecký útok vzdušných síl.

V čase 2:24 môžete vidieť, či skôr počuť ako operácia vyzerala zo zeme. V skutku hrôzu vyvolávajúci sprievod, ktorý pôsobí podobne ako „Štuky“ Luftwaffe za druhej svetovej vojny.

Tu vstupuje do hry druhý dôležitý parameter, ktorým je cena. Ak totiž cena dronov bude klesať ďalej tak ako za posledné roky, tieto roje môžu rásť do vskutku obrovitánskych rozmerov.

Zvážte pri tom nasledovné. Ozbrojené sily USA v súčasnosti prevádzkujú viac ako 14 000 bojových lietadiel, pričom mnohé z nich stoja aj viac ako 100 miliónov dolárov za kus. Veľmi kvalitné  drony v podobe kvadrokoptéry sa dnes pohybujú na cene okolo 1000 dolárov, čo znamená, že armáda ich môže nakúpiť za cenu jedného bojového lietadla 100 000!

S pokračujúcim poklesom ceny to už pritom onedlho môže byť už MILIÓN (100 dolárov za kus). Pri takejto cene sa stanú už lacnejšími, ako mnoho typov balistickej munície (v prípade 155 mm náboja ide o napríklad o 150 dolárov) .

Predstavte si následne bojovú situáciu, pri ktorej by bola napríklad námorná bojová skupina zložená z lietadlovej lode, torpédoborcov a fregát, napadnutá rojom niekoľkých desiatok miliónov dronov.

Nemuselo by ísť pri tom len o kamikadze drony s náložami, ale skrátka len o „rušice“, ktoré by obalením dokola obranné mechanizmy lode celkom oslepili a lode urobili masívne zraniteľné. Podobne by drony mohli zaplaviť akékoľvek vojsko, radarové strediská, letiská či iné bojové jednotky, pričom stále hovoríme o počte, rovnajúcej sa cene jediného moderného stíhacieho lietadla.

To, že ich 1000, 10 000 či hoc aj 100 000 zostrelíte nič neznamená. Nové a nové prilietajú od všadiaľ, ako kobylky vrhajúce sa na úrodu. Z tohto je vidieť, že rojenie dronov je skutočná zmena armádnej paradigmy.

Pri takýchto počtoch sa stáva z dronov ešte efektívnejšia a vražednejšia zbraň, než je nukleárna hlavica. No len si predstavte napríklad to, ako 10 miliónov dronov napadne veľkomesto, pričom každý z nich má jedinú úlohu. Rozpoznať človeka a bleskovo to napáliť do jeho hlavy, čo aktivuje drobnú nálož schopnú preraziť lebku.

Miliónové ľudské straty, bez jedinej poškodenej budovy. Všetko behom pár minút. Podobne ako roje kobyliek sa totiž takto masívne počty nezastavia pred ničím.

Táto zmena je jednoducho masívna. Ako bude cena dronov klesať, tieto technológie boja si pritom budú môcť dovoliť nielen vyspelé armády, ale aj tie omnoho menšie, vrátane neštátnych skupín. Hovoríme totiž o cenách, ktoré sa dnes utrácajú za pár kusov pokročilej bojovej techniky.

Toto je tá ozajstná robotická armáda, ktorá je už za dverami. Nie za storočia či dekády, ale už o roky a mesiace.

Zavedenie umelej inteligencie a robotiky do armády je nezvrátiteľné

Zavedenie autonómnych zbraní do prevádzky sa často považuje za tretiu revolúciu vo vedení boja, ktorá znamená podobný zlom, ako strelný prach a nukleárne zbrane.

Robotika sa bude v budúcnosti používať pre vojenské účely čoraz viac a je prakticky nemožné tomu zabrániť. Ide totiž o prirodzený dôsledok posunu v technológii a zabrániť tomu by bolo podobné, ako pokúšať sa zakázať, aby sa na vojenské účely používali automobily či motorové vozidlá všeobecne.

Či už ide o autonómne lietajúce stroje, pozemné vozidlá, alebo rovno jednotky, podobné ľudským vojakom, ich rozširovanie bude v nasledujúcich dekádach a storočiach extrémne narastať, až sa napokon stanú s vojenskou technikou prakticky synonymné.

Jedného dňa skrátka v modernej podobe tanku či útočného lietadla nebude sedieť vodič ani pilot. Aj keď tieto stroje v základe budú môcť byť na diaľku ovládateľné človekom, v čoraz väčšom množstve prípadov to bude nevhodné z dôvodu omnoho menšej efektivity.

Vezmite si práve dnes vyvíjané rojové správanie dronov. Tieto stroje môžeme pravdaže ovládať ručne, avšak pri miliónoch kusoch už budete darmo hľadať milión pilotov, ktorí by sa v celom chaose vyznali. Roj musí byť nevyhnutne ovládaný ako celok automatickým riadiacim systémom.

Ozbrojené zložky v podobe ľudí budú mať nad ním stále kontrolu, avšak už len štýlom riadenia toho, čo má robiť, teda napríklad „zaútoč na cieľ X“, ale už nie to, ako to má robiť. To už samostatne vykoná autonómny mechanizmus, vytvorený pri vývoji tejto zbrojnej technológie.

Drony sú pravdaže len prvá vlna. Tieto aspekty čo nevidieť preniknú do všetkých leteckých, námorných a pozemných bojových mechanizmov. Ako budú autonómne systémy čoraz lepšie a pokročilejšie, bude nevyhnutné na ne prenechávať čoraz viac bojových operácií.

Mnoho ľudí, vrátane robotických expertov, poukazuje na to, že ide o veľmi nebezpečnú situáciu, pretože z vojenskej rovnice odstraňujeme element „ľudského odporu“. Ak dá veliteľ príkaz na nejaký barbarský čin (napríklad vyhladenie civilnej populácie v určitej oblasti), vždy existuje možnosť toho, že podriadené vojenské jednotky môžu príkaz potenciálne odmietnuť splniť.

To sa robotickému systému nikdy nestane a vždy ho bude možné použiť. Z tohto dôvodu, a mnohých ďalších, existuje niekoľko iniciatív, ktoré požadujú aby bol tento smer vývoja zbrojnej techniky zakázaný, alebo ostro monitorovaný a obmedzovaný.

História však dobre ukazuje, že pôjde o nereálnu vec. Napríklad po nástupe leteckej zbrojnej techniky existovala podobne veľká obava v súvislosti s tým, že lietadlá budú použité na masívne bombardovanie z výšky na bezcitné a nezúčastnené vyhladzovanie bezbranných miest a ich obyvateľov. To viedlo v roku 1899 k medzinárodnej dohode, v ktorej sa štáty dobrovoľne zaviazali k tomu, že na lietadlá nebudú osadzovať výzbroj. Ako iste viete, táto dohoda po vypuknutí prvej svetovej vojny nič neznamenala, pretože výhody, ktoré letectvo prinášalo, boli skrátka príliš veľké na to, aby mohli byť ignorované.

To isté je prípad pokročilej robotiky a umelej inteligencie. Výhoda a prevaha ktorú prináša je skrátka príliš veľká. A ako náhle zavedie tieto systémy jedna armáda, ostatné budú musieť nevyhnutne nasledovať.

Tu už nehovoríme len o malých dronoch, ale aj o „veľkých“ bojových lietadlách či iných bojových prostriedkoch. Ich nasadenie totiž už onedlho nebude možnosťou voľby, ale nevyhnutnosťou pre vyhnutie sa istej porážke.

Ako ukážka môže slúžiť jednoduchá demonštrácia systému umelej inteligencie ALPHA, ktorá bola vyvinutá na univerzite v Cincinnati. Systém bol na leteckom simulátore postavený do súboja s pilotom amerického letectva (plukovník Gene Lee), pričom vyhral každý stret.

Lee sa vyjadril, že šlo o prvý prípad, kedy videl systém UI konzistentne porážať ľudského pilota a z hľadiska rýchlosti rekcií obstáť v bojových podmienkach. Mal pri tom neustály dojem, že systém presne vedel, čo sa chystá urobiť a okamžite reagoval protiakciou. Prakticky okamžite prechádzal z defenzívy do ofenzívy pri prvej otvorenej možnosti.

Ak si pritom myslíte, že systém fungoval na nejakom superpočítači, mýlite sa. Bol spustený na počítači Raspberry Pi za 35 dolárov. Aj keď Gene Lee je skúsený pilot a takisto skúsený oponent systémov tohto typu (so simulovanými oponentmi bojuje viac ako 30 rokov), po súboji bol unavený a mentálne vyčerpaný. Naproti tomu systém umelej inteligencie bol po skončení veľkého množstva bojov v rovnakom stave ako pred prvým.

V najbližších dekádach bude prenechávanie vysokej autonómie bojovým leteckým strojom takmer nevyhnutné, z dôvodu ďaleko lepších operačných vlastností. Keď na vás niekto zaútočí tankami, už nemôžete proti nemu útočiť na koňoch so šabľami. A takisto ak váš súper začne používať systémy umelej inteligencie a robotické systémy, mnohonásobne prevyšujúce reakcie človeka, nebude možné sa ich snažiť poraziť konvenčnými systémami. Vlak skrátka ujde a nikdy sa nevráti.

Nové a nové kyberhrozby si budú postupne vyžadovať čoraz väčšiu autonómiu bojových systémov, pretože ľudskí operátori skrátka už nezvládnu dostatočne včas reagovať na extrémne rýchle akcie produkované systémami umelej inteligencie a robotickými systémami protivníka. Už dnes sú mnohé obranné systémy plne automatické, pretože človek by jednoducho nestihol pri útoku reagovať včas a tento trend bude neprestajne silnieť.

Boston Consulting Group, jedna z najväčších svetových spoločností pre strategické a manažmentské poradenstvo uvádza, že behom rokov 2000 až 2015 svetové výdaje na vojenskú robotiku (v tomto prípade striktne definovanú ako samoriadiace a bezpilotné stoje) vzrástli z 2,4 miliardy na 7,5 miliardy dolárov ročne. Do roku 2025 sa pri tom predpokladá nárast na 16,5 miliardy ročne. Tento neprestajný nárast pritom ide podobne ako v iných odvetviach ruku v ruke s poklesom ceny.

Zmena rovnováhy armádnych síl a nové spôsoby terorizmu

Robotické systémy a umelá inteligencia významne narušia rovnováhu síl jednotlivých štátov. CIA World Factbook dnes napríklad stále ešte počíta s objemom mužov v bojaschopnom veku ako výrazným faktorom v odhadnutí vojenského potenciálu konkrétnej krajiny. V blízkej budúcnosti to však bude celkom potlačené.

Mnohé krajiny s vysokým technologickým potenciálom a demografickými problémami (starnutie a zmenšovanie populácie), ako napríklad Japonsko a Izrael, budú nepochybne tieto systémy považovať za veľmi lákavé a zavádzať vo veľkom.

Napríklad Južná Kórea dnes formou vládnych grantov investuje do vývoja systémov umelej inteligencie (na rôzne účely) viac ako miliardu dolárov ročne, čo je podobný objem, ako USA, pričom ide o 15× menšiu ekonomiku. Je v základe možné, že v blízkej budúcnosti si krajiny s malou populáciou, ale veľkým technologickým potenciálom budú môcť vytvoriť veľkú vojenskú výhodu nad každým, kto sa týmto smerom nevydá.

Na rozdiel od nukleárnych zbraní, ktoré vyžadujú veľmi nákladné a nesmierne ťažké získanie potrebného štepného materiálu, sa stále zlacňujúce robotické a automatické systémy stanú triviálne nakúpiteľné pre akékoľvek významné armády na svete.

Z tohto dôvodu je len otázkou času, kedy sa táto technika začne objavovať u pašerákov zbraní a lacné technológie v podobe pokročilých malých bojových dronov, v cenách pár stoviek či tisíc dolárov, budú dostupné pre diktátorov i teroristické organizácie.

Slaughterbots : vo videu je možné zapnúť české titulky

Na túto problematiku bravúrne upozorňuje video Slaughterbots (Vražední roboti), ktoré bolo vytvorené v rámci Iniciatívy na zakázanie autonómnych zbraní. Fiktívne scénky boli vytvorené na základe návrhu Stuarta Russella, profesora informatiky a počítačových vied na univerzite Berkeley (Kalifornia, USA).

Ide o 7 minútový strašidelný pohľad na blízku budúcnosť, v ktorej fiktívna technologická firma predstaví malých dronov, schopných útočiť na hlavy zlodejov, nepriateľských vojakov či teroristov. Tie sa následne stanú nástrojom na vraždenie akýchkoľvek nepohodlných osôb. Skutočne odporúčam pozrieť, ide o dobre investovaný čas.

Autonómne zbrane tohto typu sú skrátka mimoriadne vhodné na atentáty, destabilizovanie krajín a selektívne likvidovanie konkrétnych názorových skupín či etník. V budúcnosti pri tom drony môžu byť naďalej zmenšované a de facto sa dostať do rozmeru hmyzu, pričom pri útoku nemusia používať náboj či výbušninu, ale aj malé množstvo jedu.

Treba povedať, že takéto možnosti nevytvoria celkom nové hrozby. Teroristické skupiny, či diktátori tieto možnosti z hľadiska základnej idei mali otvorené vždy a aj ich používali. Nová éra autonómnych dronov a iných strojov ich len potenciálne uľahčí a zefektívni.

Snaha o zakázanie týchto technológií je síce šľachetná, avšak problémom je, že žiadna iniciatíva, charta OSN či medzinárodný ban vstupujúci do platnosti v mnohých krajinách, vývoju a používaniu týchto technológii nezabráni.

Dôvodom je jednoducho to, že na rozdiel od nukleárnych, chemických či bakteriologických zbraní je finančná a technologická bariéra na vývoj systémov tohto typu skrátka príliš malá.

Nuž, aktuálna situácia sa dá pekne vyjadriť týmto jednoduchým grafom od XKCD. Hrozby umelej inteligencie, ktorá by výrazne prerástla človeka sú síce strašidelné, ale začnú byť pálčivé až o niekoľko dekád a možno aj o celé storočie. Nemenej strašidelná éra, týkajúca sa ľudí a používania autonómnych systémov však nastáva práve teraz a do obludných rozmerov narastie už o pár rokov. Vitajte…

Nedeľník TOUCHIT hľadajte na našom webe ako inak než v nedeľu. Ak ste predchádzajúce zmeškali, nájdete ich všetky pod rovnomenným kľúčovým slovom.