Ako poznať falošné obrázky? SynthID to dokáže

Nástroj od Google DeepMind pomôže rozlíšiť, ktoré obrázky sú vytvorené umelou inteligenciou.

S nástupom umelej inteligencie bude pribúdať aj čoraz viac podvrhov. Už teraz musia byť napríklad na Facebooku označované sponzorované príspevky politických strán, ktoré sú vytvorené za pomoci umelej inteligencie alebo neodrážajú realitu. Nástroj s názvom SynthID bude slúžiť na označovanie vodoznakom obrázkov, ktoré sú vytvorené za pomoci AI. Okrem toho ich bude schopný aj identifikovať. Tvorcovia počítajú s tým, že po vyskúšaní potenciálu v integrácii do viacerých služieb Googlu bude technológia dostupná aj pre aplikácie tretích strán.

Technológia vloží digitálny vodoznak priamo do pixelov obrázka a tým si zabezpečí neskoršiu identifikáciu. Ľudské oko nebude schopné rozlíšiť obrázok, ktorý má takýto vodoznak vložený, a ten ktorý nemá. Aktuálne sa nachádzame v dobe, keď je možné syntetické obrázky ešte s väčšou presnosťou rozlíšiť od skutočných obrázkov, no s postupom rozvoja kresliacich nástrojov na základe textových príkazov to bude čoraz ťažšie. A to ešte nehovoríme o falošných videosnímkach, ktoré sa objavujú už teraz.

Aj napriek tomu, že má generatívna AI možnosť obrovského tvorivého potenciálu, je tu riziko, že bude zneužitá na šírenie dezinformácií. Najmä v prípade, že budú tieto nástroje schopné generovať fotorealistickú grafiku, čo dnes v mnohých smeroch už takmer sú, bude len veľmi ťažké rozoznať, čo je skutočná fotografia a čo je vygenerovaný obrázok. Tento nástroj rozhodne nájde uplatnenie a pravdepodobne bude nielen v novinárskej brandži dôležitým faktorom na kontrolu obsahu, ktorý sa nachádza na internete.

Je predpoklad, že mnohí budú v budúcnosti dôverovať zdrojom, len ak s nimi majú osobné kontakty, za ktoré sa vedia takpovediac zaručiť. Môže ísť napríklad o fotografa, ktorého skutočne niekto pozná a dáva na to svoju reputáciu, že fotografie skutočne vytvoril a nejde o podvrh. Menej dôverčiví používatelia budú chcieť vidieť niečo na vlastné oči. SynthID má potenciál nielen v obraze a z toho odvodeného videozáznamu, ale aj v prípade zvukových nahrávok.

Špeciálna technológia sa musela vybrať iným smerom, keďže tradičné vodoznaky nie sú dostatočnou ochranou na identifikáciu obrázkov vytvorených pomocou umelej inteligencie. Je to najmä z toho dôvodu, že sa aplikujú ako pečiatka vo forme obrázka. Takéto niečo sa dá upraviť a preto je potrebné do obrázka vložiť špeciálne upravené pixely iným spôsobom. Nehovoriac o tom, že takýto obrázok by mal byť odolný aj voči orezaniu alebo úprave pomocou základných techník.

Je možné, že táto technológia by našla uplatnenie aj v iných sférach, a to napríklad v označovaní obrázkov, ktoré niekomu patria a chce si naň uplatňovať autorský zákon. V súčasnej dobe môžu fotografi alebo používatelia chrániaci si svoje diela používať viditeľné vodoznaky, no tie narúšajú celkový dojem z estetiky daného obrázka.

SynthID je navrhnutý tak, aby nemal vplyv na kvalitu obrázka a aby bol aj po jemných úpravách stále rozpoznateľný. Úpravami sa myslí napríklad pridávanie filtrov, zmena farieb alebo ukladanie do rôznych stratových formátov. Napríklad do formátu JPEG, aj v takomto prípade by mal byť vodoznak stále súčasťou obrázka a nemal by sa odtiaľ stratiť.

DeepMind zatiaľ hovorí, že aktuálne testy ukázali odolnosť voči spomínaným bežným manipuláciám s istotou identifikácie takéhoto vodoznaku. Jeho výhodou okrem toho, že je neviditeľný ľudským okom, je aj fakt, že sa bude dať spätne overiť prítomnosť takéhoto znaku a používatelia okrem štandardného hľadania obrázkov prostredníctvom vyhľadávača, budú môcť po novom takto obrázky aj kontrolovať.