23. októbra 2024 • 2m čítanie

Pozrite sa na túto fotku: Je pravá alebo od AI?

AI vygenerovalo fotografiu, u ktorej zapochybujete, či to nie je reálna fotografia.

Na sieti X ukázal Eliezer Yudkowsky schopnosti dnešných nástrojov na generovanie obrázkov. Pozrite si fotografiu nižšie a budete mať ťažké rozhodovanie, či je to fotografia alebo ultra realistické vygenerovanie obrázka. Tentoraz nemá ani jeden prst navyše a všetky sú správne zobrazené. Dobre, prsty ruky držiacej mobil sú možno až priveľmi dokonalé, ale sú tam a sú správne.

Model, ktorý toto dokáže, je FLUX.1 a použiť ho môžete napríklad vo Venice.ai. Okrem iného sa tento model chváli práve realistickým a najmä správnym generovaním obrázkov ľudí. Čo ďalej s umelou inteligenciou?

Okrem toho, že sa teraz vo veľkom budú objavovať podvody v oblasti aplikácií a webov na zoznámenie, môžeme byť svedkami ďalších podvodov. Nezabudne sa ani na deepfake. Toto je zatiaľ najhoršia vygenerovaná fotka, ako budú vyzerať tie najlepšie? Tie najviac uveriteľné? Kto ešte pochybuje, odporúčame pozrieť si vygenerovanú videosekvenciu.

Registrácia KYC

Overenie zákazníka sa netýka len kryptomien. Svoje doklady posielate do rôznych inštitúcií. Ako dlho potrvá, kým sa dozvieme, že konkrétna služba bola hacknutá a unikli vaše údaje? Toto je len časť otázok, ktoré otvorene kladú bezpečnostní experti.

Riziko v posielaní dokladov v rámci KYC je zrejmé. Dávate o sebe vedieť komukoľvek, kto dokáže neoprávnene získať údaje z konkrétneho servera alebo služby. Je prirodzené, že schopnosti AI budú napredovať, no je tu ešte riziko kyberšikany. Postačí jediná fotografia a kriminálne skupiny budú môcť na základe fotografie alebo skutočného videa vygenerovať falošnú fotografiu človeka v rôznych situáciách.

Zdroj: @Eliezer Yudkowsky

Prečítajte si aj: