Citovanie Hitlera je skutočne cez čiaru.
Nasadenie a používanie generatívnej umelej inteligencie je v týchto dňoch témou číslo jeden. Aj keď ide o nemalého pomocníka pri vytváraní obsahu, tak spoločnosti stojace za jej vývojom musia dbať aj na citlivý obsah. Nie je však žiadnym tajomstvom, že práve TikTok si s ochranou osobných údajov a zverejňovaným obsahom príliš ťažkú hlavu nerobil, pričom v uplynulých mesiacoch viaceré aktivity vedúce proti tejto spoločnosti zaznamenali značný úspech. Aj preto musí TikTok konať, a veľa vecí napraviť.
TikTok v máji predstavil Symphony Avatars ako súčasť balíka Creative AI Suite. Ide o nástroj na vytváranie videí založených na umelej inteligencii. Hoci od predstavenie balíka ubehol už nejaký čas, funkcia sa začala zavádzať minulý týždeň do účtov TikTok Ads Manager. Práve tu nastáva celý problém. Prístup k tejto funkcie je síce značne obmedzený, ale prístup k nej získal aj producent CNN a tvorca digitálneho obsahu Jon Sarlin.
Ten následne oznámil, že “neexistujú žiadne záruky, pokiaľ ide o citlivý obsah”. Jednoducho neexistuje záruka, že sa nebude zobrazovať citlivý obsah aj mladším používateľom. Sarlin následne na sociálne sieti X.com zverejnil niekoľko príkladov takéhoto obsahu, vrátane avatarov, recitujúcich napríklad úryvky z Mein Kampf od Adolfa Hitlera, alebo z Listu Amerike od Usámu Bin Ládina. Ďalším veľkým problémom boli aj chýbajúce vodoznaky upozorňujúce na pôvod videa.
Po upozornení na problém TikTok zverejnil vyjadrenie, v ktorom poukázal na technický problém, ktorý je údajne už vyriešený. Podľa slov spoločnosti bolo vytváranie citlivého obsahu sprístupnené iba malému počtu testerov. Ak by sa však testeri pokúsili nahrať tento obsah na sieť, obsah by bol podľa tvrdenia spoločnosti odmietnutý z dôvodu porušenia zásad.
Spoločnosť dodáva, že aj naďalej pracuje v zavádzaní bezpečnostných opatrení na všetky produkty TikTok.
Zdroj: PhoneArena, JonSarlin
Prečítajte si aj:
