ChatGPT bude sledovať vaše konverzácie a na základe toho si môže vyžiadať potvrdenie vášho veku.

OpenAI prináša nový spôsob, ako posilniť korektné správanie zo strany tohto jazykového modelu voči používateľom. Ani tentoraz nepôjde o úplnú novinku, pretože isté spôsoby sú už zapracované v aktuálnej verzii GPT-5. Podľa vyjadrení firmy sa počet reakcií, ktoré nesplňujú požadované správanie, znížil od 65 do 80 %.

Overenie veku podľa konverzácie

Odhadovanie veku bude prebiehať rôznymi spôsobmi, a to v prvom rade na základe konverzácie. Je však jasné, že toto nebude jediný faktor a nástroj bude sledovať spôsob, akým sa s ním zhovárate.

ChatGPT sa bude sústreďovať na to, aké informácie od neho požadujete a kam sa konverzácia uberá. Firma sa chce vyhnúť súdnym sporom, ktorým neustále čelí na základe nepriaznivého vývoja okolností.

ChatGPT a samovraždy

Známy je medializovaný prípad, keď Adam Raine spáchal samovraždu na základe informácií, ktoré získal cez ChatGPT. Jeho rodičia zažalovali firmu OpenAI. Takéto prípady nielenže nepomáhajú samotnej reputácii firmy, ale sú aj rizikové pre používateľov, ktorí takéto nástroje používajú. Nemusí ísť pritom o neplnoleté deti, ale aj o dospelých používateľov.

Iný prípad nastal pri 56-ročnom mužovi, ktorý takisto spáchal samovraždu po tom, čo ho ChatGPT podporoval v jeho paranoji. Spomenúť treba však aj chatbot Character AI, ktorý svojou nevhodnou konverzáciou dopomohol smrti len 13-ročného dievčaťa.

•Zdroj: OpenAI

AI terapeut / spoločník

ChatGPT je využívaný ako terapeut alebo dôverník či spoločník. Najnovšia verzia priniesla niekoľko zlepšení, napríklad veľkosť kontextového okna alebo možnosť pamätať si dôležité informácie na základe minulých konverzácií.

Tým sa otvárajú dvere na využitie tohto nástroja ako virtuálneho priateľa alebo terapeuta. V prípade nevhodných bezpečnostných mechanizmov však môže spôsobovať veľké škody.

Zaslúži si ChatGPT kritiku?

Na prvý pohľad sa vám môže javiť, že sledovanie konverzácií je akýmsi zásahom do nášho súkromia. Zoberte ale do úvahy, že konverzácie s digitálnym asistentom nie sú súkromné. V prípade tínedžerov je naozaj lepší spôsob sledovať nepriaznivý vývoj konverzácie a včas podchytiť rôzne problémy.

Kontrola veku je vhodná aj na odstránenie iných nevhodných konverzácií, napríklad s erotickým podtónom, nevhodným správaním, ale takisto pri náznakoch sebapoškodzovania.

Necenzurované modely

Hoci sa môže zdať, že OpenAI sprísňuje ochranu a politiku konverzácií, v skutočnosti ju uvoľňuje. V minulosti mal nastavený prísnejší režim, keď sa plošne vyhýbal sporným témam.

Nezáležalo na tom, koľko máte rokov – tieto témy boli tabu. Po novom, hoci s akousi rodičovskou kontrolou, chce uvoľniť témy napríklad s erotickým podtónom pre dospelých, no zároveň ochrániť neplnoletých používateľov. Vyzerá to ako dobrý krok a prvé výsledky novej ochrannej politiky by sme mali vidieť už v decembri tohto roku.

Zdroj: Open AI (1, 2), 404media

Prečítajte si aj: