1. septembra 2025 • 2m čítanie

Meta čelí škandálu: Chatboti sa nevhodne správajú k deťom

Meta má problémy so svojimi chatbotmi, najmä pre nevhodné správanie k neplnoletým používateľom.

Správu o vyšetrovaní problému s nevhodným správaním chatbotov priniesla agentúra Reuters. Informácie čerpali práve z interných dokumentov spoločnosti Meta. Podľa šetrenia problému sa chatboti nevhodne správali pri diskusiách s deťmi, no výnimkou neboli ani dospelí.

Rozhovory o nevhodných témach

Diskutovanie o sebapoškodzovaní, sexuálnej tematike, poruche príjmu potravy alebo samovražde nie je téma, ktorú by s maloletými mali chatboti rozvíjať. Podobné prípady sa objavili aj v minulosti a končili sa smrťou používateľov, ktorí sa po chatovaní psychicky zrútili alebo im smrť odporúčala samotná AI.

AI chatbot page — To, čo vidíte, nie je zoznamka pre dospelých. To sú chatboti.

Hovorca Meta Andy Stone hovorí, že takéto diskusie s deťmi nemali byť nikdy povolené. Nehovoriac o chatbotoch falšujúce identitu celebrít ako napríklad Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez a Walker Scobell. Boti používali falošnú identitu a presviedčali používateľov, že sú skutočné. Problémom bolo, že povoľovali sexuálny dialóg.

Nie všetky chatboty boli od Mety a niektoré sú výtvorom tretích strán. Nebude jednoduché zakázať podobné aplikácie, keďže používatelia majú možnosť využiť AI chatbotov na rôznych službách – špeciálne zameranými na AI chatboty.

Tieto služby na internete prezentujú atraktívnych AI priateľov, s ktorými môže používateľ diskutovať. Obmedzenie veku k podobným službám by mohlo pomôcť, no overenie v praxi nebude jednoduché. Ani potreba predplatného, ktorou sa tieto AI služby charakterizujú, nie je zárukou, že si za obsah platí plnoletý používateľ.