Rozhovory s umelou inteligenciou sú stále populárne a objavujú sa rôzne kuriózne prípady.
Jedným z ďalších príkladov je webová aplikácia AgentGPT, ktorá je postavená na modeli ChatGPT. Na tejto stránke je uvedený príklad, ako sa dá rozhovor s umelou inteligenciou zacykliť. Nemusíte to však robiť vy. Rozhovor bude prebiehať automaticky a aplikácia je navrhnutá tak, aby vytvorila nekonečný sled rozhovorov, pokým nejakým spôsobom odmietne spolupracovať. To by malo v praxi znamenať, že zodpovie konkrétnu otázku. Problémom však je, že sa vnorí do ďalších čiastkových otázok, ktoré vzniknú počas procesu odpovedania na tú pôvodnú.
Aplikáciu si môžete vyskúšať aj vy a na rozdiel od štandardného webového rozhrania od Open AI táto funguje v anonymnom režime. Stačí zadať úlohu umelej inteligencii a nechať ju vypracovať obsah. Zatiaľ nefunguje dlhodobá pamäť, čo znamená, že si nebude pamätať jednotlivé súvislosti z vášho rozhovoru, respektíve s jej automatizovaného rozhovoru. Takisto nepodporuje interakciu medzi webovými stránkami a ľuďmi.
Aplikácií tohto typu je obrovské množstvo a AgentGPT je len jeden z príkladov ako sa dá umelá inteligencia zneužiť. Nateraz ide len o kuriózny prípad, nad ktorým sa možno pousmejete. Avšak. V prípade premysleného útoku hackermi je možné zacykliť odpovedanie alebo vytváranie odpovedí na určitý problém a vyťažiť tak serverové farmy. To by vo výsledku znamenalo zníženú kvalitu služieb pre ostatných používateľov a výrazne vyššie náklady na prevádzku AI v tomto podaní.
Zdroj: AgentGPT
Prečítajte si aj:
