17. apríla 2023 • 2m čítanie

Kuriózny prípad: Umelá inteligencia zabudla, čo chcela

Rozhovory s umelou inteligenciou sú stále populárne a objavujú sa rôzne kuriózne prípady.

Jedným z ďalších príkladov je webová aplikácia AgentGPT, ktorá je postavená na modeli ChatGPT. Na tejto stránke je uvedený príklad, ako sa dá rozhovor s umelou inteligenciou zacykliť. Nemusíte to však robiť vy. Rozhovor bude prebiehať automaticky a aplikácia je navrhnutá tak, aby vytvorila nekonečný sled rozhovorov, pokým nejakým spôsobom odmietne spolupracovať. To by malo v praxi znamenať, že zodpovie konkrétnu otázku. Problémom však je, že sa vnorí do ďalších čiastkových otázok, ktoré vzniknú počas procesu odpovedania na tú pôvodnú.

Introducing #AgentGPT, an attempt at #AutoGPT directly in the browser 🤖

Give your own AI agent a goal and watch as it thinks, comes up with an execution plan and takes actions. Try for free now at https://t.co/F8Nz4LGC0e pic.twitter.com/julzWBNk6X
— asim (@asimdotshrestha) April 9, 2023

Aplikáciu si môžete vyskúšať aj vy a na rozdiel od štandardného webového rozhrania od Open AI táto funguje v anonymnom režime. Stačí zadať úlohu umelej inteligencii a nechať ju vypracovať obsah. Zatiaľ nefunguje dlhodobá pamäť, čo znamená, že si nebude pamätať jednotlivé súvislosti z vášho rozhovoru, respektíve s jej automatizovaného rozhovoru. Takisto nepodporuje interakciu medzi webovými stránkami a ľuďmi.

Aplikácií tohto typu je obrovské množstvo a AgentGPT je len jeden z príkladov ako sa dá umelá inteligencia zneužiť. Nateraz ide len o kuriózny prípad, nad ktorým sa možno pousmejete. Avšak. V prípade premysleného útoku hackermi je možné zacykliť odpovedanie alebo vytváranie odpovedí na určitý problém a vyťažiť tak serverové farmy. To by vo výsledku znamenalo zníženú kvalitu služieb pre ostatných používateľov a výrazne vyššie náklady na prevádzku AI v tomto podaní.

Zdroj: AgentGPT

Prečítajte si aj: