27. októbra 2025 • 2m čítanie

Požívajte ChatGPT Atlas a iné browsery opatrne, sú vysoko rizikové

AI prehliadače sú v tejto chvíli veľmi rizikové a mali by ste ich používať opatrne, napríklad najnovší OpenAI Atlas.

Hlavný problém je v tom, že zabudovaný asistent ako agent, ktorý dokáže automatizovať veci, môže naletieť falošnej inštrukcii. Agent môže byť zneužitý tým, že podvodníci vložia do obsahu stránky inštrukciu, ktorú bežne človek neuvidí.

Môže to byť napríklad príliš svetlý text, aby ho bežný používateľ nevidel. Avšak, počítačové technológie tento text bez problému prečítajú, pretože je súčasťou kódu stránky.

Skrytý text a falošný panel

Na problém môžeme nazerať z dvoch pohľadov. Ten prvý hovorí o zneužití agenta vyššie popísaným spôsobom. Iný problém súvisí s bočnou lištou, ktorú prehliadače tohto typu majú.

Práve teraz sme len na krok od toho, aby sa prehliadač nainštaloval cez falošný kód alebo oklamanie používateľa falošnou lištou. Na pohľad bude vyzerať rovnako ako tá, ktorá je v prehliadači a používateľ si bude myslieť, že interaguje so svojím AI asistentom.

Prehliadače majú vo všeobecnosti obmedzené možnosti zasahovať do systému, no agenti čoskoro posunú hranice obmedzení do neznáma. Teraz ešte nemôžu zasahovať do operačného systému a teda nie je možné, aby odstránili nejaké súbory. Útočníci sa na to zamerajú inak, napríklad formou špeciálneho Java kódu alebo inej techniky. Do budúcnosti treba tento príklad chápať ako hlavné riziko.

Zostaňme však pri tom, čo prehliadače dokážu, a to je napríklad čítanie emailov alebo zisťovanie citlivých údajov, ktoré má používateľ v cloudových dokumentoch. Agent bude mať k takýmto dokumentom prístup a ak ide o podvrh, útočník získa nielen informácie z vašich dokumentov, ale aj ďalšie možnosti, ako ťažiť z vašich dát.

Objavená zraniteľnosť sa dá aplikovať na rôzne AI prehliadače. Nedá sa ukázať prstom, či to bude Atlas od OpenAI alebo Perplexity Comet či Strawberry. Ide o princíp, ktorý dokáže zneužiť všetky typy týchto prehliadačov, a to je niečo, s čím sa budú musieť vývojári popasovať.

Zdroj: Brave, Bleeping Computer

Prečítajte si aj: