AI v mobile už funguje aj bez internetu a môžete ju používať aj lokálne a súkromne.

Dnešné smartfóny sú dostatočne výkonné na prevádzku mini modelov len vo vlastnej réžii výkonu. Bežne používame nástroje ako ChatGPT alebo Gemini, avšak to sú on-line služby.

Sú podstatne výkonnejšie, ale nemáte súkromie a potrebujete byť pripojený on-line. Na využívanie AI už ale nemusíte byť neustále pripojení k internetu. Lokálne AI modely dokážu fungovať priamo v telefóne a aj keď budú ako doplnok, je tu táto možnosť.

Existuje množstvo rôznych aplikácií a na GitHube sa ich za posledné mesiace vyrojilo množstvo. Netreba však bezhlavo sťahovať každú, keďže každý nový softvér môže predstavovať aj potenciálne riziko. Nižšie sú tri, ktoré môžete zvážiť a sú použiteľné.

Čo znamená lokálna AI

Rozdiel medzi cloudovou a lokálnou AI je jednoduchý. Pri cloudovej AI pošlete požiadavku z telefónu na server, kde prebehne vytvorenie odpovedi / obrázku. Výsledok dostanete do smartfónu alebo notebooku.

Pri lokálnej AI sa všetko udeje v smartfóne a o všetky výpočty sa postará CPU alebo GPU. Telefón má totiž priamo v úložisku AI model a samotné odpovede vytvára priamo na zariadení.

Počítajte s tým, že AI model si musíte najskôr stiahnuť a ten môže zabrať niekoľko gigabajtov. Výdrž batérie pôjde rapídne nadol a počas používania AI lokálnej aplikácie budete cítiť zahrievanie telefónu.

Aplikácia 1: Google AI Edge Gallery

Zdroj: TOUCHIT

Ide o experiment Googlu, ale stále funguje a Google aplikáciu často aktualizuje. Máte jednoduché prostredie, v ktorom si vyberiete AI model na základe odporúčaní a toho, k čomu ho chcete použiť (texty, obrázky, hlas) a následne s ním môže komunikovať rovnako ako pri ChatGPT.

Táto aplikácia je zaujímavou ukážkou toho, čo dnes smartfóny dokážu, ale je jasné, že najlepšie je ho prevádzkovať na výkonných zariadeniach povedzme v cene od 600 eur a viac. Na hlavnej obrazovke tiež uvidíte, ak bude mať Google nové modely. Najnovšie upozorňuje na rodinu Gemma 4.

Link: na Google Play

Aplikácia 2: PocketPal

Zdroj: PocketPal

Hlavnou výhodou tejto aplikácie je množstvo podporovaných modelov. Môžete si vybrať napríklad modely Gemma, Qwen, Llama alebo Phi a následne si ich stiahnuť priamo do telefónu. Pri výbere pritom vidíte aj veľkosť konkrétneho modelu, takže si môžete lepšie predstaviť, koľko priestoru v úložisku zaberie.

PocketPal pracuje s modelmi vo formáte GGUF a umožňuje využívať modely dostupné napríklad cez Hugging Face. Práve toto dáva aplikácii veľkú voľnosť, kým napríklad AI Gallery od Googlu podporuje len vlastné Gemma modely.

Link: na Google Play

Aplikácia 3: Off-Grid AI

Zdroj: TOUCHIT

Off-Grid AI je zaujímavá predovšetkým svojím zameraním na súkromie. Ide o open-source riešenie a dá sa používať aj zadarmo, no autor na aplikácii pracuje a pridáva aj platenú verziu. Aj v tomto prípade si môžete vybrať AI model a následne ho používať na komunikáciu bez potreby internetového pripojenia. Na výber máte rôzne modely a užitočné funkcie.

Vyskúšajte si ju bezplatne a potom sa môžete rozhodnúť, či chcete využiť rozšírené možnosti platenej verzie. Môžete komunikovať textovo, vytvárať obrázky alebo si vytvárať vlastné projekty podobne ako pri ChatGPT. Komunikovať môžete aj hlasovo a tiež napríklad pridávať súbory a nechať ich analyzovať. To napríklad dokáže aj AI Gallery od Googlu.

Link: na Google Play

Funguje AI naozaj bez internetu?

Môžete si to overiť jednoducho. Prepnite smartfón do režimu Lietadlo a vypnite Wi-Fi aj mobilné dáta. Takto budete mať istotu, že AI aplikácia naozaj pracuje lokálne.

Lokálna AI môže byť zaujímavá na rôzne pokusy, prípadne ak chcete niečo testovať alebo sa pýtať tak, aby nič o vašich otázkach neodchádzalo do cloudu. Naopak, off-line AI nebude ideálna pre používateľov, ktorí chcú vždy najlepšie možné odpovede, najnovšie technológie a rýchlosť. Je to skôr doplnok než vaše hlavné AI.

Vývoj hardvéru a novinky v oblasti AI pri hlavných výrobcoch ako Samsung a Apple zároveň ukazuje, že lokálna AI je niečo, s čím sa do budúcna počíta. Rovnako je to vidno aj na čipoch Snapdragon alebo MediaTek.

Prečítajte si aj: