DeepSeek ale aj iné modely AI si môžete vyskúšať na vlastnom počítači.
Jednoduchý spôsob, ako si vyskúšať jazykové modely na lokálnom počítači, teda bez potreby pripojenia na internet, predstavuje softvér LM Studio. K dispozícii ho nájdete pre Windows Mac, ale aj Linux.
Podporovaná je aj špeciálna verzia pre procesory ARM ako napríklad Snapdragon. Tieto procesory majú dostatok výkonu vo svojej neurónovej jednotke, aby spĺňali požiadavky Copilot+ PC. Vďaka tomu môžete prevádzkovať lokálny jazykový model lokálne a spoľahnúť sa na výkon vašej zostavy.

Ako aktivovať LLM
Po stiahnutí tohto nástroja je potrebné kliknúť na tlačidlo lupy v ľavom paneli. V dialógovom okne, ktoré sa zobrazí a ponúkne rôzne jazykové modely si vyberiete, ktorý chcete použiť. Výber modelu by mal podliehať technologickým možnostiam vášho počítača. Informáciu o vhodnosti máte zobrazenú pri každom modeli. Ak ide o model presahujúci technologické možnosti vašej zostavy, zobrazí sa upozornenie.

Nainštalovať sa dá ktorýkoľvek. Ide ale o to, aby ste ho mohli v rozumnej rýchlosti aj používať. Nemá zmysel niekoľko minút čakať na odpoveď len preto, lebo ste si nainštalovali rozsiahlejší jazykový model. Ten síce môže byť presnejší a jeho dáta obsiahlejšie, no používanie nebude plynulé.
Používanie nainštalovaných modelov
Aplikácia podporuje inštaláciu viacerých modelov, medzi ktorými si môžete vyberať. V hornej časti okna sa dá zo zoznamu uprostred vybrať jazykový model, ktorý bude použitý vo vybranom čete.

Podržaním klávesu Alt pri jeho výbere zobrazia ďalšie možnosti. S nastavovaním však buďte opatrný, inak by ste mohli spomaliť reakcie počítača a predĺžiť trvanie odpovede.
Počítač môžete odpojiť od internetu a zadať požiadavku. Takto si overíte, že všetky dopyty sa vykonávajú skutočne na vašom lokálnom počítači. LM Studio je vhodný na experimentovanie, pričom môžete použiť aj necenzurovaný model s názvom Mistral. Ten poskytne odpovede, ktoré bývajú pri bežných online nástrojoch blokované.

Prečítajte si aj: