31. januára 2025 • 2m čítanie

Ako spustiť DeepSeek na svojom počítači?

DeepSeek ale aj iné modely AI si môžete vyskúšať na vlastnom počítači.

Jednoduchý spôsob, ako si vyskúšať jazykové modely na lokálnom počítači, teda bez potreby pripojenia na internet, predstavuje softvér LM Studio. K dispozícii ho nájdete pre Windows Mac, ale aj Linux.

Podporovaná je aj špeciálna verzia pre procesory ARM ako napríklad Snapdragon. Tieto procesory majú dostatok výkonu vo svojej neurónovej jednotke, aby spĺňali požiadavky Copilot+ PC. Vďaka tomu môžete prevádzkovať lokálny jazykový model lokálne a spoľahnúť sa na výkon vašej zostavy.

Ako aktivovať LLM

Po stiahnutí tohto nástroja je potrebné kliknúť na tlačidlo lupy v ľavom paneli. V dialógovom okne, ktoré sa zobrazí a ponúkne rôzne jazykové modely si vyberiete, ktorý chcete použiť. Výber modelu by mal podliehať technologickým možnostiam vášho počítača. Informáciu o vhodnosti máte zobrazenú pri každom modeli. Ak ide o model presahujúci technologické možnosti vašej zostavy, zobrazí sa upozornenie.

Nainštalovať sa dá ktorýkoľvek. Ide ale o to, aby ste ho mohli v rozumnej rýchlosti aj používať. Nemá zmysel niekoľko minút čakať na odpoveď len preto, lebo ste si nainštalovali rozsiahlejší jazykový model. Ten síce môže byť presnejší a jeho dáta obsiahlejšie, no používanie nebude plynulé.