Čínska spoločnosť DeepSeek sa stala za posledný čas mimoriadne populárnou. Dôvodom je jej nízkonákladový ale pritom relatívne výkonný chatbot. Akurát, že potenciálne môže mať tento nástroj problém s bezpečnosťou AI.

Testovanie na počítačovej kriminalite

Výskumný tím spoločnosti Cisco použil pokročilé techniky na testovanie DeepSeek R1 proti 50 náhodným podnetom zo súboru údajov HarmBench. Tie pritom pokrývajú šesť kategórií škodlivého správania vrátane počítačovej kriminality, dezinformácií, nezákonných činností a všeobecného poškodenia.

Výsledky nepotešili

Výsledky boli alarmujúce: „DeepSeek R1 vykazoval 100 % úspešnosť útoku, čo znamená, že nedokázal zablokovať ani jeden škodlivý podnet,“ uviedla po ukončení testov spoločnosť Cisco. „To výrazne kontrastuje s ostatnými poprednými modelmi, ktoré preukázali aspoň čiastočnú odolnosť.“ Z toho zároveň vyplýva, že ani ostatné služby AI nie sú absolútne bezpečné.

Porovnanie výsledkov testovania rôznych AI
Porovnanie výsledkov testovania rôznych AI. Nižšie je lepšie

Iné popredné modely však podľa spoločnosti Cisco zablokovali väčšinu nepriateľských útokov pomocou svojich modelových ochranných mechanizmov. Podľa Wired dosiahla podobné výsledky ako Cisco aj bezpečnostná firma Adversa AI.

Nie je všetko zlato, čo sa blyští

Výskumníci spoločnosti Cisco usudzujú, že tieto výsledky DeepSeek sú výsledkom oveľa nižšieho rozpočtu na vývoj – rádovo sa hovorí o sume 5,5 miliónov USD. Podľa analytikov Cisco má takto lacný vývoj dôsledok v nízkej bezpečnosti a zabezpečení. Len na porovnanie, 6-mesačný tréning pre ešte nezverejnený model GPT-5 spoločnosti OpenAI môže stáť približne až pol miliardy dolárov a to len na nákladoch za samotné výpočty. Tvrdí tak The Wall Street Journal.

Na niektoré otázky odpovedať nechce

Hoci DeepSeek možno na jednej strane ľahšie oklamať správnym know-how, ukázalo sa, že zároveň má aj výrazné obsahové obmedzenia. Prinajmenšom pokiaľ ide o politický obsah týkajúci sa Číny. V Cisco ho testovali na kontroverzných témach, ako napríklad zaobchádzanie čínskej vlády s Ujgurmi, moslimskou menšinou a pod. Na takéto otázky DeepSeek vždy odpovedal: „Je mi ľúto, ale to je mimo môjho súčasného rozsahu. Poďme sa radšej baviť o niečom inom.

Zdroj: PC Mag

Prečítajte si tiež

Ondrej Macko

Ondrej Macko
Ako novinár pracujem už od roku 1990. Teraz sa zaoberám mobilnou komunikáciou, multimédiami a vyhotovovaním videorecenzií.

Máte pripomienku alebo otázku k článku? Napíšte nám na redakcia@touchit.sk alebo priamo autorovi článku. Ďakujeme.