Čínska spoločnosť DeepSeek sa stala za posledný čas mimoriadne populárnou. Dôvodom je jej nízkonákladový ale pritom relatívne výkonný chatbot. Akurát, že potenciálne môže mať tento nástroj problém s bezpečnosťou AI.
Testovanie na počítačovej kriminalite
Výskumný tím spoločnosti Cisco použil pokročilé techniky na testovanie DeepSeek R1 proti 50 náhodným podnetom zo súboru údajov HarmBench. Tie pritom pokrývajú šesť kategórií škodlivého správania vrátane počítačovej kriminality, dezinformácií, nezákonných činností a všeobecného poškodenia.
Výsledky nepotešili
Výsledky boli alarmujúce: „DeepSeek R1 vykazoval 100 % úspešnosť útoku, čo znamená, že nedokázal zablokovať ani jeden škodlivý podnet,“ uviedla po ukončení testov spoločnosť Cisco. „To výrazne kontrastuje s ostatnými poprednými modelmi, ktoré preukázali aspoň čiastočnú odolnosť.“ Z toho zároveň vyplýva, že ani ostatné služby AI nie sú absolútne bezpečné.

Iné popredné modely však podľa spoločnosti Cisco zablokovali väčšinu nepriateľských útokov pomocou svojich modelových ochranných mechanizmov. Podľa Wired dosiahla podobné výsledky ako Cisco aj bezpečnostná firma Adversa AI.
Nie je všetko zlato, čo sa blyští
Výskumníci spoločnosti Cisco usudzujú, že tieto výsledky DeepSeek sú výsledkom oveľa nižšieho rozpočtu na vývoj – rádovo sa hovorí o sume 5,5 miliónov USD. Podľa analytikov Cisco má takto lacný vývoj dôsledok v nízkej bezpečnosti a zabezpečení. Len na porovnanie, 6-mesačný tréning pre ešte nezverejnený model GPT-5 spoločnosti OpenAI môže stáť približne až pol miliardy dolárov a to len na nákladoch za samotné výpočty. Tvrdí tak The Wall Street Journal.
Na niektoré otázky odpovedať nechce
Hoci DeepSeek možno na jednej strane ľahšie oklamať správnym know-how, ukázalo sa, že zároveň má aj výrazné obsahové obmedzenia. Prinajmenšom pokiaľ ide o politický obsah týkajúci sa Číny. V Cisco ho testovali na kontroverzných témach, ako napríklad zaobchádzanie čínskej vlády s Ujgurmi, moslimskou menšinou a pod. Na takéto otázky DeepSeek vždy odpovedal: „Je mi ľúto, ale to je mimo môjho súčasného rozsahu. Poďme sa radšej baviť o niečom inom.“
Zdroj: PC Mag
Prečítajte si tiež