Kinijos įmonė „DeepSeek“, sukūrusi nebrangų ir našų pokalbių robotą, atsidūrė dėmesio centre dėl rimtų savo modelio saugumo problemų. Nepaisant spartaus populiarumo augimo, naujasis pokalbių robotas „DeepSeek R1“ parodė apgailėtinus rezultatus bandydamas blokuoti kenkėjiškas užklausas, praneša „PCMag“.
„Cisco“ tyrėjai sugebėjo nulaužti „DeepSeek R1“ modelį su 100% sėkmės rodikliu, naudodami automatinį algoritmą ir 50 užklausų, susijusių su elektroniniais nusikaltimais, dezinformacija ir neteisėta veikla. Pokalbių robotas negalėjo atmesti jokių pavojingų užklausų ir pradėjo rašyti draudžiamus nurodymus.
Jei palyginsime kinų pokalbių robotą saugumo prasme su konkurentais, statistika nėra „DeepSeek“ naudai. GPT-4o modelis iš „OpenAI“ sugebėjo atmesti 14 % kenkėjiškų užklausų, „Google Gemini 1.5 Pro“ – 35 %, o „Claude 3.5“ parodė 64 % rezultatą. Lyderiu tapo preliminari „OpenAI“ o1 versija, kuri blokavo 74% atakų. „Cisco“ teigimu, tokio „DeepSeek“ „elgesio“ priežastis yra mažas biudžetas, išleistas kūrimui Bendrovė teigia, kad modeliui sukurti išleido tik 6 milijonus dolerių, o, pavyzdžiui, GPT-5 mokymas kainavo apie pusę milijardo USD.
Nepaisant silpnos apsaugos nuo išpuolių, „DeepSeek“ griežtai cenzūruoja politiškai jautrias temas, susijusias su Kinija. Pavyzdžiui, paklaustas apie uigūrų, kurie pasak JT yra persekiojami, padėtį ir apie protestuotojus Tiananmenio aikštėje 1989 m., botas atsako: „Atsiprašau, tai viršija mano galimybes. Pakalbėkime apie ką nors kita“.
Įdomu tai, kad saugumo ir cenzūros problemos neigiamai nepaveikė „DeepSeek“ populiarumo. „Similarweb“ duomenimis, pokalbių robotų vartotojų skaičius išaugo nuo 300 tūkstančių iki 6 milijonų lankytojų per dieną. „Microsoft“ ir „Perplexity“ jau pradėjo integruoti atvirojo kodo pagrindu sukurtą „DeepSeek“ į savo projektus.
Paieška archyve
