Tarptautinė kibernetinio saugumo tyrėjų komanda sukūrė kirminą, galintį savaime plisti tarp generatyvinių dirbtinio intelekto tarnybų, vogti duomenis ir platinti nepageidaujamus el. laiškus.
Tobulėjant generatyvinėms dirbtinio intelekto sistemoms, tokioms kaip „OpenAI ChatGPT“ ir „Google Gemini“, jos vis dažniau naudojamos konkrečioms užduotims atlikti, pavyzdžiui, kurti įvykius kalendoriuose arba užsakyti produktus.
Tačiau kibernetinio saugumo technologijų tyrėjai nusprendė įrodyti, kad tokios sistemos gali kelti grėsmę – jie sukūrė naujo tipo ataką, kokios dar nebuvo.
Mokslininkai sukūrė kirminą, pavadintą „Morris II“, pirmojo „Morris“ kirmino, kuris 1988 m. užkrėtė 6 200 kompiuterių – 10 % visų tuo metu prie interneto prijungtų kompiuterių, garbei.
„Morris II“, vykdo elektroninio pašto ataką prieš dirbtiniu intelektu paremtus virtualius asistentus, vagia duomenis iš elektroninių laiškų ir siunčia nepageidaujamas žinutes, apeidamas „ChatGPT“ ir „Gemini“ apsaugos priemones.
Tyrimo autoriai naująjį atakos modelį išbandė izoliuotoje aplinkoje – tai buvo įmanoma dėl didelių kalbos modelių multimodalinio pobūdžio, t. y. jų gebėjimo apdoroti tekstą, vaizdus ir vaizdo įrašus.
Generatyvinių dirbtinio intelekto atakų kirminų praktikoje dar neaptikta, tačiau tyrėjai įspėja, kad į šią grėsmę turėtų atsižvelgti tiek pavieniai kūrėjai, tiek startuoliai ir technologijų bendrovės.
Dauguma generatyvinio dirbtinio intelekto sistemų veikia gaudamos tekstines komandas – prašymus atsakyti į klausimą arba sukurti vaizdą.
Šios komandos gali būti panaudotos prieš sistemą, priverčiant ją ignoruoti saugumo priemones ir kurti netinkamą turinį; jai gali būti duodami netiesioginiai nurodymai, pavyzdžiui, pasiūlant kenkėjiško puslapio adresą su paslėptu tokių komandų tekstu.
Generatyvinio dirbtinio intelekto kirmino užpuoliko principas yra priešiškas savaime pasikartojantis raginimas.
Tokia komanda priverčia generatyvinio dirbtinio intelekto modelį atsakyti kita komanda. Tai labai panašu į tradicinius atakų modelius, tokius kaip SQL injekcija ir buferio perpildymas.
Paieška archyve
