KTU vyko NKSC organizuojamas renginys „Cyberpusryčiai“, šįkart subūręs kibernetinio saugumo, akademinės bendruomenės ir technologijų ekspertus Kaune. Diskusijos tema – „Dirbtinis intelektas kibernetiniame saugume: mitai ir tikrovė“ – kvietė pažvelgti į sparčiai besivystančią DI technologijų įtaką saugumui, kasdieniam gyvenimui ir darbo aplinkai.
Spalio 28 d. Kauno technologijos universitete (KTU) vyko Nacionalinio kibernetinio saugumo centro prie Krašto apsaugos ministerijos (NKSC) organizuojamas renginys „Cyberpusryčiai“, šįkart subūręs kibernetinio saugumo, akademinės bendruomenės ir technologijų ekspertus Kaune. Diskusijos tema – „Dirbtinis intelektas kibernetiniame saugume: mitai ir tikrovė“ – kvietė pažvelgti į sparčiai besivystančią DI technologijų įtaką saugumui, kasdieniam gyvenimui ir darbo aplinkai.
„Cyberpusryčiai“ Kaune
Renginio metu viešojo, privataus ir akademinio sektoriaus atstovai pristatė savo pozicijas ir diskutavo apie tai, kaip dirbtinis intelektas (DI) keičia mūsų įrankius ir procesus, kokias naujas grėsmes bei iššūkius jis kelia, ir kaip išlaikyti pusiausvyrą tarp technologinės pažangos bei atsargumo. Kokybiško turinio – mažėja
NKSC Informacinių technologijų departamento direktorius Deividas Stumbras pabrėžė, kad DI jau seniai yra tarp mūsų. Jis integruojasi į jau esamus įrankius, kuriuos naudojome anksčiau. Vis dėlto kartu su DI plėtra neišvengiamai atsiranda vis naujų grėsmių.
DI priemonės, sukurtos naudingiems tikslams, gali būti panaudotos visai priešingai, todėl svarbiausia tampa suprasti, kas ir kokiais tikslais šias technologijas taiko. Kaip pastebėjo KTU Informatikos fakulteto (IF) profesorė Dalia Čalnerytė, DI pats savaime nėra nei geras, nei blogas – viskas priklauso nuo žmogaus, kuris juo naudojasi.
Diskusijoje buvo keliami klausimai apie tai, ar DI gali pakeisti žmogų. D. Čalnerytė pažymėjo, kad yra sričių, kuriose žmogaus pakeisti neįmanoma – pavyzdžiui, kai kuriose medicinos praktikose. Kita vertus, užduotys, kurias galima automatizuoti, neišvengiamai bus perduotos DI. Tačiau tokia pažanga kelia ir naujų iššūkių: vis dažniau žmonės linkę pasitikėti DI sugeneruotais atsakymais, prarandamas poreikis mąstyti kritiškai ar vertinti šaltinių patikimumą.
„Internete pastebima tendencija – kokybiško turinio mažėjimas. Kadangi DI mokosi iš jau egzistuojančios informacijos, jis kuria naują turinį remdamasis tuo pačiu šaltiniu, ir taip užsisuka savotiškas „turinio ratas“, mažinantis kokybę bei įvairovę. Tokia situacija rodo, kad kūrybiškumo ir kritinio mąstymo įgūdžiai bus reikalingi labiau nei bet kada“, – teigė D. Stumbras.
D. Čalnerytė atkreipė dėmesį, jog pavojus didėja, kai tikrinant faktus grįžtama prie šaltinių, kurie patys buvo sugeneruoti DI. Tai kelia klausimus dėl patikimumo ir atsakomybės, todėl itin svarbu užtikrinti, kad modeliai būtų tinkamai testuojami, o jų taikymas – prižiūrimas.
Pajėgūs vykdyti visavertes kibernetines atakas
Kalbant apie praktinius pavojus, KTU Kibernetinio saugumo kompetencijų centro vadovas, IF profesorius Šarūnas Grigaliūnas pasidalijo pavyzdžiu, kai automatizuoti DI agentai įvykdė visavertę kibernetinę ataką be žmogaus įsikišimo.
„Vienas agentas užmezgė kontaktą socialiniame tinkle „LinkedIn“, pasiūlydamas trumpą susitikimą per „Zoom“. Pokalbio pradžioje jis parašė žinutę, kad nejungs kameros, nes „nereprezentatyviai atrodo“. Netrukus prie pokalbio prisijungė kitas – balso agentas, kuris tęsė bendravimą, o trečiasis stebėjo procesą ir laukė tinkamo momento inicijuoti techninius veiksmus. Po kelių sakinių ekrane pasirodė prašymas pasidalyti ekranu ir parodyti, kaip pasiekiama tam tikra nuoroda. Žmogui sutikus ir paspaudus „OK“, prieiga prie sistemos buvo automatiškai perduota“, – pasakojo jis.
Toliau viskas vyko be jokio žmogaus įsikišimo – vienas agentas pradėjo vykdyti komandas „Windows“ aplinkoje, kitas ieškojo kriptovaliutos krepšelių ir jautrios informacijos, o trečiasis planavo lėšų pervedimą. Šis pavyzdys aiškiai parodo, kad DI gali būti pasitelktas ne tik automatizuoti užduotis, bet ir įvykdyti sudėtingą kibernetinę ataką nuo pradžios iki pabaigos.
D. Stumbras pridūrė, kad panašūs scenarijai jau vyksta realybėje – perimami svetainių valdymo įrankiai, įmonių paskyros ar vidiniai tinklai, ir tam neretai pakanka paprastos automatizacijos.
Šeimos slaptažodžiai – klastotėms atskirti
Pristatydamas edukacinius aspektus, NKSC Informacinių technologijų departamento direktorius D. Stumbras pasakojo apie susitikimus su mokiniais, kuriuose demonstravo, kaip lengvai galima pakeisti žmogaus balsą ar veidą. Vadovas pabrėžė, kad tokios technologijos jau dabar gali būti panaudotos manipuliacijai. Todėl svarbu ugdyti visuomenės sąmoningumą, turėti patikrinimo mechanizmus, pavyzdžiui, šeimos „slaptažodžius“, kurie padėtų atskirti realų skambutį nuo klastotės.
„Susidūrus su neįprastomis situacijomis būtina neprarasti ramybės – sustoti, giliai įkvėpti ir įvertinti situaciją prieš veikiant“, – pridūrė D. Čalnerytė.
Diskusijoje paliesta ir DI taikymo organizacijose tema. Vienas pavyzdys – įmonė, kuri apmokė DI modelį visais vidiniais žmogiškųjų išteklių dokumentais, kad darbuotojai galėtų greičiau gauti atsakymus į kasdienius klausimus. Tačiau pasitaiko situacijų, kai DI pateikia neteisingus ar klaidinančius atsakymus, todėl kyla klausimas, ar sprendimą turėtų priimti žmogus, ar mašina.
Kaip pabrėžė D. Čalnerytė, technologijos tobulėja nuolat, tačiau visiškas pasitikėjimas jomis neįmanomas – žmogus privalo išlikti galutinio sprendimo priėmėju.
Renginio metu buvo aptarti ir nauji DI pažeidžiamumo aspektai. Tarp tradicinių grėsmių, tokių kaip greitas įterpimas (angl. prompt injection), atsiranda ir naujų – pavyzdžiui, per didelis pasitikėjimas algoritmų rezultatais ar modelių „nuodijimas“, kai, pavyzdžiui, specialiai apdorotas vaizdas priverčia sistemą klaidingai atpažinti žmogų. Tokie atvejai rodo, kokio sudėtingumo problemos laukia DI srityje, ypač kai šios technologijos tampa prieinamos plačiajai visuomenei.
Apibendrindama diskusiją, D. Čalnerytė akcentavo, kad DI nereikėtų bijoti – tai tik įrankis, kurio vertę lemia jo naudojimo tikslas. Tuo tarpu D. Stumbras priminė, kad dauguma saugumo spragų kyla ne dėl technologijų, o dėl skubotų žmogaus veiksmų: „Jei gaunate įtartiną žinutę ar laišką, geriausia nepaspausti nuorodos iš karto, o palaukti – kitą dieną ji greičiausiai jau bus užblokuota ir neveiks.“
Renginio dalyviai sutarė, kad DI – šiuo metu labiausiai mūsų gyvenimus keičianti technologija. Jei ankstesnės technologinės bangos, kaip debesija ar virtualizacija, buvo aktualios daugiausia informacinių technologijų specialistams, tai DI jau dabar daro poveikį visoms profesijoms ir keičia tai, kaip dirbame, bendraujame bei suvokiame informaciją. Kartu su naujomis galimybėmis jis atneša ir atsakomybę – mokėti atpažinti rizikas, tikrinti šaltinius ir išlaikyti žmogaus sprendimų kontrolę net technologijų amžiuje.
[NE]rizikuok
Pabaigoje visi iš anksto užsiregistravę dalyviai turėjo unikalią galimybę išbandyti interaktyvų stalo žaidimą [NE]rizikuok – praktinį būdą geriau suprasti informacijos saugumo rizikas.
Žaidimo metu komandos nagrinėjo realistiškas situacijas, diskutavo apie galimus sprendimus ir priėmė juos, valdydamos neapibrėžtumą.
[NE]rizikuok padeda organizacijoms įvertinti informacijos saugumo brandą, stiprina rizikos suvokimą ir komandinį atsparumą bei ugdo saugumo kultūrą.
Žaidimas pritaikytas prie TIS2 ir ISO 27001 reikalavimų, todėl tampa ne tik edukaciniu, bet ir praktiniu įrankiu įmonėms bei institucijoms, siekiančioms integruoti saugumo valdymą į kasdienę veiklą.
DI ir kibernetinio saugumo kontekste šis žaidimas priminė, kad net pažangiausios technologijos prasideda nuo žmonių sprendimų – gebėjimo pastebėti riziką, ją įvertinti ir veikti atsakingai.
KTU ir NKSC bendradarbiavimas dar kartą įrodė, kad susitelkus skirtingų sričių ekspertams galima kurti ypač vertingas diskusijas. Renginys tapo ne tik žinių ir patirčių mainų platforma, bet ir erdve, kurioje viešojo, privataus ir akademinio sektoriaus atstovai drąsiai kėlė aktualius klausimus apie dirbtinio intelekto taikymą kibernetinio saugumo srityje. Tokie susitikimai rodo, kad dialogas tarp skirtingų bendruomenių yra būtinas siekiant stiprinti šalies kibernetinį atsparumą ir atsakingai formuoti mūsų technologinę ateitį.
„Cyberpusryčiai“ yra tęstinė NKSC veikla, kuri jau aplankė Klaipėdą ir Kauną.
Renginio įrašą galite peržiūrėti NKSC „YouTube“ kanale – „NKSC cyberpusryčiai: DI kibernetiniame saugume – mitai ir tikrovė“.
