Technologijų pasaulį sudrebino žinia apie pavojingą saugumo spragą dirbtinio intelekto sistemoje „Google Gemini“. Kibernetinio saugumo ekspertai įspėja, kad ši klaida gali būti panaudota duomenų vagystėms ar manipuliacijoms.
Tačiau pati bendrovė „Google“ atvirai pareiškė, jog neplanuoja jos ištaisyti. Apie pažeidžiamumą pranešė kibernetinio saugumo tyrėjas Viktoras Markopoulos, atskleidęs naujo tipo ataką, vadinamą „ASCII smuggling“.
Jos esmė yra paslėpti simboliai ar „Unicode“ ženklai, kurie žmogui atrodo kaip paprastas tekstas, tačiau dirbtinis intelektas (DI) juos skaito kaip slaptas komandas. Tokie ženklai gali būti įterpti į kalendoriaus įrašus, el. laiškus ar dokumentus, o sistema, jų neatpažinusi, pradeda veikti kitaip, nei tikėjosi vartotojas.
Kaip veikia ši spraga?
„ASCII smuggling“ leidžia kenkėjiškam kodui patekti į DI sistemas beveik nepastebimai. Pavyzdžiui, vartotojas gali nukopijuoti tekstą su paslėptu ženklu ir įklijuoti jį į „Gemini“.
Dirbtinis intelektas, net nesuprasdamas, jog tai apgaulė, gali pakeisti susitikimo informaciją, sugeneruoti klaidingus atsakymus arba net netyčia atskleisti konfidencialius duomenis. Kiti žinomi DI modeliai, tokie kaip „ChatGPT“, „Claude“ ar „Copilot“, tokias paslėptas instrukcijas sugeba atpažinti ir atmesti.
Deja, „Gemini“, kartu su „DeepSeek“ ir „Grok“, yra pažeidžiami šio metodo ir neatmeta tokių įvestų duomenų. Tai kelia rimtą pavojų, ypač turint omenyje, kad „Gemini“ integruotas su daugeliu „Google“ paslaugų, tai el. paštu, kalendoriumi ir dokumentais.
„Google“ reaguoja netikėtai
Nors bendrovė žino apie šią problemą, jos reakcija nustebino daugelį. Atsakydama į tyrėjų perspėjimus, „Google“ pranešė, kad nesiruošia imtis jokių veiksmų. Įmonės teigimu, ši spraga nėra technologinis trūkumas, o vadinamasis „socialinės inžinerijos“ atvejis, esą tai vartotojų suklaidinimas, o ne sistemos klaida.
Tokiu būdu atsakomybė už saugumą perkeliama patiems naudotojams, o toks požiūris sulaukė griežtos kritikos iš ekspertų. Pasak jų, skirtumas tarp to, ką ekrane mato vartotojas, ir to, ką interpretuoja dirbtinis intelektas, sukuria puikias sąlygas piktnaudžiavimui.
Tokie paslėpti nurodymai gali būti panaudoti melagingoms žinutėms kurti, klaidinančiai informacijai skleisti ar net duomenims pavogti. Kadangi „Gemini“ veikia su asmenine ir darbo informacija, šios atakos gali būti ypač pavojingos.
Saugumo spragų yra ir daugiau
„ASCII smuggling“ nėra vienintelė „Gemini“ problema. Anksčiau buvo aptikta ir kitų pažeidžiamumų, susijusių su paieškos istorijos ar prisijungimų duomenų apsauga. Nors „Google“ kai kurias klaidas taiso reguliariai, šį kartą sprendimas neplanuojamas.
Tai reiškia, kad vartotojai turėtų būti ypač atsargūs, naudodamiesi šiomis funkcijomis. Ekspertai ragina elgtis atsakingai – nevykdyti nežinomų tekstinių komandų, neklijuoti abejotinos kilmės turinio ir atidžiai stebėti, ką dirbtinis intelektas generuoja.
Šis atvejis rodo, kad net didžiausios technologijų kompanijos ne visada užtikrina vartotojų saugumą, o „Gemini“ kol kas išlieka vienu iš pažeidžiamiausių dirbtinio intelekto įrankių rinkoje.
