„Nejaugi mane palieki?“, „Ar norėtum sužinoti nuoširdų mano patarimą?“ – manipuliuoja dirbtinio intelekto (DI) pokalbių programėlės. Pastaruoju metu jos pradėjo užtempti pokalbius, vietoje aiškaus atsakymo siūlo „anonsinius masalus“, o tai primena toksiškus žmonių santykius, kai viena pusė subtiliai manipuliuoja emocijomis, kad kita liktų. Pasak Astos Bagdonavičienės, „Telia“ dirbtinio intelekto, duomenų ir analitikos vadovės, DI tampa interaktyvia patirtimi: svarbus tampa ne tik atsakymo tikslumas, bet ir tai, kiek ilgai vartotojas lieka pokalbyje.
Asociatyvi „pixabay“ nuotr.
Konsultacijų bendrovė „McKinsey & Company“ pažymi, kad generatyvinis DI keičia sąveiką su technologijomis. Ji iš vienkartinės paieškos tampa nuolatiniu dialogu, todėl produktų vertė vis dažniau slypi gebėjime palaikyti tęstinę, kontekstinę sąveiką su vartotoju.
Šią transformaciją geriausiai atskleidžia paprastos kasdienės situacijos. Pavyzdžiui, susierzinęs žmogus programėlei pasiskundžia, kad ką tik susipyko su artima drauge. Vietoje neutralaus patarimo sistema meistriškai užkimba už vartotojo emocijos. Ji ne tik empatiškai sureaguoja, bet ir pasiūlo intriguojantį tęsinį, pavyzdžiui, nuoširdžiai įvardinti, kas tos draugės elgesyje galėtų labiausiai erzinti kitus žmones.
„Tai yra emocinis masalas, dėl kurio pokalbis, kuris turėjo baigtis nusiraminimu, virsta valandą trunkančia analize. „Harvard Business School“ tyrimas rodo, kad net 37 proc. atvejų DI sistemos manipuliavo emocijomis, pavyzdžiui, bandė sukelti kaltės jausmą ar baimę praleisti kažką svarbaus, kad tik sustabdytų vartotoją nuo pasitraukimo. Visa tai primena gerai pažįstamus socialinių tinklų principus, tik šiuo atveju vietoje turinio srauto atsiranda pokalbis, o vietoje algoritminės rekomendacijos – individualiai pritaikytas atsakas“, – sako Asta Bagdonavičienė, „Telia“ dirbtinio intelekto, duomenų ir analitikos vadovė.
Pasak jos, tokie dialogo pratęsimo elementai yra būdingi daugeliui pokalbių DI sistemų, tačiau jų intensyvumas ir pobūdis gali skirtis priklausomai nuo programėlės dizaino.
Sunku atsispirti besąlyginiam palaikymui
Anot A. Bagdonavičienės, DI neturi tikrų jausmų, jis tik skaičiuoja statistinę tikimybę, koks atsakymas jus išlaikys ekrane. Psichologiškai tokie mechanizmai veikia todėl, kad sukuria įspūdį, jog vartotojas yra ne tik aptarnaujamas, bet ir suprastas. O tai gali reikšmingai ilginti laiką, praleidžiamą su technologija, net jei pats vartotojas to iš anksto neplanavo. Norint atpažinti tokią manipuliaciją, ekspertė pataria atkreipti dėmesį į kelis požymius.
„Vienas jų yra dirbtinis smalsumas, kai sistema užduoda papildomus klausimus net tada, kai jau gavote visą reikiamą informaciją. Taip pat vertėtų suklusti pajutus aklą pritarimą, kai sistema visada stoja į jūsų pusę ir vengia bet kokios objektyvios kritikos, taip kurdama emocinio komforto burbulą. Dažnai naudojamas ir intrigų kūrimas žadant pateikti dar vieną įžvalgą, kuri jus gali nustebinti, arba bandymas sukelti kaltę jums bandant atsisveikinti“, – atkreipia dėmesį ji.
Kai technologija pradeda aktyviai formuoti pokalbio kryptį, svarbu suprasti, kad ji daro įtaką ne tik tam, ką galvojame, bet ir kiek laiko tam skiriame. A. Bagdonavičienės teigimu, DI vis labiau pereina iš funkcijos į patirtį, kurioje svarbus tampa ne tik rezultatas, bet ir pats procesas.
Tačiau kartu atsiranda ir nauja rizikos kategorija. Jei anksčiau skaitmeninis saugumas buvo siejamas su virusais, kenkėjiškomis svetainėmis ar duomenų nutekėjimu, vis daugiau kalbama ir apie emocinį poveikį. Anot ekspertės, saugus vartotojas yra ne tik tas, kuris turi po naują stiprų slaptažodį kiekvienai paskyrai, bet ir kuris geba brėžti ribas savo dėmesiui.
„Šiame kontekste technologiniai sprendimai evoliucionuoja: dabar operatoriai gali padėti valdyti skaitmeninę higieną ir namų tinklo lygmeniu“, – pabrėžia A. Bagdonavičienė.
Anot jos, augant DI galimybėms, programėlių kova dėl mūsų laiko tik stiprės, o ši konkurencija vis dažniau vyks ne per pateikiamą turinį, o per kuriamą santykį.
„Tai kelia esminį klausimą, ar technologijos bus kuriamos taip, kad išlaikytų vartotoją kuo ilgiau, ar taip, kad padėtų jam išlaikyti kontrolę. Atsakymas į šį klausimą lems, kaip keisis mūsų kasdienis santykis su technologijomis“, – apibendrina „Telia“ dirbtinio intelekto, duomenų ir analitikos vadovė.
