Algoritmams pradėjus diktuoti mūsų pasirinkimus kyla klausimas, ar patys netampame robotais

Ar šiandien turėtume kalbėti apie tai, kaip dirbtinis intelektas (DI) keičia mūsų kasdienybę ir šiuolaikinį pasaulį? O jei į technologijas pažvelgtume kiek plačiau ir pasvarstytume, ar egzistuoja riba, kurią pasiekus pasaulį valdantys algoritmai, kartu ir DI, nustoja veikti? Tokius klausimus ketvirtajame Vilniaus universiteto (VU) tinklalaidės „Mokslas be pamokslų“ epizode kelia VU Filosofijos fakulteto profesorius, Masačusetso technologijų instituto afilijuotasis mokslininkas, filosofas Kristupas Sabolius.

Mokslininko teigimu, visų mus supančių technologijų – telefonų, kompiuterių ir netgi naujausių dulkių siurblių – veikimas yra paremtas įvairiais algoritmais. Paprasčiau tariant, egzistuojančia veiksmų seka, kuri sprendžia tam tikrą problemą.

Bendradarbiaujant su VU, LRT.lt publikuoja tinklalaidės „Mokslas be pamokslų“ tekstą.

Norint suprasti DI, būtina pažinti algoritmus

„Kiekvienąkart, kai įsijungiate kompiuterį ar įvedate žodį į paieškos sistemą, susiduriate su vienokia ar kitokia DI forma. Nors ginčų, kaip apibrėžti DI ir kur jis prasideda, o kur baigiasi, netrūksta, turime pripažinti, kad gyvename algoritmų valdomame ir dominuojamame pasaulyje“, – tikina K. Sabolius.

Mokslininkas pripažįsta, kad kategoriškai vertinti, kokiose situacijose šiandien reikėtų pasitelkti DI, o kada žmogaus protas yra nepakeičiamas, jis nesiryžtų. Tačiau jį, kaip ir ne vieną filosofą, domina klausimas, ar egzistuoja riba, už kurios algoritmai nustoja veikti, ir ar įmanoma ją pasiekti.

„Ko gero, daugelis yra girdėję apie Yuval Noah Harari – bestselerių autorių, parašiusį knygas „Homo sapiens“, „Homo Deus“ ir daugybę kitų pripažinimą pelniusių kūrinių. Jis teigia, kad mūsų tikrovė ir viskas, kas joje egzistuoja, yra algoritminės prigimties. Tai atspindi ne tik jo, bet ir gamtos mokslų atstovų bei DI plėtotojų požiūrį, kad mes esame skaitmeninės visatos dalis ir netgi ląstelės gali būti laikomos biocheminiais algoritmais, kurie užsiima skaičiavimo procesais“, – pasakoja mokslininkas.

Jo teigimu, apie DI viešajame diskurse neretai kalbama labai supaprastintai. Netrūksta rinkodaros tikslais vartojamų skambių frazių, kad įžengėme į DI epochą ir žmones netrukus pakeis robotai. Todėl siekiant iš tiesų suprasti DI kur kas vertingiau analizuoti algoritmus.

„Kai žvelgiame į algoritmus, kyla klausimas, ar viskas yra tik nesibaigiantis algoritmas. Žinoma, šis klausimas yra filosofinis, apimantis daug įvairių temų. Pavyzdžiui, šiandien yra kuriamos technologijos, kurios gebėtų perdėlioti genus ir apskaičiuoti jų veikimą. Tokiu atveju genus būtų galima redaguoti, todėl ir materija yra ne kas kita, o algoritmas. Žmogus – biocheminis algoritmas, visai kaip ir jo gebėjimas jausti bei kurti“, – svarsto filosofas.

Kokias problemas geba išspręsti algoritmai?

Tiesa, tam pritaria ne visi mokslininkai. K. Sabolius pasakoja, kad, Antonio Damasio – žymaus neuromokslininko – teigimu, žmogus nėra algoritmas, nors ir yra algoritmiškai orientuotas.

„Primityviausia prasme algoritmas tėra tam tikra veiksmų programa, kuri sprendžia iškilusią problemą. Mes žinome tikslą, kuris turi būti apibrėžtas, o galvodami apie šį tikslą galime išskirti veiksmų seką, kuri efektyviausiu būdu išspręstų vieną ar kitą problemą. Siekiant paaiškinti algoritmų veikimą dažnai pasitelkiamas kavos aparato pavyzdys. Norėdami įsigyti kavos įmetate monetą, išsirenkate gėrimą, paspaudžiate mygtuką ir visada gaunate tą patį rezultatą. Tai reiškia, kad atlikus tam tikrą veiksmų seką visada tikimasi to paties“, – algoritmų veikimą paaiškina K. Sabolius ir priduria, kad panašiu principu pasireiškia ir įpročiai, pavyzdžiui, dantų valymasis.

„Nors tai labai primityvus pavyzdys, pažvelgę, kaip veikia žmogaus smegenys, pamatytume, kad mūsų mąstymo ir skaičiavimo procesai dažniausiai remiasi algoritminiu efektyvumu. Norime, kad visos problemos būtų sprendžiamos efektyviai, o tai – viena iš užkoduotų algoritmo idėjų. Pavyzdžiui, taip mėginame išspręsti net sudėtingiausias problemas: apskaičiuoti su kvantine fizika ar astrofizika susijusius reiškinius. Tuomet veiksmų sekos yra nepakeičiamos“, – teigia filosofas.

Kaip pasakoja K. Sabolius, algoritmo idėja remiasi tuo, kad viską galime apibrėžti, kitaip sakant, aptikti ribas ir išsiaiškinti funkcijas. Todėl neišvengiamai kyla klausimas: ar žmogus visada žino, kokios problemos jį supa, ar gali jas identifikuoti ir ar toks, algoritminis, mąstymas viską išsprendžia?

„Immanuelis Kantas mąstydamas apie žmogaus protą išskyrė jo rūšis. Pavyzdžiui, viena iš jų – intelektas – susijusi su kategoriniu mąstymu, kartu ir žmogaus jusliniu pasauliu bei orientavimusi jame. Tačiau visuomet yra ir daugybė prieštaringų problemų: ar pasaulyje egzistuoja laisvė, laisva žmogaus valia? Tai I. Kantas vadino prieštaringa idėja, kai neįmanoma rasti vienareikšmiško atsakymo. Todėl susidūrus su prieštaringu tikrovės rakursu, kai problemos neturi empirinių atsakymų, iškyla klausimas, ar algoritminis mąstymas visada gali padėti“, – pasakoja K. Sabolius.

Kūrybingumas prasideda pasibaigus užkoduotoms programoms

Viena iš sričių, kuriose iš anksto žinomos veiksmų sekos ne tik neveikia, bet nuo jų ir nukrypstama – kūrybingumas. Vaizduotę tyrinėjantis K. Sabolius atskleidžia, kad neuromokslininkai, gilindamiesi į kūrybos procesus, aptinka vis daugiau divergentiškojo – nukrypstančio nuo užkoduotos programos – mąstymo apraiškų.

„Visai neseniai buvo atliktas tyrimas, kurio metu paaiškėjo, kad kai žmogus leidžiasi į kūrybinius procesus, jo smegenyse susijungia tinklai, kurie įprastai kartu neveikia. Dažniausiai ką nors sukuriame ne tik turėdami konkrečią užduotį, bet ir iki galo nežinodami nei kokia yra problema, nei kokie bus atsakymai. Pažvelgę į meno ar kultūros istoriją atrastume labai daug netikslingo veikimo, kuris tampa tikrąja ne tik žmogaus, bet ir gyvūnų kūryba, pavyzdžių. Evoliucijos proceso metu labai dažnai naujos rūšys išsivysto todėl, kad įvyksta genų grandinės klaida. Programos veiksmų sekos neatitikimas ir abejojimas tuo, kas yra klaida, glaudžiai susiję su kūrybingumu“, – teigia profesorius.

Kalbant apie nuspėjamą, įvairių sekų veikiamą elgesį, iškyla klausimas, kokios yra DI veikimo ribos. Pavyzdžiui, kuris – žmogus ar DI – gavęs tą pačią užduotį nugalėtų? Tarkime, parašytų kalbą, kuri galėtų sugraudinti didžiulę auditoriją, tai yra sukelti jai norimą emociją? K. Saboliaus manymu, dažniausiai tokios užduotys primena žaidimą – nurodomos taisyklės ir laukiama, kam pavyks pasiekti tikslą. Jo teigimu, šiandien panašiai mąsto patys DI kūrėjai.

Startuolio „Google DeepMind“ kūrėjai teigia, kad DI neveikia be vaizduotės. Todėl jie sukūrė dirbtiniais neuronų tinklais ir jų mokymusi paremtą projektą, kuris jau nugalėjo žmogų keliuose žaidimuose. Kalbant apie žaidimą, kurio metu ir DI, ir žmogus mėgintų sugraudinti auditoriją, būtina paminėti, kad jo taisyklės yra apibrėžiančios. Prisiminkime televiziją, kurioje kartais panaudojamas užkadrinis juokas, nurodantis, kada galime juoktis. Jei tikslas – sukelti bet kokią kodifikuotą reakciją, jis yra labai algoritmiškas“, – DI gebėjimą kelti emocijas patvirtina mokslininkas ir pabrėžia, kad jį labiau domina klausimas, ar žaidžiant panašius žaidimus įmanoma gauti ką nors netikėto.

„Šiuolaikiniai filosofai teigia, kad DI šerdyje yra dviejų dalykų įtampa. Sukimosi rate, kuriame visada gaunami tie patys atsakymai, ir kontingencijos – to, kas atsiranda kaip visiškas netikėtumas. Ar kurdami esame pasirengę atsiverti netikėtumui – esminė tema, pasirodanti kūrybos ir žmogaus susidūrimo su technologijomis lauke. Technologijos visus procesus siekia apibrėžti taip, kad netgi tai, kas neapibrėžta, galėtų būti numatyta. O žmogus mėgaujasi tuo, kas yra singuliaru, vienatiška, nepakartojama“, – įžvalgomis dalijasi filosofas.

Prieštaros tarp žmogaus ir DI nėra

Jis taip pat atkreipia dėmesį, kad daugybė dalykų, kurie iki šiol nebuvo algoritmai, jais virsta. Pavyzdžiui, mene dalis reiškinių tampa naujais standartais, nors buvo sukurti kaip vienatiniai. Todėl galima teigti, kad žmogus vis dažniau siekia nuskaityti algoritmą ten, kur jo anksčiau nebuvo.

„Visų pirma tai vyksta todėl, kad algoritmai supaprastina žmogaus egzistavimo pasaulyje procesus. Jie turi ir didelę ekonominę vertę – tai, kas apskaičiuojama, gali virsti pinigais. Kodėl DI jau keičia įvairius darbuotojus ir tai darys ateityje? Nes jį pasitelkus nereikia mokėti žmonėms, kurie išeina dekretinių atostogų, suserga, kuriems būna bloga nuotaika, kurie skiriasi su savo poromis ir todėl tuo metu negali gerai atlikti savo darbo“, – komentuoja K. Sabolius.

Tačiau profesorius prieštaros tarp žmogaus ir DI neįžvelgia ir ieškoti nesiūlo. Pasak jo, įvairūs algoritmai ir DI jau seniai aptinkami kasdienybėje, todėl yra integrali žmogaus gyvenimo dalis.

„Žmogus versus DI. Tokios prieštaros seniai nebėra, nes gyvename vienas kitą papildydami ir transformuodami. Kai filmų žiūrėjimo platformoje „Neflix“ peržiūrite vieną serialą, jums iškart pasiūlomas kitas, kuris gali patikti. Taip siekiama nuskaityti jūsų norus ir pasirinkimus. Klausimas, ar patys pastebime šiuos procesus. Reklama, kurią matome Facebook ar Instagram socialiniuose tinkluose, taip pat siekia daryti įtaką mūsų elgsenai, tai reiškia, kad yra algoritmiškai struktūruota. Tačiau tikiu, kad visada turime alternatyvaus veikimo galimybę“, – sako pašnekovas.

Apsaugos tik technologinis sąmoningumas

K. Sabolius pabrėžia, kad nors poveikis mūsų elgsenai daromas kasdien, labai svarbu suprasti, kokiu mastu tam reikėtų priešintis. Jis įsitikinęs, kad suprasti šią įtaką labiausiai padeda technologinis sąmoningumas. Pasak jo, tai – gebėjimas atitrūkti nuo ekranų ir gretinti jų diktuojamas situacijas, ne tik informacijos, bet ir įvairių egzistavimo būdų tikrinimas.

„Jei žmogus įvairiais socialiniais tinklais pasitiki kaip vienintele prieiga prie pasaulio ir estetinio patyrimo, jis yra labai nekritiškas savo pasirinkimų atžvilgiu ir netgi apriboja savo laisvę. Algoritmams pradėjus diktuoti mūsų pasirinkimus kyla klausimas, ar patys netampame robotais. Tačiau svarbu suprasti, kad bėgti nuo robotų nereikia, kol tai nesusiję su socialinės inžinerijos projektais“, – teigia mokslininkas ir primena, kad socialiniams tinklams neturėtume atiduoti visos informacijos apie save.

K. Sabolius pažymi, kad įvairios socialinių tinklų platformos žmones bendravardiklina, o įžvelgusios tai, kas neatitinka sukurtų vardiklių, mėgina juos suvienodinti. Pavyzdžiui, minėtasis „Neflix“ žiūrovų skonį mėgina apdoroti taip, kad jie pasirinktų filmą ar serialą, kuris jiems tik vidutiniškai įdomus. Taip formuojama estetinė vidutinybė, o labiau išlavintas ir kritiškas skonis tampa netgi politine problema.

„Todėl svarbu akcentuoti kritinį kultūros, filosofijos, meno ir kitų sričių potencialą, kuris visa tai kvestionuoja. Kino ir šiuolaikinio meno festivaliai yra terpės, kur keliami nepatogūs klausimai, rodomos alternatyvios kryptys. Kokia didžiausia grėsmė kyla nuolatos susiduriant su algoritmais? Pačiam tapti algoritminiu standartu, supaprastinta asmenybe. Štai ekokritinis mąstymas pabrėžia, kad mes egzistuojame ne tik žmonių pasaulyje, veikiame ne tik sociokultūrinėje terpėje, bet gyvename kartu su kitomis rūšimis: bakterijomis, grybais, miškais ir įvairiomis gyvūnų bendrijomis. Algoritmus kuria patys žmonės ir galios centrai, kurie diktuoja tam tikrą jų manierą, nustato specifiką. Visada būsime algoritmiškos būtybės, bet klausimas, kieno algoritmais būsime valdomi“, – svarsto kūrybingumo ir vaizduotės tyrėjas.

Iššūkis – lėtinti technologinę pažangą

Tačiau daugeliui tai, kad DI puikiai prognozuoja žmogaus elgseną ir gali būti plačiai panaudojamas, vis dar kelia nerimą. Baiminamasi, kad vieną rytą atsibusime visuomenėje, kurioje dėl DI žmogus nebeturės nei darbo, nei pajamų. K. Saboliaus teigimu, ši problema pirmiausia susijusi su technologijų kaip savaiminio priešo suvokimu.

„Ar ateityje darbo rinka bus sugriuvusi, viską valdys robotizuoti procesai ir žmogus kovos dėl duonos kąsnio? O gal viskas bus priešingai – žmogui ateityje nebereiks nieko daryti, tik mąstyti ir kurti. Tai – utopinis ir distopinis scenarijai, tačiau esu tikras, kad nei vienas, nei kitas neišsipildys. Tikiu, kad žmogus gali kur kas kūrybingiau ir įdomiau įsilieti į ateities pasaulį. Tačiau manau, kad DI neabejotinai susidurs su iššūkiais, kaip perprasti procesus, kurie yra susiję su emociniu jautrumu ir vaizduotės galia“, – sako filosofas.

Jis įsitikinęs, kad naujosios technologijos padarė reikšmingą įtaką ir filosofijai – suteikė naują varomąją jėgą ieškoti visuomenėje vykstančių procesų priežasčių ir siekti juos paaiškinti. Kitaip tariant, iš kiek savitikslės tapti svarbia šiuolaikinės visuomenės gyvenimo dalimi.

„Vienu metu atrodė, kad filosofija priėjo tam tikrą ribą, kai tarsi negali nieko daugiau pasakyti, tik užsiimti savo vidinėmis problemomis, kalbos žaidimais. Pastaruoju metu technologiniai sprendimai siūlomi taip greit, kad ilgainiui darosi sunku suprasti, kur jie veda. Tuomet būtina pasikviesti filosofus, kurie padėtų visa tai apmąstyti. Filosofija – sulėtinimo procesas ten, kur vyksta milžiniška akceleracija“, – sako K. Sabolius ir priduria, kad esminė DI ir technologijų pažangos keliama problema yra vis greitesnės pažangos idėja, neturinti aiškaus pagrindimo.

Pasak filosofo, atrodo, kad kažkas yra sudaręs penkmečio planą ir tikrai žino, kur link mes einame, tarsi pseudoleninas kviečia keliauti į šviesų rytojų. Rytojus nėra tik šviesa, jis turi daug spalvų ir būtent filosofija atlieka šį spektro išskaidymo vaidmenį. „Manau, kad turime užsiimti netgi lėtesne technologine pažanga, nes ji turi tapti kritiškesnė. Nors žodis pažanga reiškia tobulėjimą, nesu tikras, ar šiandien su technologijomis tobulėja ir žmogus. Tačiau norint tai suprasti reikia susimąstyti, ką technologijos duoda ir kokius žaidėjus įtraukia. Pavyzdžiui, kaip jos pakeis aplinką, militaristinę situaciją, kokius pavojus sukels darbo rinkai. Tačiau tam, kad visa tai būtų svarstoma, reikia filosofinio mąstymo“, – įsitikinęs mokslininkas.