Apie tai, kad dirbtinis intelektas nukonkuruos žmoniją, kalbama jau kelis dešimtmečius, o 2021 m. mokslininkai paskelbė savo verdiktą, ar sugebėsime valdyti aukšto lygio kompiuterinį superintelektą. Atsakymas? Beveik tikrai ne, rašo „Science Alert“.
Apie tai, kad dirbtinis intelektas nukonkuruos žmoniją, kalbama jau kelis dešimtmečius, o 2021 m. mokslininkai paskelbė savo verdiktą, ar sugebėsime valdyti aukšto lygio kompiuterinį superintelektą. Atsakymas? Beveik tikrai ne, rašo „Science Alert“.
Asociatyvi „Pixabay“ nuotr.
Problema ta, kad norint valdyti žmogui nesuvokiamą superintelektą, reikėtų sukurti jo simuliaciją, kurią galėtume analizuoti (ir valdyti). Bet jei mes nesugebame jo suvokti, tokios simuliacijos sukurti neįmanoma.
Tokių taisyklių, kaip „nedaryti žalos žmonėms“, negalima nustatyti, jei nesuprantame, kokius scenarijus sugalvos dirbtinis intelektas, teigia naujojo straipsnio autoriai. Kai kompiuterinė sistema veikia tokiu lygiu, kuris viršija mūsų programuotojų galimybes, nebegalime nustatyti ribų.
„Superintelektas kelia iš esmės kitokią problemą nei tos, kurios paprastai tyrinėjamos po „robotų etikos“ vėliava, – rašo tyrėjai. – Taip yra todėl, kad superintelektas yra daugialypis, todėl potencialiai gali sutelkti įvairius išteklius, kad pasiektų tikslus, kurie žmonėms gali būti nesuprantami, o juo labiau nekontroliuojami.“
Dalį argumentų komanda grindė 1936 m. Alano Turingo iškelta sustabdymo problema. Ši problema susijusi su tuo, ar kompiuterio programa pasieks išvadą ir atsakymą (todėl ji sustos), ar tiesiog amžinai cikliškai bandys jį rasti.
Kaip A. Turingas įrodė pasitelkęs matematiką, nors ir galime žinoti, kad kai kurios konkrečios programos sustos, logiškai neįmanoma rasti būdo, kuris leistų mums tai žinoti apie kiekvieną kada nors parašytą programą. Taip grįžtame prie dirbtinio intelekto, kuris, būdamas itin protingos būsenos, savo atmintyje vienu metu galėtų turėti visas įmanomas kompiuterių programas.
Pavyzdžiui, bet kuri programa, parašyta siekiant sustabdyti dirbtinį intelektą, kad jis nekenktų žmonėms ir nesunaikintų pasaulio, gali padaryti išvadą ir sustoti arba ne – matematiškai neįmanoma būti absoliučiai tikriems, o tai reiškia, kad jos neįmanoma suvaldyti.
„Iš esmės dėl to sulaikymo algoritmas tampa netinkamas naudoti“, – sakė kompiuterių mokslininkas Iyadas Rahwanas iš Makso Planko Žmogaus raidos instituto Vokietijoje.
Pasak tyrėjų, alternatyva dirbtinį intelektą išmokyti etikos ir liepti jam nesunaikinti pasaulio, dėl ko joks algoritmas negali būti visiškai tikras, yra apriboti superintelekto galimybes. Pavyzdžiui, jis galėtų būti atjungtas nuo tam tikrų interneto dalių arba tinklų.
Tyrime ši idėja taip pat atmesta, teigiant, kad tai apribotų dirbtinio intelekto taikymo sritį; teigiama, kad jei neketiname jo naudoti žmonėms neįveikiamoms problemoms spręsti, tai kam jį apskritai kurti?
Jei ketiname siekti pažangos dirbtinio intelekto srityje, galime net nesužinoti, kada atsiras mūsų nekontroliuojamas superintelektas, nes jis toks nesuprantamas. Tai reiškia, kad turime pradėti kelti rimtus klausimus apie kryptis, kuriomis einame.
„Superprotinga mašina, kuri valdo pasaulį, skamba kaip mokslinė fantastika, – sakė kompiuterių mokslininkas Manuelis Cebrianas iš Makso Planko Žmogaus raidos instituto. – Tačiau jau yra mašinų, kurios savarankiškai atlieka tam tikras svarbias užduotis, o programuotojai iki galo nesupranta, kaip jos to išmoko. Todėl kyla klausimas, ar kada nors tai gali tapti nekontroliuojama ir pavojinga žmonijai.“
