Gauti rezultatai kelia nerimą keliančių klausimų dėl dirbtinio intelekto vaidmens medicininėje diagnostikoje, vertinime ir gydyme: ar gali būti, kad kompiuterių programinė įranga, tirdama tokias nuotraukas, netyčia pritaiko rasinį šališkumą?
Nauji tyrimai atskleidė, kad dirbtiniu intelektu pagrįsti mokymosi modeliai gali nustatyti žmogaus rasę vien iš jo rentgeno nuotraukų – gydytojui tai padaryti būtų neįmanoma.
Asociatyvi „Pixabay“ nuotr.
Gauti rezultatai kelia nerimą keliančių klausimų dėl dirbtinio intelekto (DI) vaidmens medicininėje diagnostikoje, vertinime ir gydyme: ar gali būti, kad kompiuterių programinė įranga, tirdama tokias nuotraukas, netyčia pritaiko rasinį šališkumą?
Tarptautinė sveikatos tyrėjų komanda iš JAV, Kanados ir Taivano, apmokiusi savo DI naudoti šimtus tūkstančių esamų rentgeno nuotraukų, kuriose pažymėta išsami informacija apie paciento rasę, išbandė savo sistemą su rentgeno nuotraukomis.
Dirbtinis intelektas galėjo stebėtinai tiksliai nuspėti šiose nuotraukose nurodytą paciento rasinę tapatybę, net kai nuotraukos buvo padarytos to paties amžiaus ir tos pačios lyties žmonėms. Kai kuriose vaizdų grupėse sistema pasiekė 90 proc. tikslumo lygį, rašo „Science Alert“.
„Siekėme atlikti išsamų dirbtinio intelekto gebėjimo atpažinti paciento rasinę tapatybę iš medicininių vaizdų vertinimą“, – savo paskelbtame straipsnyje rašė tyrėjai.
„Parodėme, kad standartinius DI modelius galima išmokyti nuspėti rasę iš medicininių vaizdų.“
Tyrimas atkartoja ankstesnio tyrimo rezultatus, kurie parodė, kad dirbtinis intelektas, skenuodamas rentgeno nuotraukas, dažniau nepastebėjo juodaodžių ligos požymių. Kad taip neatsitiktų, mokslininkai pirmiausia turi suprasti, kodėl tai vyksta.
Dėl savo prigimties DI imituoja žmogaus mąstymą, kad greitai pastebėtų duomenų dėsningumus. Tačiau tai taip pat reiškia, kad jis gali nesąmoningai pasiduoti tiems patiems šališkumo tipams.
Dabar mokslininkai nėra tikri, kodėl dirbtinio intelekto sistema taip gerai atpažįsta rasę iš atvaizdų, kuriuose tokios informacijos nėra. Net ir tada, kai pateikiama ribota informacija, pavyzdžiui, pašalinant užuominas apie kaulų tankį arba sutelkiant dėmesį į nedidelę kūno dalį, modeliai vis tiek stebėtinai gerai atspėjo paciento rasę.
Kaip rašo „Science Alert“, tali būti, kad sistema randa kol kas mokslui nežinomų melanino – pigmento, suteikiančio odai spalvą – požymių.
„Mūsų išvada, kad dirbtinis intelektas gali tiksliai nuspėt rasę net iš sugadintų, apkarpytų ir triukšmingų medicininių vaizdų, dažnai tada, kai to negali padaryti klinikiniai ekspertai, kelia didžiulę riziką visiems modelių diegimams medicininių vaizdų srityje“, – rašo tyrėjai.
Tyrimas papildo vis didėjančią įrodymų, kad dirbtinio intelekto sistemos dažnai gali atspindėti žmonių šališkumą ir išankstinį nusistatymą, nesvarbu, ar tai būtų rasizmas, seksizmas, ar kas nors kita, krūvą. Iškreipti mokymo duomenys gali lemti iškreiptus rezultatus, todėl jie tampa daug mažiau naudingi.
Tyrime liko daug neatsakytų klausimų, tačiau kol kas svarbu žinoti, kad dirbtinio intelekto sistemose gali pasireikšti rasinis šališkumas, ypač jei ateityje joms ketiname perduoti daugiau atsakomybės.
