JAV kongreso politikė pareiškė, kad algoritmai ir autonominės sistemos gali diskriminuoti kai kuriuos žmones, nes juos sukuria programuotojai, kurie pasaulį vertina, vadovaudamiesi savo įsitikinimais. Sukurta daugybė technologijų – nuo veido atpažinimo sistemų, kurios neatpažįsta nebaltaodžių, ir vaizdo kamerų, kurios nurodo azijiečiams nustoti mirksėti, iki rasistinių muilo aparatų, neleidžiančių rankų nusiplauti juodaodžiams.
Pasirodo, kad ir autonominiai automobiliai gali elgtis kaip rasistai. Džordžijos technologijų instituto mokslininkai nustatė, kad tokių automobilių technologijos sunkiau atpažįsta tamsios odos žmones. Vadinasi, juodaodžiams gatvėse gali kilti daug didesnis pavojus.
Mokslininkus sudomino tai, kad daugybė autonominio vaizdo sistemų veikia ne be priekaištų. Nors sistemos nuolatos mokosi, tačiau jos diskriminuoja vienas ar kitas žmonių grupes.
„Šiandien naudojamos autonominės automobilių kontrolės sistemos, atpažindamos pėsčiuosius, daro daugybę kurioziškų klaidų“, – rašoma tyrimo išvadose.
Sistemos turėjo atpažinti skirtingos odos spalvos žmones nuotraukose. Paaiškėjo, kad tamsiaodžiai žmonės kartais būdavo tiesiog neidentifikuoti – taip nutiko penkis kartus iš šimto. Nors 5 proc. paklaida gali neatrodyti didelė, tačiau įsivaizduokite situaciją, kai dėl tokios programinės klaidos gyvybių gatvėje netenka 5 žmonės.
Eksperimentas buvo atliekamas tiek šviesiu, tiek tamsiu paros metu, buvo keičiamos ir aplinkos sąlygos, tačiau rezultatai išliko panašūs.
Dar daugiau, algoritmai žmones gali diskriminuoti ne tik dėl tamsesnės odos spalvos. Balso atpažinimo sistemoms sunkiau atpažįsta moterų balsus. Galbūt dėl to, jog absoliučią daugumą programuotojų sudaro vyrai.
Belieka tikėtis, kad „Tesla“ ir „Google“ suteiks savo besimokančių mašinų algoritmams daugiau duomenų iš realaus pasaulio, o ne iš sterilios programavimo kambario aplinkos. Kitu atveju, gali nutikti taip, jog dirbtinis intelektas kels realų pavojų žmogaus gyvybei, ypač jei jis nėra baltaodis.
