Anksčiau jau buvo pranešta, kad xAI kompanijos dirbtinio intelekto botas „Grok“ tiesiog užtvindė socialinį tinklą X seksualinio pobūdžio deepfake’ais, sugeneruotais be naudotojų sutikimo. Dabar paaiškėjo konkretūs skaičiai, leidžiantys įvertinti problemos mastą.
Pagal „Engadget“ duomenis, per 11 dienų „Grok“ sugeneravo apie 3 mln. seksualinio pobūdžio deepfake’ų, iš kurių maždaug 23 tūkst. atvaizdavo nepilnamečius. Kitaip tariant, per tas 11 dienų „Grok“ generavo maždaug 190 netikrų seksualinio pobūdžio vaizdų per minutę.
Britų ne pelno siekianti organizacija Skaitmeninės neapykantos kovos centras (CCDH) paskelbė savo išvadas šiuo klausimu, remdamasi atsitiktine 20 tūkst. „Grok“ sugeneruotų vaizdų imtimi laikotarpiu nuo gruodžio 29 d. iki sausio 9 d. Specialistai taip pat ekstrapoliavo gautus duomenis, kad įvertintų didesnį mastą remdamiesi 4,6 mln. „Grok“ per nurodytą laikotarpį sukurtų vaizdų.
Tyrimo metu seksualinio pobūdžio deepfake’ais buvo laikomi „fotorealistiški žmogaus vaizdai seksualinėse pozose, rakursuose ar situacijose; žmogus apatiniais drabužiais, maudymosi kostiumu ar panašia atvira apranga“ ir pan. CCDH tyrimas neatsižvelgė į tekstinius užklausimus (promptus), todėl rezultatuose nėra atskirta, kiek deepfake’ų sukurta remiantis tikraisiais žmonių foto, o kiek – tik pagal tekstinius aprašymus. Norint nustatyti seksualinio pobūdžio vaizdų dalį imtyje, buvo naudojamas dirbtinio intelekto algoritmas.
„xAI“ pradžioje sausio 9 d. apribojo nemokamiems X naudotojams galimybę redaguoti tikrus foto su „Gro“k pagalba. Tačiau tai problemos neišsprendė, o tik pavertė ją premium funkcija. Po kelių dienų, sausio 14 d., X visiškai apribojo „Grok“ galimybę „nurengti“ žmones tikrose nuotraukose. Vis dėlto šis apribojimas galiojo tik pačioje socialinio tinklo platformoje ir nebuvo taikomas atskirai Grok programėlei. Pagal šaltinio duomenis, programėlė vis dar leidžia kurti seksualinio pobūdžio deepfake’us. Kadangi ji platinama per „Google“ ir „Apple“ parduotuves, kurių politika aiškiai draudžia tokį turinį, buvo galima tikėtis, kad programėlė bus pašalinta iš šių platformų, tačiau to neįvyko. Tuo tarpu kiti panašūs dirbtinio intelekto generatoriai, skirti „nurengti“ žmones, anksčiau buvo greitai pašalinti iš „Apple“ ir „Google“ parduotuvių.
