Šiandien, kai dirbtinis intelektas sugeba kurti įtikinamai atrodančius, bet visiškai išgalvotus mokslinius tyrimus, o klaidingi medicinos patarimai gali kainuoti tūkstančių žmonių gyvybes – mokslinės priežiūros iniciatyvos tampa ne prabanga, o būtinybe.
Šiandien, kai dirbtinis intelektas sugeba kurti įtikinamai atrodančius, bet visiškai išgalvotus mokslinius tyrimus, o klaidingi medicinos patarimai gali kainuoti tūkstančių žmonių gyvybes – mokslinės priežiūros iniciatyvos tampa ne prabanga, o būtinybe.
Asociatyvi DI sugeneruota „Pixabay“ nuotr.
„Center for Scientific Integrity“ pradėjo dvejų metų iniciatyvą pavadinimu „Medical Evidence Project“. Jos tikslas yra identifikuoti klaidingus ar net suklastotus medicinos tyrimus ir atskleisti jų keliamą pavojų visuomenės sveikatai.
Projektas startuoja su 900 tūkst. JAV dolerių parama, kurią skyrė „Open Philanthropy“.
„Nuo pat pradžių norėjome, kad „Retraction Watch“ būtų daugiau nei tik straipsnių atšaukimo duomenų bazė. Dabar, su „Medical Evidence Project“, galime realiai prisidėti prie mokslo kokybės“, – teigia Ivanas Oransky, organizacijos vadovas ir vienas iš įkūrėjų.
Projekto vadovu paskirtas nepriklausomas mokslinių tyrimų skaidrumo konsultantas Jamesas Heathersas. Jo komanda, sudaryta iš penkių specialistų, naudosis forensine metamokslo metodika, bendradarbiaus su anoniminiais pranešėjais ir samdys recenzentus, kad išnagrinėtų įtartinas metaanalizes.
Skelbiama, kad pagrindinis tikslas yra kasmet identifikuoti bent 10 ydingų tyrimų, kurie galėjo paveikti medicinines rekomendacijas.
Klaidingi tyrimai – reali grėsmė gyvybei
Ši problema egzistuoja jau ne tik teorijoje. 2009 metais europinės gairės rekomendavo beta blokatorius prieš širdies nesusijusias operacijas.
Vėliau paaiškėjo, kad šios rekomendacijos remtos abejotinais tyrimais, kurie, kai kurių analizių duomenimis, galėjo nulemti net iki 10 tūkstančių mirčių per metus vien Jungtinėje Karalystėje.
Remiantis „Harvard Kennedy School“ duomenimis, net du trečdaliai atsitiktinai atrinktų publikacijų „Google Scholar“ platformoje turėjo požymių, kad tekstas sukurtas dirbtinio intelekto modelių, tokių kaip „ChatGPT“ ar „GPT-4o“. Dar blogiau, net 15 proc. šių straipsnių buvo medicininiai.
Bėda ta, kad „Google Scholar“ neskiria recenzuotų straipsnių nuo bakalauro darbų ar nekokybiškų tinklaraščių. Kai tokia mokslinė produkcija įtraukiama į metaanalizes, o šios tampa klinikinių sprendimų pagrindu – pasekmės sunkiai atitaisomos.
Skandalingi pavyzdžiai ir absurdiški atradimai
Blogiausia tai, jog visa ši situacija tikrai nėra vienetiniai atvejai. 2021 metais „Springer Nature“ buvo priversta atšaukti daugiau nei 40 publikacijų, publikuotų „Arabian Journal of Geosciences“, o jų turinys priminė nesąmoningų žodžių kratinį.
2024 metais „Frontiers“ ištrynė straipsnį, kuriame dirbtinis intelektas sugeneravo fiziologiškai neįmanomas žiurkės lytinių organų iliustracijas.
Tyrėjai taip pat pastebėjo, kad dirbtinio intelekto modeliai pradėjo atkartoti senus klaidingus mokslinius terminus, net 1959 metų biologijos darbo fragmentas tapo patikimu atsakymu DI generuojamuose tekstuose.
Naujas etapas – nebe klaidų taisymas, o žalos stabdymas
„Medical Evidence Project“ tampa nebe taisymo, o gelbėjimo operacija. Reikia ne tik identifikuoti pavienius netikslumus, bet ir suvaldyti laviną klaidingos informacijos, kuri po truputį ardo šiuolaikinės medicinos pagrindus.
Tai kovos su moksline dezinformacija frontas, kuris tik plečiasi. Ir būtent čia, tarp dirbtinio intelekto sukurto turinio, abejotinų metaanalizių ir iškreiptų gairių, slypi rizika, kurią visuomenė dar tik pradeda suvokti.
