Elonas Muskas yra sakęs, kad dirbtinis intelektas yra didžiausia grėsmė žmonijai Ką tik pelno nesiekianti dirbtinio intelekto tyrimų grupė „OpenAI“ sukūrė tokią gerą teksto generavimo sistemą, kad nuspręsta jos neišleisti – tai tiesiog per daug kelia šiurpą.
Ar galite įsivaizduoti laikus, kai skaitydami tekstą nežinosite, ar jį parašė žmogus, ar kompiuteris? „OpenAI“ tyrėjai su tuo jau susidūrė, o sistemą sukūrė patys. Programa turėjo nuspėti kitą žmogaus žodį, tačiau ji pati išmoko taip gerai pamėgdžioti žmonių tekstus, kad organizacija nusprendė net neišleisti modelio į viešumą. Vietoje to išleista mažesnė ir, kaip teigiama, ne tokia pavojinga versija, kuri leis paeksperimentuoti kitiems mokslininkams.
Tyrėjai panaudojo apie 40 GB duomenų iš 8 milijonų interneto puslapių, kad apmokytų GPT-2 sistemą. Kurdami pirmąją algoritmo versiją jie panaudojo dvigubai mažiau duomenų. GPT-2 rašė kaip žmogus, kai tyrėjai įvesdavo nedidelę pastraipą. Tiesa, programa sunkiau tvarkėsi su labai techniškais tekstais. „Gizmodo“ aprašo pavyzdį – mokslininkai į algoritmą įvedė tokią pastraipą:
„Šokiruojantis atradimas – mokslininkai atrado vienaragių kaimenę, gyvenančią anksčiau netyrinėtame slėnyje Andų kalnuose. Tyrėjus dar labiau nustebino tai, kad vienaragiai puikiai kalbėjo angliškai“.
Ši, greičiausiai, tikro tyrimo ištrauka paskatino DI toliau rašyti keistą pranešimą apie atradimą. Tekstas buvo toks, kad daugelis nesunkiai patikėtų, kad jį parašė žmogus. Štai ką kompiuteris sugalvojo:
„Dėl specifinės ragų formos, mokslininkai naują rūšį pavadino Ovidijaus Vienaragiais. Šie keturis ragus turintys sidabrinės-baltos spalvos vienaragiai anksčiau mokslui nebuvo žinomi.
Dabar, po beveik dviejų amžių, paslaptis, kas sukėlė šį keistą fenomeną, pagaliau atskleista.
Dr. Jorge‘as Pérez‘as, evoliucinis biologas iš La Paso Universiteto, su keliais bendradarbiais tyrinėjo Andus, kol surado mažą slėnį be jokių kitų gyvūnų ar žmonių. Pérez‘as pastebėjo, kad slėnyje buvo kažkas panašaus į natūralų fontaną su dviem akmenų ir sidabrinio sniego viršukalnėmis iš abiejų pusių“.
Gerai, ne pats rišliausias tekstas, tačiau būtų nesunku patikėti, kad jį parašė žmogus. Pasimokęs iš savo klaidų algoritmas antrą kartą tekstą parašytų dar geriau. Tikriausiai labiausiai stebina tai, kad DI prisiderina prie teksto stiliaus ir tono. GPT-2 taip pat nesunkiai atlieka užduotis, kurioms nebuvo sukurtas – verčia tekstus, kuria santrumpas. Išanalizavęs tekstą algoritmas vėliau gali atsakyti į kai kuriuos klausimus apie jo turinį.
Toks algoritmas, žinoma, yra labai pavojingas. Jis galėtų būti panaudotas netikroms naujienoms kurti ar personalizuotiems elektroniniams laiškams su kenkėjišku turiniu. „OpenAI“ ar nenusprendė, ką darys su šia programa – dar šešis mėnesius apie tai bus viešai diskutuojama.
Elonas Muskas, vienas iš „OpenAI“ įkūrėjų, ne kartą minėjo, kad būtina įvertinti dirbtinio intelekto grėsmes. Šie algoritmai gali pamėgdžioti žmonių elgesį net labai tiksliai, o tai gali būti panaudota ir blogiems tikslams.
Paieška archyve
