„OpenAI“ oficialiai pranešė apie priemones, kurių ėmėsi siekdama išspręsti pernelyg pataikaujančio „ChatGPT“ elgesio problemą.
Anksčiau naudotojai skundėsi, kad dirbtinis intelektas tapo pernelyg meilikaujantis ir net pritardavo pavojingoms ar rizikingoms idėjoms. Problema išryškėjo po patobulintos GPT-4o versijos išleidimo, kurią kūrėjams teko skubiai atšaukti.
„OpenAI“ generalinis direktorius Semas Altmanas (Sam Altman) pripažino problemą savo įraše platformoje „X“ ir pažadėjo ją „kiek įmanoma greičiau“ išspręsti. Praeitą antradienį įmonė grąžino senesnę GPT-4o versiją ir pranešė dirbanti su modelio „elgesio ypatumų“ korekcijomis. Vėliau „OpenAI“ paskelbė incidento analizę ir pranešė apie pokyčius naujų versijų testavimo procese.
Savo tinklaraštyje bendrovė teigė, kad patobulino pagrindinius mokymo metodus ir sistemines instrukcijas, kad modelis būtų mažiau pataikaujantis, įdiegė papildomus apribojimus atsakymų sąžiningumui didinti ir išplėtė naudotojų, galinčių testuoti naujas versijas iki oficialaus išleidimo, ratą.
„OpenAI“ taip pat mano, kad naudotojai turėtų turėti daugiau kontrolės, todėl planuoja leisti keisti modelio elgesį pagal individualius pageidavimus.
Ši problema tapo ypač aktuali augant „ChatGPT“ populiarumui kaip patarimų šaltiniui. Pasak „Express Legal Funding“ apklausos, jau 60 % suaugusiųjų JAV naudoja DI ieškodami informacijos ar rekomendacijų. Turint omenyje tokį mastą, bet kokie darbo sutrikimai – ar tai būtų pataikavimas, ar netikslūs patarimai – gali turėti rimtų pasekmių.
Kaip laikiną sprendimą „OpenAI“ pradėjo testuoti tiesioginio atsiliepimo funkciją, leidžiančią naudotojams tiesiogiai koreguoti „ChatGPT“ atsakymus. Taip pat svarstoma galimybė įdiegti skirtingų „asmenybių“ tipus dirbtiniam intelektui. Kol kas įmonė neįvardijo, kada visos šios naujovės bus pilnai įdiegtos.
„Svarbiausia pamoka – supratimas, kad žmonės vis dažniau naudoja „ChatGPT“ asmeniniams patarimams, ko prieš metus beveik nebuvo“, – pažymėjo „OpenAI“. – „Nuo šiol šiam aspektui skirsime daugiau dėmesio, ypač kalbant apie saugumą.“
Paieška archyve
