„OpenAI“ susiduria su turinio moderavimo problema savo GPT parduotuvėje, kurioje naudotojai kuria pokalbių robotus, pažeidžiančius bendrovės taisykles.
Nepriklausomo tyrimo metu buvo aptikta daugiau nei 100 įrankių, kurie generuoja netikrus medicininius, teisinius ir kitus „OpenAI“ taisyklėse draudžiamus atsakymus.
Pasak „Gizmodo“, praėjus devyniems mėnesiams po oficialaus starto, daugelis kūrėjų naudojasi platforma kurdami įrankius, kurie akivaizdžiai pažeidžia bendrovės taisykles.
Tarp jų yra pokalbių robotai, generuojantys atvirą turinį, ir įrankiai, padedantys studentams apgauti plagiato tikrintuvus, taip pat robotai, teikiantys tariamai autoritetingus medicinos ir teisės patarimus.
Anądien „OpenAI“ parduotuvės pagrindiniame puslapyje buvo pastebėtos bent trys pasirinktinės GPT, kurios akivaizdžiai pažeidė taisykles: „terapeuto-psichologo“ pokalbių robotas, „fitneso treneris su daktaro laipsniu“ ir „Turnitin aptikimo apėjimas“, kuris žada padėti studentams apeiti „Turnitin“ antiplagijavimo sistemą.
Daugelis apgaulingų GPT jau buvo panaudoti dešimtis tūkstančių kartų.
Atsakydama į „Gizmodo“ užklausas apie parduotuvėje rastas apgaulingas GPT, „OpenAI“ teigė, kad „ėmėsi veiksmų prieš tuos, kurie pažeidžia taisykles“.
Įmonė naudoja automatinių sistemų, žmonių peržiūrų ir naudotojų pranešimų derinį, kad nustatytų ir įvertintų GPT, kurios galimai pažeidžia įmonės politiką, sakė atstovė spaudai Taya Christianson.
Tačiau daugelis nustatytų priemonių, įskaitant pokalbių kambarius, kuriuose siūlomi medicininiai patarimai ir padedama sukčiauti, vis dar yra prieinamos ir aktyviai reklamuojamos pagrindiniame puslapyje.
„Įdomu, kad „OpenAI“ turi apokaliptinę dirbtinio intelekto viziją ir tai, kaip jie mus visus nuo jo išgelbės“, – sakė Miltonas Muelleris, Džordžijos technologijos instituto (JAV) Interneto valdymo projekto direktorius.
„Tačiau manau, kad ypač juokinga tai, kad jie negali užtikrinti tokio paprasto dalyko kaip pornografijos su dirbtiniu intelektu uždraudimas, o tuo pat metu tvirtina, kad jų politika išgelbės pasaulį.“
Problemą apsunkina tai, kad daugelyje medicininių ir teisinių klausimų, GPT nėra būtinų išlygų, o kai kurios jų klaidina, reklamuodamos save kaip teisininkus ar gydytojus.
Pavyzdžiui, dirbtinio intelekto imigracijos teisininkas (angl. AI Immigration Lawyer) save pristato kaip „aukštos kvalifikacijos dirbtinio intelekto imigracijos teisininką, turintį naujausių teisinių žinių“.
Tačiau tyrimai rodo, kad GPT-4 ir GPT-3.5 modeliai vis tiek dažnai pateikia neteisingą informaciją, ypač teisiniais klausimais, todėl jų naudojimas yra labai rizikingas.
Primename, kad „OpenAI GPT Store“ yra prekybos platforma, kurioje prekiaujama užsakomaisiais pokalbių robotais „bet kokiai progai“, kuriuos kuria trečiųjų šalių kūrėjai ir gauna pelną iš jų realizavimo.
Jau sukurta daugiau kaip 3 mln. užsakomųjų pokalbių robotų.
