Neseniai „Microsoft“ pažadėjo sumažinti perteklinį dirbtinio intelekto funkcijų kiekį „Windows 11“, tačiau panašu, kad kompanija nusprendė „atsigriebti“ jai priklausančioje IT projektų talpinimo ir bendradarbiavimo platformoje „GitHub“. Pranešama apie daugiau nei 11 000 atvejų, kai į „pull request“ užklausas buvo įterpti „Copilot“ „patarimai“, reklamuojantys šį „Microsoft“ AI įrankį.
Programinės įrangos kūrėjas Zach Manson papasakojo, kad „Copilot“ įterpė reklamą į „GitHub“ „pull request“. Pasak jo, kolega naudojo „Copilot“, kad ištaisytų rašybos klaidą. „Copilot“ klaidą ištaisė, bet taip pat pridėjo reklamą „Copilot“ ir „Raycast“ į užklausos aprašymą. „Tai siaubinga. Žinojau, kad tokia nesąmonė anksčiau ar vėliau nutiks, bet nesitikėjau, kad taip greitai“, – sakė Mansonas.
„Greitai paleiskite „Copilot“ agento užduotis iš bet kurios vietos jūsų „macOS“ ar „Windows“ kompiuteryje naudodami „Raycast“, – rašoma užklausoje. Tekstas su emoji yra dažnas „Copilot“ generuojamo turinio požymis.
Paieška pagal šią frazę parodė daugiau nei 11 000 identiškų atvejų „GitHub“ „pull request“ užklausose. Puslapių žymėjime aptikta frazė „START COPILOT CODING AGENT TIPS“. Panašu, kad „Copilot“ automatiškai pridėdavo tokius „patarimus“, kurie iš esmės buvo reklama.
„GitHub“ viceprezidentas ryšiams su kūrėjais Martin Woodward patvirtino, kad „Copilot“ galėjo pridėti produkto patarimus į „pull request“, tačiau ši funkcija buvo išjungta po gausaus neigiamo atsiliepimų kiekio: „Mes jau ją išjungėme. Iš esmės patarimų funkcija veikė neblogai „Copilot“ inicijuotose užklausose, bet kai leidome naudoti „Copilot“ bet kuriai užklausai, elgsena tapo nemaloni. Dėl vartotojų atsiliepimų ši funkcija buvo visiškai išjungta“.
Dirbtinis intelektas „GitHub“ platformoje naudojamas įvairiais būdais, ir kai kurie jų iš tiesų naudingi. Pavyzdžiui, „Copilot“ gali padidinti produktyvumą, padėti rasti klaidas ir optimizuoti kūrimo procesą. Tačiau įrankis iš dalies buvo mokomas naudojant „GitHub“ talpinamą kodą, kas sukėlė pagrįstą vartotojų pasipiktinimą.
„Microsoft“ atnaujino „Copilot“ naudojimo politiką, nurodydama, kad AI modelių mokymui bus naudojami įvesties ir išvesties duomenys, kodo fragmentai ir susijęs kontekstas iš „GitHub“. Šis pakeitimas taikomas „Copilot Free“, „Pro“ ir „Pro+“ naudotojams (verslo ir įmonių klientų tai neliečia).
Paradoksalu, jei „Copilot“ įterpia reklamą į „pull request“, o „GitHub“ duomenys naudojami AI mokymui, neuroniniai tinklai pradeda mokytis iš pačių savęs. Toks ciklas gali būti pavojingas: be patikimo pagrindo klaidos gali kartotis ir didėti. Gali atsirasti situacija, kai AI pradės netyčia generuoti reklamą, nes buvo apmokytas naudojant kodą su įterpta reklama.
Kol kas vartotojai dar gali atsisakyti, kad jų „GitHub“ duomenys būtų naudojami „Microsoft“ AI modelių mokymui.
