Kalbos technologijų bendrovė „Tilde IT“ gavo finansavimą tarptautiniame projekte „FFplus“, kuris skirtas generatyvinio dirbtinio intelekto (DI) sprendimų diegimui naudojant didelio našumo skaičiavimo (HPC) infrastruktūrą.
Iš 62 paraiškų finansuoti tik 18 projektų visoje Europoje. „Tilde IT“ kurs sprendimą, padėsiantį organizacijoms naudoti DI saugiai ir užtikrinsiantį aukščiausią kalbos modelių kokybę.
„Projekte kuriamas sprendimas bus diegiamas organizacijų vidinėje infrastruktūroje – tai reiškia, kad visi duomenys liks įmonės viduje ir nebus perduodami trečiosioms šalims. Tai itin svarbu viešajam sektoriui, teisinėms, finansinėms ar kitoms jautrias žinias valdančioms organizacijoms.
Kartu tai bus proga įgyti labai konkrečios praktinės patirties: mokysimės, kaip vykdyti didžiųjų kalbos modelių tobulinimą („fine-tuning“) mažosioms Europos kalboms, pirmiausia – lietuvių. Tai leis mums kurti tikslesnius ir kokybiškesnius DI sprendimus nei siūlo standartiniai anglakalbiai modeliai“, – sako „Tilde IT“ Technologijų skyriaus vadovas Giedrius Karauskas.
Šiame projekte „Tilde IT“ spręs du pagrindinius iššūkius. Pirmasis – kalbinis šališkumas: daugiau nei 90 proc. didžiųjų kalbos modelių mokymui naudojamų duomenų yra anglų kalba, todėl mažesnės Europos kalbos, tarp jų ir lietuvių, lieka paraštėse. Antrasis – saugumas: organizacijos nori naudotis DI galimybėmis, tačiau nenori perduoti savo vidinių duomenų išoriniams debesijos paslaugų teikėjams.
„Kuriamas sprendimas bus semantinės paieškos sistema su klausimų–atsakymų funkcija, galinti atsakyti į darbuotojų užklausas, remiantis vidine įmonės dokumentacija, be jokio ryšio su išoriniu internetu ar debesijos DI paslaugomis. Tokį sprendimą bus galima pritaikyti įvairioms reikmėms – vidinių žinių paieškai, klientų aptarnavimo automatizavimui, teksto santraukų generavimui, mašininiam vertimui ir pan.“, – pasakoja Giedrius Karauskas.
„Tilde IT“ projektas apims visą DI sprendimo kūrimo ciklą: nuo kalbos modelių adaptavimo ir tobulinimo iki veikimo optimizavimo, testavimo ir integracijos į konkrečių organizacijų infrastruktūras. Visi darbai bus vykdomi pasitelkiant didelio našumo kompiuterinius išteklius, leidžiančius dirbti su modeliais, kurių sudėtingumas siekia 30 mlrd. parametrų ar daugiau. Pirmųjų rezultatų tikimasi jau metų pabaigoje.
Projektas „FFplus“ – tai Europos mastu vykdomas iniciatyva, finansuojanti mažas ir vidutines įmones, kuriančias pažangius generatyvinio DI sprendimus ir naudojančias didelio našumo kompiuterinius išteklius (HPC). Šio kvietimo metu finansuota 18 projektų, kurie paskirstyti tarp 14 Europos šalių, tarp jų – Vokietija, Italija, Ispanija, Prancūzija, Lietuva ir kitos. Iš viso atrinktos 36 organizacijos, o didžiąją dalį jų (56 %) sudaro mažos ir vidutinės įmonės.
Pirmasis atviras kvietimas vyko 2024 m. birželio–rugsėjo mėn., jo bendras biudžetas siekė 4,37 mln. eurų. Kiekvienas projektas galėjo gauti iki 300 tūkst. eurų finansavimą. Kvietimas buvo skirtas įmonėms, turinčioms patirties generatyvinio DI ir HPC srityse, siekiant paskatinti technologinę pažangą ir padidinti jų konkurencingumą. Projekto trukmė – 10 mėnesių.
