„Facebook“ savinininkas nori neeiline skaičiavimo galia vystyti kalbos atpažinimo ir vertimo DI modelius bei kurti 3D pasaulius.
„Meta“ RSC superkompiuteris © „Meta“
Motininė „Facebook“ kompanija, „Meta“, konstruoja galingiausią pasaulyje specialiai darbui su dirbtiniu intelektu skirtą superkompiuterį, kuriuo bus tobulinami kalbos atpažinimo įrankiai, automatiškai verčiantys skirtingas kalbas ir padėsiantys kurti 3D virtualią metavisatą.
Dar toli gražu neužbaigtas, DI Tyrimų superspiečius (Research SuperCluster – RSC) veikia ir jau aplenkė „Meta“ ankstesnį sparčiausią superkompiuterį, kuris buvo sukurtas 2017 metais ir naudojo 22 000 galingus grafinius procesorius, kurie, nors ir skirti žaidimams, yra labai efektyvūs dirbtinio intelekto modelių treniravimo įrankiai.
RSC dabar yra vos 6080 GPU, bet jie galingesni, nei senojoje mašinoje ir DI modelius treniruoja trigubai greičiau. Dabartinis našumas prilygintinas Nacionalinio energijos tyrimų mokslinių skaičiavimų centre Kalifornijoje esančiam „Perlmutter“ superkompiuteriui, užimančiam penktą vietą TOP 500 pasaulio superkompiuterių reitinge.
Užbaigtame RSC bus 16 000 GPU ir jis bus trigubai našesnis, nei dabar. „Meta“ tvirtina, kad tuomet jis bus sparčiausias pasaulyje DI optimizuotas superkompiuteris, veiksiantis beveik 5 eksaflopsų sparta.
Superkompiuteriai gali būti sukurti konkrečiam tikslui. „Meta“ mašina specializuota treniruoti didelius DI modelius ir juos vykdyti. Kai jis bus užbaigtas, pasaulyje jau bus galingesnių superkompiuterių, bet nedaug, o tokios pat architektūros ar panaudojimo būdo – nebus iš viso.
Pastaraisiais metais DI tyrimų fronte svarbiausias buvo mastas ir vis galingesnės mašinos treniruoti modelius. Viename iš didžiausių neuroninių tinklų, Megatron-Turing Natural Language Generation modelyje, naudojami 530 milijardų parametrų, kurie, grubiai tariant, atitinka ryšius tarp smegenų ląstelių. „Meta“ teigia, kad jos mašina galiausiai apdoros trilijonus parametrų.
James Knight iš Sussexo universiteto, JK, sako, kad šio kompiuterio mastas „milžiniškas“, bet kai kurie DI tyrimų iššūkiai – ne jo nosiai. „Tokia didele sistema jie tikrai galės kurti didesnius modelius,“ sako jis. „Visgi, nemanau, kad vien kalbos modelių padidinimas išspręs gerai dokumentuotas egzistuojančių modelių seksistinio ir rasistinio kalbėjimo problemas ar negebėjimą įveikti bazinių loginio pagrindimo testų“.
Matthew Sparkes / www.newscientist.com
