JAV bendrovė „Autonomous“ pristatė pirmąją tokio tipo itin aukštos našumo darbo stotį „Brainy“, skirtą pagreitinti dirbtinio intelekto (DI) kūrimą. Įrenginys sukurtas mokslininkams, kūrėjams ir startuoliams, siekiantiems pranokti debesų sprendimų galimybes ir dirbti su sudėtingiausiomis DI modelių sistemomis lokaliai – greitai ir saugiai.
„Brainy“ sistema sukurta sudėtingiausioms DI užduotims ir aprūpinta „Nvidia RTX 4090“ vaizdo plokštėmis. Jos našumas viršija vieną petaflopsą maksimalioje konfigūracijoje, kuri gali turėti nuo dviejų iki aštuonių GPU. Tai leidžia mokyti modelius su 70 milijardų parametrų, pasiekti superkompiuterių lygio rezultatus tiesiai nuo darbo stalo ir optimizuoti DI modelių mokymą. „TechPowerUp“ pažymi, kad stotis ypač efektyvi didelių kalbos modelių (LLM) derinimui, kompiuterinio regėjimo užduotims ir kitoms gilaus mokymosi sritims.
„Autonomous“ sukūrė „Brainy“, siekdama išspręsti brangių debesų GPU sprendimų problemas. Nors debesų paslaugos yra lanksčios, jų mokėjimas pagal naudojimą ilgalaikiuose projektuose gali tapti itin brangus. „Autonomous“ siūlo alternatyvą – lokalią galią, didesnį duomenų saugumą ir ženklią ekonomiją. Bendrovės vertinimu, „Brainy“ savininkai jau pirmąjį naudojimo metus gali sutaupyti tūkstančius dolerių, palyginti su debesų resursų nuoma.
Kitas „Brainy“ privalumas – stabilus veikimas. Sistema pašalina tipines debesų problemas, tokias kaip eilės, staigūs atsijungimai ar interneto vėlavimai. Be to, vartotojai gali pradėti nuo dviejų vaizdo plokščių konfigūracijos ir, prireikus, išplėsti ją iki aštuonių. Paruoštus projektus galima lengvai perkelti į debesį ar duomenų centrą be papildomų nustatymų.
Gamintojas pabrėžia, kad „Brainy“ palaiko populiarius karkasus, tokius kaip „PyTorch“ ir „TensorFlow“, taip pat „Nvidia“ technologijas – CUDA, cuDNN ir TensorRT. Šios galimybės pagreitina DI modelių kūrimą ir mokslinius skaičiavimus. Be to, „Autonomous“ dalyvauja „Nvidia Inception“ programoje, kuri suteikia prieigą prie resursų ir mokymų, skirtų „Brainy“ optimizavimui, taip pat leidžia pasiūlyti klientams konkurencingas kainas. Anot bendrovės, stotis padės startuoliams ir organizacijoms greičiau kurti DI sprendimus medicinos, švietimo, logistikos ir finansų srityse.
Be „Nvidia“ vaizdo plokščių, „Autonomous Brainy“ sistemos turi AMD „Ryzen Threadripper“ procesorius – baziniame modelyje tai 24 branduolių „Ryzen Threadripper 3960X“, o pažangesnėse konfigūracijose – naujesni 16 branduolių „Ryzen Threadripper 5955WX“. Galingiausia versija aprūpinta 16 branduolių „AMD Epyc 9124“ lustu. Operatyviosios atminties talpa atitinkamai siekia 96, 128 ir 192 GB.
Pažymėtina, kad vienoje iš konfigūracijų vaizdo plokštės negalės veikti visu pajėgumu. Pavyzdžiui, „Ryzen Threadripper 5955WX“ turi tik 80 PCIe linijų, o šešioms vaizdo plokštėms reikia 96 linijų. Be to, dar keturios linijos reikalingos SSD. Taigi, net geriausias modelis su 128 PCIe 4.0 linijomis susidurs su jų trūkumu. Taip pat kelia susirūpinimą aušinimas: ar vaizdo plokštėms nebus per ankšta korpuse?
„Autonomous Brainy“ sistemos siūlomos už 9000–40 000 USD kainas.
