Daugelis dirbtinio intelekto kūrėjų atsisako debesijos išteklių, kad galėtų paleisti neuroninius tinklus savo įrenginiuose. Jiems „Qualcomm“ parodoje „MWC 2024“ pristatė savo naujausią įrankį „AI Hub“, kuris kūrėjams palengvina prieigą prie dirbtinio intelekto modelių.
„Qualcomm AI Hub“ turi vis didesnę generatyvinių dirbtinio intelekto modelių biblioteką, kurią galima lengvai įkelti į „Qualcomm“ valdomus įrenginius. Šiuo metu „AI Hub“ jau yra daugiau nei 75 modeliai.
„Pristatydami išmaniesiems telefonams skirtą „Snapdragon 8 Gen 3“ ir asmeniniams kompiuteriams skirtą „Snapdragon X Elite“ pradėjome didelio masto dirbtinio intelekto komercializavimą įrenginiuose. Dabar „Qualcomm AI Hub“ suteiks kūrėjams galimybę visapusiškai išnaudoti šių pažangiausių technologijų potencialą ir kurti įdomias dirbtinį intelektą naudojančias programas“, – sakė „Qualcomm“ technologijų planavimo ir periferinių įrenginių vyresnioji viceprezidentė Durga Malladi.
„Qualcomm AI Hub“ bibliotekoje yra keletas populiariausių šios srities modelių, pavyzdžiui, „Whisper“ – automatinio kalbos atpažinimo (ASR) sistema iš „OpenAI“ ir „Stable DIffusion“ – teksto į vaizdą modelis iš „Stability AI“.
„Qualcomm“ teigia, kad „AI Hub“ esantys dirbtinio intelekto modeliai yra optimizuoti aparatinei įrangai, todėl užtikrina „puikų DI našumą įrenginyje“.
Maksimaliai išnaudojus visus „Qualcomm AI Engine“ branduolius, įskaitant NPU, CPU ir GPU, pagerėja energijos vartojimo efektyvumas, sumažėja atminties naudojimas ir keturis kartus pagreitėja našumas.
Dar vienas DI modelių naudojimo vietiniame įrenginyje privalumas – didesnis duomenų saugumas, palyginti su debesimi, o tai ypač svarbu kuriant modelius, kuriuose naudojama slapta ar patentuota informacija.
