Rozhranie Android Neural Networks API (NNAPI) teraz podporuje hardvérovo akcelerované odvodzovanie pomocou PyTorch Framework od Facebooku. Prečítajte si viac!
Strojové učenie formovalo našu súčasnosť mnohými spôsobmi, že si to už ani nevšímame. Úlohy, ktoré boli predtým buď nemožné, sa teraz stali triviálnymi, čo robí technológiu a jej výhody ešte širšie prístupné širokej verejnosti. Veľa z toho je možné vďaka strojovému učeniu na zariadení a Google Neural Networks API (NNAPI). Teraz ešte viac používateľov bude môcť zažiť zrýchlené neurónové siete a ich výhody, ako to má tím Android oznámila podporu pre prototypovú funkciu, ktorá umožňuje vývojárom používať hardvérovo akcelerované odvodenie s PyTorch od Facebooku Rámec.
Strojové učenie na zariadení umožňuje modelom strojového učenia bežať lokálne na zariadení bez potreba prenášať údaje na server, čo umožňuje nižšiu latenciu, lepšie súkromie a zlepšuje konektivitu. Rozhranie Android Neural Networks API (NNAPI) je navrhnuté na spúšťanie výpočtovo náročných operácií strojového učenia na zariadeniach so systémom Android. NNAPI poskytuje jedinú sadu rozhraní API, ktoré môžu využívať dostupné hardvérové akcelerátory vrátane GPU, DSP a NPU.
K NNAPI je možné pristupovať priamo cez Android C API, alebo cez frameworky vyššej úrovne ako napr TensorFlow Lite. A podľa dnešného oznámenia, PyTorch Mobile oznámila novú funkciu prototypu podporujúcu NNAPI, ktorá následne umožňuje vývojárom používať hardvérovo akcelerované odvodenie s rámcom PyTorch. Toto prvé vydanie obsahuje podporu pre dobre známe modely lineárnych konvolučných a viacvrstvových perceptrónov v systéme Android 10 a novších. Testovanie výkonu pomocou modelu MobileNetV2 ukazuje až 10x zrýchlenie v porovnaní s jednovláknovým CPU. V rámci vývoja smerom k úplne stabilnému vydaniu budú budúce aktualizácie zahŕňať podporu pre ďalšie operátorov a modelových architektúr vrátane Mask R-CNN, populárnej detekcie objektov a segmentácie inštancií Model.
Snáď najznámejším softvérom postaveným na vrchole PyTorch je softvér Autopilot od Tesly. Aj keď dnešné oznámenie nepredstavuje žiadne priame správy pre Autopilota, otvára výhody zrýchlené neurónové siete pre milióny používateľov systému Android, ktorí používajú softvér, ktorý je na nich postavený PyTorch.