Android Neural Networks API (NNAPI) nyní podporuje hardwarově akcelerované vyvozování pomocí Facebook PyTorch Framework. Přečtěte si další informace!
Strojové učení formovalo naši současnost mnoha způsoby, že si toho už ani nevšimneme. Úkoly, které dříve byly buď nemožné, se nyní staly triviálními, díky čemuž je technologie a její výhody ještě více přístupné široké populaci. Mnohé z toho je možné díky strojovému učení na zařízení a Google Neural Networks API (NNAPI). Nyní bude ještě více uživatelů moci zažít akcelerované neuronové sítě a jejich výhody, jako to má tým Android oznámila podporu pro funkci prototypu, která umožňuje vývojářům používat hardwarově akcelerované odvození s PyTorch od Facebooku Rámec.
Strojové učení na zařízení umožňuje modelům strojového učení běžet lokálně na zařízení bez potřeba přenášet data na server, což umožňuje nižší latenci, lepší soukromí a lepší konektivitu. Android Neural Networks API (NNAPI) je navrženo pro spouštění výpočetně náročných operací pro strojové učení na zařízeních Android. NNAPI poskytuje jedinou sadu rozhraní API, která těží z dostupných hardwarových akcelerátorů včetně GPU, DSP a NPU.
K NNAPI lze přistupovat přímo přes Android C API, nebo přes frameworky vyšší úrovně jako např TensorFlow Lite. A podle dnešního oznámení, PyTorch Mobile oznámila novou funkci prototypu podporující NNAPI, která následně umožňuje vývojářům používat hardwarově akcelerované odvození s rámcem PyTorch. Toto počáteční vydání obsahuje podporu pro dobře známé modely lineárních konvolučních a vícevrstvých perceptronů na Androidu 10 a vyšším. Testování výkonu pomocí modelu MobileNetV2 ukazuje až 10x zrychlení ve srovnání s jednovláknovým CPU. V rámci vývoje směrem k plně stabilní verzi budou budoucí aktualizace zahrnovat podporu pro další operátory a modelové architektury včetně Mask R-CNN, oblíbené detekce objektů a segmentace instancí Modelka.
Snad nejznámějším softwarem postaveným na PyTorch je software Autopilot od Tesly. I když dnešní oznámení nepředstavuje žádné přímé novinky pro Autopilota, otevírá výhody zrychlené neuronové sítě pro miliony uživatelů Androidu, kteří používají software, který je na nich postaven PyTorch.