Androidi NNAPI toetab nüüd PyTorchiga riistvarakiirendust

Androidi närvivõrkude API (NNAPI) toetab nüüd riistvaraliselt kiirendatud järeldusi Facebooki PyTorch Frameworkiga. Loe edasi!

Masinõpe on meie olevikku mitmel viisil kujundanud, nii et me ei pane seda enam tähelegi. Ülesanded, mis varem olid võimatud, on nüüd muutunud triviaalseks täitmiseks, muutes tehnoloogia ja selle eelised laiemale elanikkonnale veelgi laiemalt kättesaadavaks. Suur osa sellest on võimalik tänu seadmesisesele masinõppele ja Google'i närvivõrkude API-le (NNAPI). Nüüd saavad veelgi rohkem kasutajaid kogeda kiirendatud närvivõrke ja nende eeliseid nagu Androidi meeskond teatas prototüübi funktsiooni toetamisest, mis võimaldab arendajatel kasutada riistvaraliselt kiirendatud järeldusi Facebooki PyTorchiga Raamistik.

Seadmesisene masinõpe võimaldab masinõppemudeleid seadmes kohapeal käitada ilma vajadus edastada andmeid serverisse, mis võimaldab väiksemat latentsust, paremat privaatsust ja paremat ühenduvus. Android Neural Networks API (NNAPI) on mõeldud arvutusmahukate operatsioonide käitamiseks Android-seadmetes masinõppe jaoks. NNAPI pakub ühtset API-de komplekti, et saada kasu saadaolevatest riistvarakiirenditest, sealhulgas GPU-dest, DSP-dest ja NPU-dest.

NNAPI-le pääseb juurde otse Android C API kaudu või kõrgema taseme raamistike, näiteks TensorFlow Lite. Ja vastavalt tänasele teadaandele, PyTorch Mobile on teatanud uuest NNAPI-d toetavast prototüübi funktsioonist, mis võimaldab arendajatel kasutada PyTorchi raamistikuga riistvarakiirendatud järeldusi. See esialgne väljalase sisaldab Android 10 ja uuemate versioonide tuntud lineaarse konvolutsiooni ja mitmekihiliste pertseptronmudelite tuge. Toimivuse testimine MobileNetV2 mudeliga näitab kuni 10-kordset kiirust võrreldes ühe keermega protsessoriga. Täielikult stabiilse versiooni arendamise osana hõlmavad tulevased värskendused täiendavate versioonide tuge operaatorid ja mudeliarhitektuurid, sealhulgas mask R-CNN, populaarne objektide tuvastamine ja eksemplaride segmenteerimine mudel.

Võib-olla on PyTorchi peale ehitatud kõige tuntum tarkvara Tesla Autopilot tarkvara. Kuigi tänane teadaanne ei anna Autopiloti jaoks otseseid uudiseid, avab see selle eelised kiirendatud närvivõrke miljonitele Androidi kasutajatele, kes kasutavad tarkvara, mis on üles ehitatud PyTorch.