Androids Neural Networks API (NNAPI) støtter nå maskinvareakselerert inferencing med Facebooks PyTorch Framework. Les videre for mer!
Machine Learning har formet vår nåtid på mange måter som vi ikke engang legger merke til lenger. Oppgaver som tidligere enten var umulige, har nå blitt trivielle å utføre, noe som gjør teknologien og dens fordeler enda mer tilgjengelig for befolkningen for øvrig. Mye av dette er gjort mulig gjennom maskinlæring på enheten og Googles Neural Networks API (NNAPI). Nå vil enda flere brukere kunne oppleve akselererte nevrale nettverk og deres fordeler slik Android-teamet har annonsert støtte for en prototypefunksjon som gjør det mulig for utviklere å bruke maskinvareakselerert slutning med Facebooks PyTorch Rammeverk.
Maskinlæring på enheten lar maskinlæringsmodeller kjøre lokalt på enheten uten trenger å overføre data til en server, noe som gir lavere latens, forbedret personvern og forbedret tilkobling. Android Neural Networks API (NNAPI) er designet for å kjøre beregningsintensive operasjoner for maskinlæring på Android-enheter. NNAPI gir et enkelt sett med APIer for å dra nytte av tilgjengelige maskinvareakseleratorer, inkludert GPUer, DSPer og NPUer.
NNAPI kan nås direkte via en Android C API, eller via rammeverk på høyere nivå som TensorFlow Lite. Og som i dagens kunngjøring, PyTorch Mobile har annonsert en ny prototypefunksjon som støtter NNAPI, som følgelig gjør det mulig for utviklere å bruke maskinvareakselerert slutning med PyTorch-rammeverket. Denne første utgivelsen inkluderer støtte for velkjente lineære konvolusjonelle og flerlags perceptronmodeller på Android 10 og nyere. Ytelsestesting ved bruk av MobileNetV2-modellen viser opptil 10 ganger hastighet sammenlignet med en enkelt-tråds CPU. Som en del av utviklingen mot en fullstendig stabil utgivelse, vil fremtidige oppdateringer inkludere støtte for ytterligere operatører og modellarkitekturer inkludert Mask R-CNN, en populær objektdeteksjon og instanssegmentering modell.
Den kanskje mest kjente programvaren bygget på toppen av PyTorch er Teslas Autopilot-programvare. Selv om dagens kunngjøring ikke gir noen direkte nyheter for autopilot, åpner den opp for fordelene med akselererte nevrale nettverk til millioner av Android-brukere som bruker programvare som er bygget på toppen av PyTorch.