La Neural Networks API (NNAPI) di Android ora supporta l'inferenza con accelerazione hardware con PyTorch Framework di Facebook. Continua a leggere per saperne di più!
Il Machine Learning ha plasmato il nostro presente in molti modi al punto che non ce ne accorgiamo nemmeno più. Compiti che prima erano impossibili ora sono diventati banali da eseguire, rendendo la tecnologia e i suoi vantaggi ancora più importanti ancora più ampiamente accessibili alla popolazione in generale. Gran parte di ciò è reso possibile dall'apprendimento automatico sul dispositivo e dall'API Neural Networks (NNAPI) di Google. Ora, ancora più utenti potranno sperimentare le reti neurali accelerate e i loro vantaggi come ha fatto il team Android ha annunciato il supporto per una funzionalità prototipo che consente agli sviluppatori di utilizzare l'inferenza con accelerazione hardware con PyTorch di Facebook Struttura.
L'apprendimento automatico sul dispositivo consente l'esecuzione locale dei modelli di apprendimento automatico sul dispositivo senza necessità di trasmettere dati a un server, consentendo una latenza inferiore, una maggiore privacy e una migliore connettività. L'API Android Neural Networks (NNAPI) è progettata per l'esecuzione di operazioni ad alta intensità di calcolo per l'apprendimento automatico su dispositivi Android. NNAPI fornisce un unico set di API per trarre vantaggio dagli acceleratori hardware disponibili, tra cui GPU, DSP e NPU.
È possibile accedere a NNAPI direttamente tramite un'API Android C o tramite framework di livello superiore come TensorFlow Lite. E secondo l'annuncio di oggi, PyTorch Mobile ha annunciato una nuova funzionalità prototipo che supporta NNAPI, consentendo di conseguenza agli sviluppatori di utilizzare l'inferenza accelerata dall'hardware con il framework PyTorch. Questa versione iniziale include il supporto per noti modelli di percettrone lineare convoluzionale e multistrato su Android 10 e versioni successive. I test delle prestazioni utilizzando il modello MobileNetV2 mostrano una velocità fino a 10 volte superiore rispetto a una CPU a thread singolo. Nell'ambito dello sviluppo verso una versione completamente stabile, i futuri aggiornamenti includeranno il supporto per ulteriori versioni operatori e architetture di modelli tra cui Mask R-CNN, un popolare rilevamento di oggetti e segmentazione di istanze modello.
Forse il software più noto basato su PyTorch è il software Autopilot di Tesla. Sebbene l'annuncio di oggi non rappresenti alcuna novità diretta per Autopilot, ne apre i vantaggi reti neurali accelerate a milioni di utenti Android che utilizzano software basato su PyTorch.