API-ul pentru rețele neuronale de la Android (NNAPI) acceptă acum inferența accelerată de hardware cu cadrul PyTorch de la Facebook. Citiți mai departe pentru mai multe!
Învățarea automată ne-a modelat prezentul în multe feluri, în care nici nu-l mai observăm. Sarcinile care înainte erau fie imposibile au devenit acum banale de executat, făcând tehnologia și beneficiile acesteia și mai larg accesibilă populației în general. O mare parte din acest lucru este posibilă prin învățarea automată pe dispozitiv și prin API-ul Google Neural Networks (NNAPI). Acum, chiar mai mulți utilizatori vor putea experimenta rețelele neuronale accelerate și beneficiile acestora, așa cum le are echipa Android a anunțat suport pentru o caracteristică prototip care le permite dezvoltatorilor să utilizeze inferența accelerată de hardware cu PyTorch de la Facebook Cadru.
Învățarea automată pe dispozitiv permite modelelor de învățare automată să ruleze local pe dispozitiv fără nevoia de a transmite date către un server, permițând o latență mai mică, confidențialitate îmbunătățită și îmbunătățită conectivitate. API-ul Android Neural Networks (NNAPI) este conceput pentru a rula operațiuni intensive din punct de vedere computațional pentru învățarea automată pe dispozitive Android. NNAPI oferă un singur set de API-uri pentru a beneficia de acceleratoarele hardware disponibile, inclusiv GPU-uri, DSP-uri și NPU-uri.
NNAPI poate fi accesat direct printr-un API C Android sau prin cadre de nivel superior, cum ar fi TensorFlow Lite. Și conform anunțului de astăzi, PyTorch Mobile a anunțat o nouă caracteristică prototip care acceptă NNAPI, permițând, în consecință, dezvoltatorilor să folosească inferența accelerată de hardware cu cadrul PyTorch. Această versiune inițială include suport pentru modelele bine-cunoscute de perceptron linear convoluțional și multistrat pe Android 10 și versiuni ulterioare. Testarea performanței folosind modelul MobileNetV2 arată o viteză de până la 10 ori în comparație cu un procesor cu un singur thread. Ca parte a dezvoltării către o versiune complet stabilă, actualizările viitoare vor include suport pentru suplimentare operatori și arhitecturi model, inclusiv Mask R-CNN, o populară detectare a obiectelor și segmentare a instanțelor model.
Poate că cel mai cunoscut software construit pe PyTorch este software-ul Autopilot de la Tesla. Deși anunțul de astăzi nu spune nicio știre directă pentru Autopilot, el deschide beneficiile rețele neuronale accelerate pentru milioane de utilizatori Android care folosesc software construit pe deasupra PyTorch.