L'API Neural Networks (NNAPI) d'Android prend désormais en charge l'inférence accélérée par le matériel avec le framework PyTorch de Facebook. Continuez à lire pour en savoir plus !
L'apprentissage automatique a façonné notre présent de nombreuses façons dont nous ne nous en rendons même plus compte. Des tâches qui étaient auparavant impossibles sont désormais devenues triviales à exécuter, rendant la technologie et ses avantages encore plus largement accessible au grand public. Une grande partie de cela est rendue possible grâce à l'apprentissage automatique sur l'appareil et à l'API Neural Networks de Google (NNAPI). Désormais, encore plus d'utilisateurs pourront découvrir les réseaux neuronaux accélérés et leurs avantages, comme l'a fait l'équipe Android. a annoncé la prise en charge d'un prototype de fonctionnalité permettant aux développeurs d'utiliser l'inférence accélérée par le matériel avec PyTorch de Facebook Cadre.
L'apprentissage automatique sur l'appareil permet aux modèles d'apprentissage automatique de s'exécuter localement sur l'appareil sans avoir besoin de transmettre des données à un serveur, ce qui permet une latence plus faible, une confidentialité améliorée et une amélioration connectivité. L'API Android Neural Networks (NNAPI) est conçue pour exécuter des opérations de calcul intensives pour l'apprentissage automatique sur les appareils Android. NNAPI fournit un ensemble unique d'API pour bénéficier des accélérateurs matériels disponibles, notamment les GPU, les DSP et les NPU.
NNAPI est accessible directement via une API Android C ou via des frameworks de niveau supérieur tels que TensorFlow Lite. Et selon l'annonce d'aujourd'hui, PyTorchMobile a annoncé un nouveau prototype de fonctionnalité prenant en charge NNAPI, permettant ainsi aux développeurs d'utiliser l'inférence accélérée par le matériel avec le framework PyTorch. Cette version initiale inclut la prise en charge des modèles de perceptrons convolutionnels linéaires et multicouches bien connus sur Android 10 et versions ultérieures. Les tests de performances utilisant le modèle MobileNetV2 montrent une accélération jusqu'à 10 fois par rapport à un processeur monothread. Dans le cadre du développement vers une version entièrement stable, les futures mises à jour incluront la prise en charge de fonctionnalités supplémentaires. opérateurs et architectures de modèles, notamment Mask R-CNN, un outil populaire de détection d'objets et de segmentation d'instances modèle.
Le logiciel le plus connu construit sur PyTorch est peut-être le logiciel Autopilot de Tesla. Bien que l'annonce d'aujourd'hui n'apporte aucune nouvelle directe à Autopilot, elle dévoile les avantages de réseaux neuronaux accélérés à des millions d'utilisateurs d'Android qui utilisent des logiciels construits sur PyTorch.