La API de redes neuronales (NNAPI) de Android ahora admite la inferencia acelerada por hardware con el marco PyTorch de Facebook. ¡Siga leyendo para obtener más información!
El aprendizaje automático ha dado forma a nuestro presente de muchas maneras que ya ni siquiera lo notamos. Tareas que antes eran imposibles ahora se han vuelto triviales de ejecutar, lo que hace que la tecnología y sus beneficios aún más accesible para la población en general. Mucho de esto es posible gracias al aprendizaje automático en el dispositivo y a la API de redes neuronales (NNAPI) de Google. Ahora, aún más usuarios podrán experimentar las redes neuronales aceleradas y sus beneficios como lo ha hecho el equipo de Android. anunció soporte para una característica prototipo que permite a los desarrolladores usar inferencia acelerada por hardware con PyTorch de Facebook Estructura.
El aprendizaje automático en el dispositivo permite que los modelos de aprendizaje automático se ejecuten localmente en el dispositivo sin necesidad de transmitir datos a un servidor, lo que permite una latencia más baja, una mayor privacidad y una mejor conectividad. La API de redes neuronales de Android (NNAPI) está diseñada para ejecutar operaciones computacionales intensivas para el aprendizaje automático en dispositivos Android. NNAPI proporciona un único conjunto de API para beneficiarse de los aceleradores de hardware disponibles, incluidas GPU, DSP y NPU.
Se puede acceder a NNAPI directamente a través de una API de Android C o mediante marcos de trabajo de nivel superior como TensorFlow Lite. Y según el anuncio de hoy, PyTorch Móvil ha anunciado una nueva función prototipo que admite NNAPI, lo que permite a los desarrolladores utilizar la inferencia acelerada por hardware con el marco PyTorch. Esta versión inicial incluye compatibilidad con modelos de perceptrones multicapa y convolucionales lineales conocidos en Android 10 y versiones posteriores. Las pruebas de rendimiento utilizando el modelo MobileNetV2 muestran una aceleración de hasta 10 veces en comparación con una CPU de un solo subproceso. Como parte del desarrollo hacia una versión completamente estable, las actualizaciones futuras incluirán soporte para funciones adicionales. Operadores y arquitecturas de modelos, incluida Mask R-CNN, una popular detección de objetos y segmentación de instancias. modelo.
Quizás el software más conocido creado sobre PyTorch sea el software Autopilot de Tesla. Si bien el anuncio de hoy no significa ninguna novedad directa para Autopilot, sí abre los beneficios de redes neuronales aceleradas para millones de usuarios de Android que utilizan software creado sobre PyTorch.