API нейронных сетей Android (NNAPI) теперь поддерживает аппаратно-ускоренный вывод с помощью PyTorch Framework от Facebook. Читайте дальше!
Машинное обучение во многом сформировало наше настоящее, и мы этого уже даже не замечаем. Задачи, которые раньше были либо невозможны, теперь стали выполняться тривиально, что делает технологию и ее преимущества еще более широко доступны для населения в целом. Во многом это стало возможным благодаря машинному обучению на устройстве и API нейронных сетей Google (NNAPI). Теперь еще больше пользователей смогут испытать ускоренные нейронные сети и их преимущества, как это сделала команда Android. объявила о поддержке функции прототипа, которая позволяет разработчикам использовать аппаратно-ускоренный вывод с помощью PyTorch от Facebook. Рамки.
Машинное обучение на устройстве позволяет запускать модели машинного обучения локально на устройстве без необходимость передачи данных на сервер, что позволяет снизить задержку, улучшить конфиденциальность и улучшить возможность подключения. API нейронных сетей Android (NNAPI) предназначен для выполнения ресурсоемких операций машинного обучения на устройствах Android. NNAPI предоставляет единый набор API, позволяющий использовать доступные аппаратные ускорители, включая графические процессоры, DSP и NPU.
Доступ к NNAPI можно получить напрямую через Android C API или через платформы более высокого уровня, такие как ТензорФлоу Лайт. И согласно сегодняшнему объявлению, PyTorch Мобильная версия анонсировала новую функцию прототипа, поддерживающую NNAPI, что позволяет разработчикам использовать аппаратно-ускоренный вывод с платформой PyTorch. Этот первоначальный выпуск включает поддержку известных линейных сверточных и многослойных моделей перцептрона на Android 10 и более поздних версиях. Тестирование производительности с использованием модели MobileNetV2 показывает ускорение до 10 раз по сравнению с однопоточным процессором. В рамках разработки полной стабильной версии будущие обновления будут включать поддержку дополнительных операторы и модельные архитектуры, включая Mask R-CNN, популярное средство обнаружения объектов и сегментации экземпляров. модель.
Пожалуй, самым известным программным обеспечением, созданным на основе PyTorch, является программное обеспечение Tesla Autopilot. Хотя сегодняшнее объявление не несет в себе никаких прямых новостей для Autopilot, оно раскрывает преимущества ускоренные нейронные сети для миллионов пользователей Android, которые используют программное обеспечение, созданное на основе ПайТорч.