Android Neural Networks API (NNAPI) тепер підтримує апаратно-прискорений висновок за допомогою PyTorch Framework від Facebook. Читайте далі, щоб дізнатися більше!
Машинне навчання сформувало наше сьогодення багатьма способами, які ми вже навіть не помічаємо. Завдання, які раніше були або неможливими, тепер стали тривіальними для виконання, що робить технологію та її переваги ще більш доступним для населення в цілому. Багато з цього стало можливим завдяки машинному навчанню на пристрої та API нейронних мереж Google (NNAPI). Тепер ще більше користувачів зможуть випробувати прискорені нейронні мережі та їхні переваги, як це має команда Android оголосила про підтримку функції прототипу, яка дозволяє розробникам використовувати апаратно-прискорене логічний висновок за допомогою PyTorch від Facebook Каркас.
Машинне навчання на пристрої дозволяє запускати моделі машинного навчання локально на пристрої без нього потрібно передавати дані на сервер, що дозволяє зменшити затримку, покращити конфіденційність і покращити підключення. Android Neural Networks API (NNAPI) розроблено для виконання інтенсивних обчислювальних операцій для машинного навчання на пристроях Android. NNAPI надає єдиний набір API, щоб отримати переваги від доступних апаратних прискорювачів, включаючи GPU, DSP і NPU.
Доступ до NNAPI можна отримати безпосередньо через Android C API або через фреймворки вищого рівня, такі як TensorFlow Lite. І згідно з сьогоднішнім оголошенням, PyTorch Mobile анонсувала новий прототип функції, що підтримує NNAPI, що дозволяє розробникам використовувати апаратно-прискорене логічний висновок із інфраструктурою PyTorch. Цей початковий випуск включає підтримку добре відомих лінійних згорткових і багатошарових моделей персептронів на Android 10 і вище. Тестування продуктивності з використанням моделі MobileNetV2 показує прискорення до 10 разів порівняно з однопоточним ЦП. У рамках розробки повного стабільного випуску майбутні оновлення включатимуть підтримку додаткових оператори та архітектури моделей, включаючи Mask R-CNN, популярне виявлення об’єктів і сегментацію примірників модель.
Мабуть, найвідомішим програмним забезпеченням, створеним на основі PyTorch, є програмне забезпечення Autopilot від Tesla. Хоча сьогоднішнє оголошення не містить прямих новин для Autopilot, воно розкриває переваги прискорених нейронних мереж для мільйонів користувачів Android, які використовують програмне забезпечення, створене на основі PyTorch.