Interfejs API sieci neuronowych (NNAPI) systemu Android obsługuje teraz wnioskowanie przyspieszane sprzętowo za pomocą platformy PyTorch Framework Facebooka. Czytaj dalej, aby uzyskać więcej!
Uczenie maszynowe ukształtowało naszą teraźniejszość na wiele sposobów, których już nawet nie zauważamy. Zadania, które wcześniej były niemożliwe, stały się teraz banalne do wykonania, tworząc technologię i jej zalety jeszcze szerzej dostępne dla ogółu społeczeństwa. Wiele z nich jest możliwe dzięki uczeniu maszynowemu na urządzeniu i interfejsowi API sieci neuronowych Google (NNAPI). Teraz jeszcze więcej użytkowników będzie mogło doświadczyć przyspieszonych sieci neuronowych i ich zalet, tak jak ma to miejsce w przypadku zespołu Androida ogłosił wsparcie dla prototypowej funkcji, która umożliwia programistom korzystanie z wnioskowania przyspieszanego sprzętowo za pomocą narzędzia PyTorch Facebooka Struktura.
Uczenie maszynowe na urządzeniu umożliwia uruchamianie modeli uczenia maszynowego lokalnie na urządzeniu bez konieczności wykonywania takich czynności konieczność przesyłania danych na serwer, co pozwala na mniejsze opóźnienia, lepszą prywatność i poprawę łączność. Interfejs API sieci neuronowych systemu Android (NNAPI) jest przeznaczony do wykonywania operacji wymagających dużej mocy obliczeniowej na potrzeby uczenia maszynowego na urządzeniach z systemem Android. NNAPI zapewnia pojedynczy zestaw interfejsów API umożliwiający korzystanie z dostępnych akceleratorów sprzętowych, w tym procesorów graficznych, procesorów DSP i NPU.
Dostęp do NNAPI można uzyskać bezpośrednio poprzez interfejs API systemu Android C lub poprzez platformy wyższego poziomu, takie jak TensorFlow Lite. I zgodnie z dzisiejszym ogłoszeniem, PyTorch Mobile ogłosił nową prototypową funkcję obsługującą NNAPI, umożliwiając programistom korzystanie z wnioskowania przyspieszanego sprzętowo w środowisku PyTorch. Ta pierwsza wersja zawiera obsługę dobrze znanych liniowych i wielowarstwowych modeli perceptronów w systemie Android 10 i nowszych wersjach. Testy wydajności przy użyciu modelu MobileNetV2 wykazały nawet 10-krotne przyspieszenie w porównaniu z procesorem jednowątkowym. W ramach prac nad pełną stabilną wersją przyszłe aktualizacje będą obejmować obsługę dodatkowych operatorów i architektur modeli, w tym Mask R-CNN, popularnej metody wykrywania obiektów i segmentacji instancji Model.
Być może najbardziej znanym oprogramowaniem zbudowanym na bazie PyTorch jest oprogramowanie Autopilot Tesli. Chociaż dzisiejsze ogłoszenie nie oznacza żadnych bezpośrednich wiadomości dla Autopilota, otwiera korzyści przyspieszone sieci neuronowe milionom użytkowników Androida korzystających z oprogramowania zbudowanego na ich podstawie PyTorch.