Az Android Neural Networks API (NNAPI) mostantól támogatja a hardveresen gyorsított következtetést a Facebook PyTorch Framework segítségével. Olvasson tovább!
A gépi tanulás sokféleképpen alakította jelenünket, hogy már észre sem vesszük. Azok a feladatok, amelyek korábban vagy lehetetlenek voltak, mára triviálissá váltak, így a technológia és előnyei még szélesebb körben elérhető a lakosság számára. Ennek nagy részét az eszközön történő gépi tanulás és a Google Neural Networks API (NNAPI) teszi lehetővé. Mostantól még több felhasználó tapasztalhatja meg a gyorsított neurális hálózatokat és azok előnyeit, ahogy az Android csapata bejelentette, hogy támogatja a prototípus funkciót, amely lehetővé teszi a fejlesztők számára, hogy hardveresen gyorsított következtetéseket alkalmazzanak a Facebook PyTorch-jával Keretrendszer.
Az eszközön történő gépi tanulás lehetővé teszi a gépi tanulási modellek helyi futtatását az eszközön anélkül adatokat kell továbbítania egy szerverre, ami alacsonyabb késleltetést, jobb adatvédelmet és jobb adatvédelmet tesz lehetővé csatlakoztathatóság. Az Android Neural Networks API (NNAPI) számításigényes műveletek futtatására szolgál gépi tanuláshoz Android-eszközökön. Az NNAPI egyetlen API-készletet biztosít a rendelkezésre álló hardveres gyorsítók előnyeinek kihasználásához, beleértve a GPU-kat, a DSP-ket és az NPU-kat.
Az NNAPI közvetlenül elérhető egy Android C API-n keresztül, vagy magasabb szintű keretrendszereken keresztül, mint pl TensorFlow Lite. És a mai bejelentés szerint PyTorch Mobile bejelentette az NNAPI-t támogató új prototípus-szolgáltatást, amely lehetővé teszi a fejlesztők számára, hogy hardveresen gyorsított következtetéseket alkalmazzanak a PyTorch keretrendszerrel. Ez a kezdeti kiadás támogatja a jól ismert lineáris konvolúciós és többrétegű perceptron modelleket Android 10 és újabb rendszereken. A MobileNetV2 modellt használó teljesítményteszt akár 10-szeres sebességet mutat az egyszálú CPU-hoz képest. A teljesen stabil kiadás felé irányuló fejlesztés részeként a jövőbeni frissítések további támogatást is tartalmaznak majd operátorok és modellarchitektúrák, köztük a Mask R-CNN, egy népszerű objektumészlelés és példányszegmentálás modell.
Talán a PyTorch tetejére épített legismertebb szoftver a Tesla Autopilot szoftvere. Bár a mai bejelentés nem jelent közvetlen hírt az Autopilot számára, megnyitja annak előnyeit gyorsított neurális hálózatokat több millió Android-felhasználó számára, akik azokra épített szoftvereket használnak PyTorch.