Android NNAPI tagad atbalsta aparatūras paātrinājumu ar PyTorch

click fraud protection

Android neironu tīklu API (NNAPI) tagad atbalsta aparatūras paātrinātu secināšanu, izmantojot Facebook PyTorch Framework. Lasiet tālāk!

Mašīnmācība daudzos veidos ir veidojusi mūsu tagadni, un mēs to vairs pat nepamanām. Uzdevumi, kas iepriekš bija vai nu neiespējami, tagad ir kļuvuši nenozīmīgi izpildāmi, padarot tehnoloģiju un tās priekšrocības vēl plašāk pieejamu iedzīvotājiem kopumā. Liela daļa no tā ir iespējama, izmantojot ierīces mašīnmācīšanos un Google neironu tīklu API (NNAPI). Tagad vēl vairāk lietotāju varēs izjust paātrinātos neironu tīklus un to priekšrocības, tāpat kā Android komanda paziņoja par atbalstu prototipa funkcijai, kas ļauj izstrādātājiem izmantot aparatūras paātrinātu secinājumu ar Facebook PyTorch Ietvars.

Mašīnmācīšanās ierīcē ļauj mašīnmācīšanās modeļiem darboties lokāli ierīcē bez nepieciešams pārsūtīt datus uz serveri, nodrošinot mazāku latentumu, uzlabotu privātumu un uzlabotu savienojamība. Android neironu tīklu API (NNAPI) ir paredzēts skaitļošanas intensīvu operāciju veikšanai mašīnmācībai Android ierīcēs. NNAPI nodrošina vienu API kopu, lai gūtu labumu no pieejamajiem aparatūras paātrinātājiem, tostarp GPU, DSP un NPU.

NNAPI var piekļūt tieši, izmantojot Android C API vai augstāka līmeņa ietvarus, piemēram, TensorFlow Lite. Un saskaņā ar šodienas paziņojumu, PyTorch Mobile ir paziņojis par jaunu prototipa līdzekli, kas atbalsta NNAPI, tādējādi ļaujot izstrādātājiem izmantot aparatūras paātrinātu secinājumu ar PyTorch sistēmu. Šajā sākotnējā laidienā ir iekļauts atbalsts labi zināmiem lineārās konvolucijas un daudzslāņu perceptronu modeļiem operētājsistēmā Android 10 un jaunākās versijās. Veiktspējas pārbaude, izmantojot MobileNetV2 modeli, parāda līdz pat 10 reizēm lielāku ātrumu, salīdzinot ar viena vītnes centrālo procesoru. Kā daļa no izstrādes uz pilnīgi stabilu laidienu, turpmākajos atjauninājumos tiks iekļauts atbalsts papildu operatori un modeļu arhitektūras, tostarp maska ​​R-CNN, populāra objektu noteikšanas un gadījumu segmentēšana modelis.

Iespējams, ka vispazīstamākā programmatūra, kas izveidota uz PyTorch, ir Tesla Autopilot programmatūra. Lai gan šodienas paziņojums nesniedz nekādas tiešas ziņas par Autopilotu, tas atklāj priekšrocības Paātrināti neironu tīkli miljoniem Android lietotāju, kuri izmanto programmatūru, kas ir izveidota uz augšu PyTorch.