NNAPI Android sekarang mendukung akselerasi perangkat keras dengan PyTorch

click fraud protection

Neural Networks API (NNAPI) Android kini mendukung inferensi yang dipercepat perangkat keras dengan PyTorch Framework milik Facebook. Baca terus untuk mengetahui lebih lanjut!

Pembelajaran Mesin telah membentuk masa kini kita dalam banyak cara sehingga kita bahkan tidak menyadarinya lagi. Tugas-tugas yang sebelumnya tidak mungkin kini menjadi hal yang sepele untuk dilakukan, menjadikan teknologi dan manfaatnya bahkan lebih mudah diakses oleh masyarakat luas. Sebagian besar hal ini dimungkinkan melalui pembelajaran mesin pada perangkat dan API Jaringan Neural Google (NNAPI). Kini, semakin banyak pengguna yang dapat merasakan jaringan saraf yang dipercepat dan manfaatnya seperti yang dimiliki tim Android mengumumkan dukungan untuk fitur prototipe yang memungkinkan pengembang menggunakan inferensi yang dipercepat perangkat keras dengan PyTorch Facebook Kerangka.

Pembelajaran mesin di perangkat memungkinkan model pembelajaran mesin berjalan secara lokal di perangkat tanpa perlu mengirimkan data ke server, memungkinkan latensi lebih rendah, privasi lebih baik, dan lebih baik konektivitas. Android Neural Networks API (NNAPI) dirancang untuk menjalankan operasi komputasi intensif untuk pembelajaran mesin di perangkat Android. NNAPI menyediakan satu set API untuk memanfaatkan akselerator perangkat keras yang tersedia termasuk GPU, DSP, dan NPU.

NNAPI dapat diakses langsung melalui Android C API, atau melalui kerangka kerja tingkat yang lebih tinggi seperti TensorFlow Lite. Dan sesuai pengumuman hari ini, Ponsel PyTorch telah mengumumkan fitur prototipe baru yang mendukung NNAPI, sehingga memungkinkan pengembang untuk menggunakan inferensi yang dipercepat perangkat keras dengan kerangka PyTorch. Rilis awal ini mencakup dukungan untuk model perceptron konvolusional linier dan multilapis yang terkenal di Android 10 dan yang lebih baru. Pengujian kinerja menggunakan model MobileNetV2 menunjukkan peningkatan kecepatan hingga 10x dibandingkan dengan CPU single-threaded. Sebagai bagian dari pengembangan menuju rilis stabil penuh, pembaruan di masa mendatang akan mencakup dukungan tambahan operator dan arsitektur model termasuk Mask R-CNN, deteksi objek dan segmentasi instance yang populer model.

Mungkin perangkat lunak paling terkenal yang dibangun di atas PyTorch adalah perangkat lunak Autopilot Tesla. Meskipun pengumuman hari ini tidak berarti berita langsung apa pun tentang Autopilot, hal ini membuka manfaatnya mempercepat jaringan saraf ke jutaan pengguna Android yang menggunakan perangkat lunak yang dibangun di atasnya PyTorch.