Android'in Sinir Ağları API'si (NNAPI) artık Facebook'un PyTorch Çerçevesi ile donanım hızlandırmalı çıkarımı destekliyor. Daha fazlası için okumaya devam edin!
Makine Öğrenimi, günümüzü artık farkına bile varmadığımız birçok açıdan şekillendirdi. Daha önce imkansız olan görevlerin yerine getirilmesi artık önemsiz hale geldi; bu da teknolojiyi ve faydalarını daha da artırıyor nüfusun geneli için daha da geniş çapta erişilebilir. Bunların çoğu, cihazdaki makine öğrenimi ve Google'ın Sinir Ağları API'si (NNAPI) sayesinde mümkün oluyor. Android ekibinin yaptığı gibi, artık çok daha fazla kullanıcı hızlandırılmış sinir ağlarını ve bunların avantajlarını deneyimleyebilecek. geliştiricilerin Facebook'un PyTorch'uyla donanım hızlandırmalı çıkarımı kullanmalarına olanak tanıyan bir prototip özelliği için destek açıklandı Çerçeve.
Cihaz içi makine öğrenimi, makine öğrenimi modellerinin cihazda yerel olarak çalıştırılmasına olanak tanır. Verileri bir sunucuya iletme ihtiyacı, daha düşük gecikme süresi, gelişmiş gizlilik ve iyileştirilmiş bağlantı. Android Sinir Ağları API'si (NNAPI), Android cihazlarda makine öğrenimi için hesaplama açısından yoğun işlemleri yürütmek üzere tasarlanmıştır. NNAPI, GPU'lar, DSP'ler ve NPU'lar dahil olmak üzere mevcut donanım hızlandırıcılardan yararlanmak için tek bir API seti sağlar.
NNAPI'ye doğrudan bir Android C API aracılığıyla veya aşağıdakiler gibi daha üst düzey çerçeveler aracılığıyla erişilebilir: TensorFlow Lite. Ve bugünkü duyuruya göre, PyTorch Mobil NNAPI'yi destekleyen yeni bir prototip özelliğini duyurdu ve bunun sonucunda geliştiricilerin PyTorch çerçevesiyle donanım hızlandırmalı çıkarımı kullanmalarına olanak tanıdı. Bu ilk sürüm, Android 10 ve üzeri sürümlerde iyi bilinen doğrusal evrişimli ve çok katmanlı algılayıcı modellerine yönelik desteği içerir. MobileNetV2 modelini kullanan performans testleri, tek iş parçacıklı CPU'ya kıyasla 10 kata kadar hızlanma gösterir. Tam kararlı sürüme yönelik geliştirmenin bir parçası olarak gelecekteki güncellemeler, ek özellikler için destek içerecektir. popüler bir nesne algılama ve örnek segmentasyonu olan Mask R-CNN dahil olmak üzere operatörler ve model mimarileri modeli.
Belki de PyTorch üzerine kurulu en iyi bilinen yazılım Tesla'nın Autopilot yazılımıdır. Bugünkü duyuru Autopilot için doğrudan bir haber olmasa da, Autopilot'un faydalarını ortaya koyuyor üzerine kurulu yazılımı kullanan milyonlarca Android kullanıcısına hızlandırılmış sinir ağları PyTorch.