NNAPI של אנדרואיד תומך כעת בהאצת חומרה עם PyTorch

למידת מכונה עיצבה את ההווה שלנו במובנים רבים שאנחנו אפילו לא שמים לב אליו יותר. משימות שבעבר היו בלתי אפשריות הפכו כעת לטריוויאליות לביצוע, מה שהופך את הטכנולוגיה והיתרונות שלה נגיש אפילו יותר לאוכלוסיה בכללותה. הרבה מזה מתאפשר באמצעות למידת מכונה במכשיר וממשק ה-API של Google Neural Networks (NNAPI). כעת, אפילו יותר משתמשים יוכלו לחוות רשתות עצביות מואצות ואת היתרונות שלהן כפי שיש לצוות אנדרואיד הכריזה על תמיכה בתכונת אב טיפוס המאפשרת למפתחים להשתמש בהסקה מואצת בחומרה עם PyTorch של פייסבוק מִסגֶרֶת.

למידת מכונה במכשיר מאפשרת למודלים של למידת מכונה לפעול באופן מקומי במכשיר ללא צורך להעביר נתונים לשרת, מה שמאפשר חביון נמוך יותר, שיפור הפרטיות ושיפור קישוריות. ה-Android Neural Networks API (NNAPI) מיועד להפעלת פעולות אינטנסיביות מבחינה חישובית עבור למידת מכונה במכשירי אנדרואיד. NNAPI מספקת סט יחיד של ממשקי API כדי ליהנות ממאיצי חומרה זמינים, כולל GPUs, DSPs ו-NPUs.

ניתן לגשת ישירות ל-NNAPI דרך API של Android C, או באמצעות מסגרות ברמה גבוהה יותר כגון

TensorFlow Lite. ולפי ההודעה של היום, PyTorch Mobile הכריזה על תכונת אב טיפוס חדשה התומכת ב-NNAPI, וכתוצאה מכך מאפשרת למפתחים להשתמש בהסקת חומרה מואצת עם מסגרת PyTorch. מהדורה ראשונית זו כוללת תמיכה בדגמי פרצפטרון ליניאריים ורב-שכבתיים ידועים ב-Android 10 ומעלה. בדיקות ביצועים באמצעות מודל MobileNetV2 מציגות מהירות של עד פי 10 בהשוואה למעבד עם חוט יחיד. כחלק מהפיתוח לקראת מהדורה יציבה מלאה, עדכונים עתידיים יכללו תמיכה בנוספים מפעילים וארכיטקטורות מודל כולל Mask R-CNN, זיהוי אובייקטים ופילוח מופעים פופולריים דֶגֶם.

אולי התוכנה המוכרת ביותר שנבנתה על גבי PyTorch היא תוכנת הטייס האוטומטי של טסלה. אמנם ההכרזה של היום אינה מאייתת חדשות ישירות עבור הטייס האוטומטי, אבל היא פותחת את היתרונות של רשתות עצביות מואצות למיליוני משתמשי אנדרואיד שמשתמשים בתוכנה הבנויה על גבי PyTorch.