Το API νευρωνικών δικτύων του Android (NNAPI) υποστηρίζει πλέον εξαγωγή συμπερασμάτων με επιτάχυνση υλικού με το PyTorch Framework του Facebook. Διαβάστε για περισσότερα!
Η Μηχανική Μάθηση έχει διαμορφώσει το παρόν μας με πολλούς τρόπους που δεν το παρατηρούμε πια. Εργασίες που προηγουμένως είτε ήταν αδύνατες, έχουν γίνει πλέον ασήμαντες να εκτελεστούν, καθιστώντας την τεχνολογία και τα οφέλη της ακόμη πιο ευρέως προσβάσιμο στο ευρύτερο πληθυσμό. Πολλά από αυτά γίνονται δυνατά μέσω της μηχανικής εκμάθησης στη συσκευή και του API νευρωνικών δικτύων της Google (NNAPI). Τώρα, ακόμη περισσότεροι χρήστες θα μπορούν να βιώνουν τα επιταχυνόμενα νευρωνικά δίκτυα και τα πλεονεκτήματά τους όπως έχει η ομάδα Android ανακοίνωσε την υποστήριξη για ένα πρωτότυπο χαρακτηριστικό που επιτρέπει στους προγραμματιστές να χρησιμοποιούν εξάσκηση με επιτάχυνση υλικού με το PyTorch του Facebook Δομή.
Η μηχανική εκμάθηση στη συσκευή επιτρέπει στα μοντέλα μηχανικής εκμάθησης να εκτελούνται τοπικά στη συσκευή χωρίς ανάγκη μετάδοσης δεδομένων σε διακομιστή, επιτρέποντας χαμηλότερη καθυστέρηση, βελτιωμένο απόρρητο και βελτιωμένη συνδεσιμότητα. Το API νευρωνικών δικτύων Android (NNAPI) έχει σχεδιαστεί για την εκτέλεση υπολογιστικά εντατικών λειτουργιών για μηχανική εκμάθηση σε συσκευές Android. Το NNAPI παρέχει ένα ενιαίο σύνολο API για να επωφεληθείτε από τους διαθέσιμους επιταχυντές υλικού, συμπεριλαμβανομένων των GPU, των DSP και των NPU.
Η πρόσβαση στο NNAPI μπορεί να γίνει απευθείας μέσω ενός API Android C ή μέσω πλαισίων υψηλότερου επιπέδου, όπως π.χ TensorFlow Lite. Και σύμφωνα με σημερινή ανακοίνωση, PyTorch Mobile έχει ανακοινώσει ένα νέο πρωτότυπο χαρακτηριστικό που υποστηρίζει το NNAPI, επιτρέποντας κατά συνέπεια στους προγραμματιστές να χρησιμοποιούν εξαγωγή συμπερασμάτων με επιτάχυνση υλικού με το πλαίσιο PyTorch. Αυτή η αρχική έκδοση περιλαμβάνει υποστήριξη για γνωστά γραμμικά συνελικτικά και πολυστρωματικά μοντέλα perceptron σε Android 10 και νεότερη έκδοση. Οι δοκιμές απόδοσης με χρήση του μοντέλου MobileNetV2 εμφανίζουν έως και 10x επιτάχυνση σε σύγκριση με μια CPU με ένα νήμα. Ως μέρος της ανάπτυξης προς μια πλήρη σταθερή έκδοση, οι μελλοντικές ενημερώσεις θα περιλαμβάνουν υποστήριξη για επιπλέον χειριστές και αρχιτεκτονικές μοντέλων, συμπεριλαμβανομένου του Mask R-CNN, ενός δημοφιλούς εντοπισμού αντικειμένων και τμηματοποίησης παρουσιών μοντέλο.
Ίσως το πιο γνωστό λογισμικό που έχει κατασκευαστεί πάνω από το PyTorch είναι το λογισμικό Autopilot της Tesla. Αν και η σημερινή ανακοίνωση δεν σημαίνει άμεσες ειδήσεις για τον αυτόματο πιλότο, ανοίγει τα πλεονεκτήματα του επιταχυνόμενα νευρωνικά δίκτυα σε εκατομμύρια χρήστες Android που χρησιμοποιούν λογισμικό που είναι χτισμένο πάνω από PyTorch.