Android-ის NNAPI ახლა მხარს უჭერს აპარატურის აჩქარებას PyTorch-ით

click fraud protection

Android-ის ნერვული ქსელების API (NNAPI) ახლა მხარს უჭერს აპარატურის დაჩქარებულ დასკვნებს Facebook-ის PyTorch Framework-ით. წაიკითხეთ მეტი!

მანქანათმცოდნეობამ მრავალი გზა მოახდინა ჩვენი აწმყოს ფორმირებაში, რომელსაც ჩვენ ვეღარც კი ვამჩნევთ. ამოცანები, რომლებიც ადრე ან შეუძლებელი იყო, ახლა უკვე ტრივიალური გახდა, რაც ტექნოლოგიას და მის სარგებელს ხდის კიდევ უფრო ფართოდ ხელმისაწვდომი მოსახლეობისთვის. ბევრი რამ შესაძლებელი გახდა მოწყობილობაზე მანქანური სწავლისა და Google-ის ნერვული ქსელების API (NNAPI) მეშვეობით. ახლა, კიდევ უფრო მეტ მომხმარებელს შეეძლება განიცადოს დაჩქარებული ნერვული ქსელები და მათი უპირატესობები, როგორც აქვს Android-ის გუნდს გამოაცხადა მხარდაჭერა პროტოტიპის ფუნქციისთვის, რომელიც დეველოპერებს საშუალებას აძლევს გამოიყენონ ტექნიკით დაჩქარებული დასკვნა Facebook-ის PyTorch-ით ჩარჩო.

მოწყობილობაზე მანქანური სწავლება საშუალებას აძლევს მანქანათმცოდნეობის მოდელებს ადგილობრივად იმუშაონ მოწყობილობაზე მის გარეშე საჭიროებს მონაცემთა სერვერზე გადაცემას, რაც საშუალებას იძლევა უფრო დაბალი შეყოვნება, გაუმჯობესებული კონფიდენციალურობა და გაუმჯობესებული კავშირი. Android Neural Networks API (NNAPI) შექმნილია გამოთვლითი ინტენსიური ოპერაციების გასაშვებად მანქანური სწავლისთვის Android მოწყობილობებზე. NNAPI უზრუნველყოფს API-ების ერთ კომპლექტს, რათა ისარგებლოს ხელმისაწვდომი ტექნიკის ამაჩქარებლებით, მათ შორის GPU, DSP და NPU.

NNAPI-ზე წვდომა შესაძლებელია პირდაპირ Android C API-ის მეშვეობით, ან უფრო მაღალი დონის ჩარჩოების მეშვეობით, როგორიცაა TensorFlow Lite. და დღევანდელი განცხადების მიხედვით, PyTorch მობილური გამოაცხადა ახალი პროტოტიპის ფუნქცია, რომელიც მხარს უჭერს NNAPI-ს, რაც დეველოპერებს საშუალებას აძლევს გამოიყენონ ტექნიკით დაჩქარებული დასკვნა PyTorch ჩარჩოში. ეს თავდაპირველი გამოშვება მოიცავს კარგად ცნობილი ხაზოვანი კონვოლუციური და მრავალშრიანი პერცეპტრონის მოდელების მხარდაჭერას Android 10 და ზემოთ. ეფექტურობის ტესტირება MobileNetV2 მოდელის გამოყენებით აჩვენებს 10-ჯერ სიჩქარეს ერთ ხრახნიან CPU-სთან შედარებით. როგორც სრული სტაბილური გამოშვების განვითარების ნაწილი, მომავალი განახლებები მოიცავს დამატებით მხარდაჭერას ოპერატორები და მოდელის არქიტექტურები, მათ შორის Mask R-CNN, პოპულარული ობიექტების ამოცნობა და მაგალითების სეგმენტაცია მოდელი.

ალბათ ყველაზე ცნობილი პროგრამული უზრუნველყოფა, რომელიც აშენებულია PyTorch-ზე, არის Tesla-ს Autopilot პროგრამული უზრუნველყოფა. მიუხედავად იმისა, რომ დღევანდელი განცხადება არ წერს რაიმე პირდაპირ სიახლეს ავტოპილოტისთვის, ის ხსნის უპირატესობებს დაჩქარებული ნერვული ქსელები Android-ის მილიონობით მომხმარებლისთვის, რომლებიც იყენებენ პროგრამულ უზრუნველყოფას, რომელიც აგებულია ზემოთ PyTorch.