NNAPI ของ Android รองรับการเร่งด้วยฮาร์ดแวร์ด้วย PyTorch แล้ว

click fraud protection

Neural Networks API (NNAPI) ของ Android รองรับการอนุมานแบบเร่งด้วยฮาร์ดแวร์ด้วย PyTorch Framework ของ Facebook อ่านต่อ!

แมชชีนเลิร์นนิงได้หล่อหลอมปัจจุบันของเราในหลาย ๆ ด้านโดยที่เราไม่ทันสังเกตเห็นอีกต่อไป งานที่เมื่อก่อนทำไม่ได้ก็กลายเป็นเรื่องไม่สำคัญในการดำเนินการ ทำให้เกิดเทคโนโลยีและประโยชน์ของเทคโนโลยี เข้าถึงประชาชนในวงกว้างมากยิ่งขึ้น. สิ่งต่างๆ มากมายเกิดขึ้นได้ผ่านการเรียนรู้ของเครื่องบนอุปกรณ์และ Neural Networks API (NNAPI) ของ Google ขณะนี้ ผู้ใช้จำนวนมากขึ้นจะได้สัมผัสกับโครงข่ายประสาทเทียมที่เร่งความเร็วและประโยชน์ที่ได้รับเช่นเดียวกับทีม Android ประกาศสนับสนุนคุณสมบัติต้นแบบที่ช่วยให้นักพัฒนาสามารถใช้การอนุมานแบบเร่งด้วยฮาร์ดแวร์กับ PyTorch ของ Facebook กรอบ.

การเรียนรู้ของเครื่องบนอุปกรณ์ช่วยให้โมเดลการเรียนรู้ของเครื่องทำงานภายในอุปกรณ์ได้โดยไม่ต้อง จำเป็นต้องส่งข้อมูลไปยังเซิร์ฟเวอร์ เพื่อลดเวลาแฝง ปรับปรุงความเป็นส่วนตัว และปรับปรุง การเชื่อมต่อ Android Neural Networks API (NNAPI) ได้รับการออกแบบมาเพื่อใช้งานการประมวลผลที่เข้มข้นสำหรับแมชชีนเลิร์นนิงบนอุปกรณ์ Android NNAPI จัดเตรียม API ชุดเดียวเพื่อรับประโยชน์จากตัวเร่งฮาร์ดแวร์ที่มีอยู่ รวมถึง GPU, DSP และ NPU

NNAPI สามารถเข้าถึงได้โดยตรงผ่าน Android C API หรือผ่านเฟรมเวิร์กระดับที่สูงกว่าเช่น TensorFlow Lite. และตามประกาศในวันนี้ PyTorch มือถือ ได้ประกาศฟีเจอร์ต้นแบบใหม่ที่รองรับ NNAPI ซึ่งช่วยให้นักพัฒนาสามารถใช้การอนุมานแบบเร่งด้วยฮาร์ดแวร์กับเฟรมเวิร์ก PyTorch การเปิดตัวครั้งแรกนี้รองรับโมเดล Perceptron แบบเชิงเส้นและแบบหลายชั้นที่รู้จักกันดีใน Android 10 ขึ้นไป การทดสอบประสิทธิภาพโดยใช้รุ่น MobileNetV2 จะแสดงความเร็วได้สูงสุดถึง 10 เท่า เมื่อเทียบกับ CPU แบบเธรดเดียว ในฐานะที่เป็นส่วนหนึ่งของการพัฒนาสู่เวอร์ชันเสถียรเต็มรูปแบบ การอัปเดตในอนาคตจะรวมการสนับสนุนเพิ่มเติมไว้ด้วย ตัวดำเนินการและสถาปัตยกรรมโมเดล รวมถึง Mask R-CNN ซึ่งเป็นการตรวจจับวัตถุยอดนิยมและการแบ่งส่วนอินสแตนซ์ แบบอย่าง.

บางทีซอฟต์แวร์ที่มีชื่อเสียงที่สุดที่สร้างขึ้นบน PyTorch ก็คือซอฟต์แวร์ Autopilot ของ Tesla แม้ว่าการประกาศในวันนี้จะไม่ได้กล่าวถึงข่าวโดยตรงสำหรับ Autopilot แต่ก็เปิดกว้างถึงประโยชน์ของ เร่งโครงข่ายประสาทเทียมให้กับผู้ใช้ Android หลายล้านคนที่ใช้ซอฟต์แวร์ที่สร้างขึ้นจากด้านบน ไพทอร์ช.