Android의 신경망 API(NNAPI)는 이제 Facebook의 PyTorch Framework를 통해 하드웨어 가속 추론을 지원합니다. 자세한 내용은 계속 읽어보세요!
기계 학습은 우리가 더 이상 알아차리지도 못할 정도로 우리의 현재를 다양한 방식으로 형성해 왔습니다. 이전에는 불가능했던 작업이 이제는 실행하기가 쉽지 않아 기술과 그 이점이 향상되었습니다. 일반 대중이 훨씬 더 광범위하게 접근할 수 있음. 이 중 많은 부분이 온디바이스 머신러닝과 Google의 신경망 API(NNAPI)를 통해 가능해졌습니다. 이제 더 많은 사용자들이 안드로이드 팀처럼 가속 신경망과 그 이점을 경험할 수 있을 것입니다. 개발자가 Facebook의 PyTorch에서 하드웨어 가속 추론을 사용할 수 있도록 하는 프로토타입 기능에 대한 지원을 발표했습니다. 뼈대.
온디바이스 머신 러닝을 사용하면 머신 러닝 모델이 별도의 작업 없이 기기에서 로컬로 실행될 수 있습니다. 데이터를 서버로 전송해야 하므로 대기 시간이 단축되고 개인 정보 보호가 향상되며 연결성. NNAPI(Android Neural Networks API)는 Android 기기에서 기계 학습을 위한 계산 집약적인 작업을 실행하도록 설계되었습니다. NNAPI는 GPU, DSP, NPU 등 사용 가능한 하드웨어 가속기의 이점을 활용할 수 있는 단일 API 세트를 제공합니다.
NNAPI는 Android C API를 통해 직접 액세스하거나 다음과 같은 상위 수준 프레임워크를 통해 액세스할 수 있습니다. 텐서플로우 라이트. 그리고 오늘 발표에 따르면, 파이토치 모바일 는 NNAPI를 지원하는 새로운 프로토타입 기능을 발표하여 결과적으로 개발자가 PyTorch 프레임워크에서 하드웨어 가속 추론을 사용할 수 있게 되었습니다. 이 초기 릴리스에는 Android 10 이상에서 잘 알려진 선형 컨벌루션 및 다층 퍼셉트론 모델에 대한 지원이 포함되어 있습니다. MobileNetV2 모델을 사용한 성능 테스트는 단일 스레드 CPU에 비해 최대 10배의 속도 향상을 보여줍니다. 완전한 안정 릴리스를 향한 개발의 일환으로 향후 업데이트에는 추가 기능에 대한 지원이 포함될 예정입니다. 널리 사용되는 객체 감지 및 인스턴스 분할인 Mask R-CNN을 포함한 연산자 및 모델 아키텍처 모델.
아마도 PyTorch를 기반으로 구축된 가장 잘 알려진 소프트웨어는 Tesla의 Autopilot 소프트웨어일 것입니다. 오늘의 발표는 Autopilot에 대한 직접적인 소식을 의미하지는 않지만 다음과 같은 이점을 제공합니다. 이를 기반으로 구축된 소프트웨어를 사용하는 수백만 명의 Android 사용자에게 가속 신경망을 제공합니다. 파이토치.