क्वालकॉम का हेक्सागोन 685 डीएसपी एक मशीन लर्निंग पावरहाउस है

click fraud protection

क्वालकॉम का स्नैपड्रैगन 845 एक शक्तिशाली मशीन लर्निंग चिप से लैस है। इसे हेक्सागोन 685 डीएसपी कहा जाता है, और यह एआई हार्डवेयर में एक बड़ा कदम है।

स्नैपड्रैगन 845 - क्वालकॉम के स्नैपड्रैगन परिवार में नवीनतम सिस्टम-ऑन-चिप - प्रोसेसर का एक पावरहाउस है। इसमें तेज़ सीपीयू कोर, तीसरी पीढ़ी का स्पेक्ट्रा इमेज सिग्नल प्रोसेसर (आईएसपी) और एक आर्किटेक्चर है जो पिछली पीढ़ी की तुलना में 30 प्रतिशत अधिक बिजली-कुशल है। लेकिन यकीनन इसका सबसे प्रभावशाली घटक एक सह-प्रोसेसर है - हेक्सागोन 685 डीएसपी - जो कृत्रिम बुद्धिमत्ता और मशीन लर्निंग के लिए तैयार किया गया है।

क्वालकॉम का हेक्सागोन 685 डीएसपी क्या खास बनाता है?

स्नैपड्रैगन 835 में हेक्सागोन डीएसपी आर्किटेक्चर। स्रोत: क्वालकॉम

"वेक्टर गणित गहन शिक्षा की नींव है।" - ट्रैविस लैनियर, क्वालकॉम में उत्पाद प्रबंधन के वरिष्ठ निदेशक

यह समझने के लिए कि हेक्सागोन डीएसपी को इतना अनोखा क्या बनाता है, यह जानने में मदद मिलती है कि एआई उस तरह के गणित से प्रेरित है जिससे कॉलेज इंजीनियरिंग के प्रमुख अच्छी तरह से परिचित हैं। मशीन लर्निंग में बड़े वैक्टर के साथ गणना शामिल है, जो स्मार्टफोन, टैबलेट और पीसी प्रोसेसर के लिए एक चुनौती है। सामान्य प्रयोजन के चिप्स के लिए स्टोकेस्टिक ग्रेडिएंट डिसेंट जैसे एल्गोरिदम की गणना करना कठिन है - एल्गोरिदम के प्रकार जो एआई-संचालित ऐप्स के मूल में हैं - जल्दी और कुशलता से। क्वालकॉम के हेक्सागोन डीएसपी को आंशिक रूप से इसे हल करने के लिए पेश किया गया था: यह छवि और सेंसर डेटा, विशेष रूप से फोटोग्राफी को संभालने में बहुत अच्छा है।

लेकिन हेक्सागोन डीएसपी सेल्फी को आकर्षक बनाने के अलावा और भी बहुत कुछ करने में सक्षम है। शामिल एचवीएक्स संदर्भ (उन पर बाद में अधिक) इसे सामान्य प्रयोजन प्रोसेसर और फिक्स्ड-फंक्शन कोर दोनों का लाभ देते हैं; हेक्सागोन 685 डीएसपी ऑन-डिवाइस मशीन-लर्निंग के पीछे के गणित की गणना करने में अत्यधिक कुशल है, लेकिन अधिक प्रोग्राम योग्य प्रोसेसर के लचीलेपन को बरकरार रखता है।

हेक्सागोन 685 डीएसपी जैसे एआई चिप्स, जिन्हें कभी-कभी "न्यूरल प्रोसेसिंग यूनिट" भी कहा जाता है। "न्यूरल इंजन", या "मशीन लर्निंग कोर", विशेष रूप से एआई एल्गोरिदम के गणितीय अनुरूप हैं जरूरत है. वे पारंपरिक सीपीयू की तुलना में डिजाइन में अधिक कठोर हैं, और उनमें विशेष निर्देश और व्यवस्थाएं हैं (हेक्सागोन 685 डीएसपी के मामले में, उपर्युक्त एचवीएक्स आर्किटेक्चर) जो कुछ स्केलर और वेक्टर ऑपरेशनों को तेज करता है, जो बड़े पैमाने पर ध्यान देने योग्य हो जाते हैं कार्यान्वयन.

स्नैपड्रैगन 845 का हेक्सागोन 685 डीएसपी औसत सीपीयू कोर के प्रति चक्र सैकड़ों बिट्स की तुलना में प्रति प्रसंस्करण चक्र में हजारों बिट्स वेक्टर इकाइयों को संभाल सकता है। वह डिज़ाइन के अनुसार है। वेरी लॉन्ग इंस्ट्रक्शन वर्ड (वीएलआईडब्ल्यू) संचालन और एकाधिक एचवीएक्स संदर्भों के लिए चार समानांतर स्केलर थ्रेड के साथ, डीएसपी है एक ही निर्देश पर एकाधिक निष्पादन इकाइयों को संयोजित करने और पूर्णांक और निश्चित-बिंदु दशमलव के माध्यम से चमकने में सक्षम परिचालन.

कच्चे मेगाहर्ट्ज के माध्यम से प्रदर्शन को आगे बढ़ाने के बजाय, हेक्सागोन 685 के डिज़ाइन का लक्ष्य कम घड़ी की गति पर प्रति चक्र उच्च स्तर का काम करना है। इसमें हार्डवेयर मल्टी-थ्रेडिंग शामिल है जो वीएलआईडब्ल्यू के लिए अच्छी तरह से काम करता है, क्योंकि मल्टी-थ्रेडिंग पाइपलाइन विलंबता को छुपाता है जो वीएलआईडब्ल्यू पैकेट के बेहतर उपयोग को सक्षम बनाता है। डीएसपी की मल्टी-थ्रेडिंग का मतलब है कि यह कई ऑफलोड सत्रों की सेवा कर सकता है - यानी, ऑडियो, कैमरा के लिए समवर्ती ऐप्स, कंप्यूटर विज़न, और इसी तरह - और विभिन्न कार्यों को एक साथ तेज करता है, जिससे अनुप्रयोगों को संघर्ष करने से रोका जा सके निष्पादन समय।

स्रोत: क्वालकॉम

लेकिन वे हेक्सागोन डीएसपी की एकमात्र ताकत नहीं हैं। इसका इंस्ट्रक्शन सेट आर्किटेक्चर (आईएसए) पारंपरिक वीएलआईडब्ल्यू की तुलना में बेहतर दक्षता का दावा करता है बेहतर नियंत्रण कोड, और यह निष्क्रिय और रुके हुए प्रदर्शन को पुनर्प्राप्त करने के लिए चतुर तरकीबें नियोजित करता है धागे. यह शून्य-विलंबता राउंड-रॉबिन थ्रेड शेड्यूलिंग को भी लागू करता है, जिसका अर्थ है कि डीएसपी के थ्रेड पिछले डेटा पैकेट को पूरा करने के तुरंत बाद नए निर्देशों को संसाधित करते हैं।

स्रोत: क्वालकॉम

स्पष्ट होने के लिए इनमें से कुछ भी नया नहीं है। क्वालकॉम ने 'पहली पीढ़ी' (या उचित) हेक्सागोन डीएसपी - हेक्सागोन 680, या क्यूडीएसपी6 वी6 - पेश किया। 2015 में स्नैपड्रैगन 820 के साथ, और हेक्सागोन 680 के बाद कभी-कभी थोड़ा सुधार हुआ षट्कोण 682. लेकिन नवीनतम पीढ़ी अब तक की सबसे परिष्कृत है, और स्नैपड्रैगन 835 के डीएसपी के समग्र प्रदर्शन से तीन गुना अधिक है।

यह काफी हद तक एचवीएक्स को धन्यवाद है, जिसने इमेज प्रोसेसिंग (संवर्धित वास्तविकता, कंप्यूटर विज़न, वीडियो और चित्रों के बारे में सोचें) के लिए बहुत अच्छा काम किया। डीएसपी के एचवीएक्स रजिस्टरों को स्केलर रजिस्टरों में से किसी भी दो द्वारा नियंत्रित किया जा सकता है, और एचवीएक्स इकाइयों और स्केलर इकाइयों का एक साथ उपयोग किया जा सकता है, जिसके परिणामस्वरूप पर्याप्त प्रदर्शन लाभ और समवर्तीता प्राप्त होती है।

यहाँ है क्वालकॉम का स्पष्टीकरण:

“मान लीजिए कि आप मोबाइल सीपीयू पर नियंत्रण कोड मोड में प्रसंस्करण कर रहे हैं और आप सहप्रोसेसर पर कम्प्यूटेशनल मोड पर स्विच करते हैं। यदि आपको किसी नियंत्रण कोड की आवश्यकता है, तो आपको रुकना होगा और सहप्रोसेसर से मुख्य सीपीयू पर वापस जाना होगा। हेक्सागोन के साथ, डीएसपी पर नियंत्रण कोड प्रोसेसर और एचवीएक्स पर कम्प्यूटेशनल कोड प्रोसेसर दोनों नियंत्रण और कम्प्यूटेशनल कोड के मजबूत युग्मन के लिए एक ही समय में चल सकते हैं। यह डीएसपी को एचवीएक्स गणना का परिणाम लेने और अगले घड़ी चक्र में नियंत्रण कोड निर्णय में इसका उपयोग करने की अनुमति देता है।

एचवीएक्स इमेज सेंसर प्रोसेसिंग में एक और बड़ा लाभ प्रदान करता है। हेक्सागोन 685 डीएसपी के साथ स्नैपड्रैगन डिवाइस डिवाइस के डीडीआर मेमोरी कंट्रोलर को दरकिनार करते हुए इमेजिंग सेंसर से सीधे डीएसपी की स्थानीय मेमोरी (एल 2 कैश) में डेटा स्ट्रीम कर सकते हैं। यह निश्चित रूप से विलंबता को कम करता है, लेकिन बैटरी जीवन में भी सुधार करता है - स्नैपड्रैगन प्रोसेसर को पूरे ऑपरेशन के दौरान निष्क्रिय रहने के लिए डिज़ाइन किया गया है।

इसे विशेष रूप से 16-बिट फ़्लोटिंग पॉइंट नेटवर्क के लिए अनुकूलित किया गया है, और क्वालकॉम के मशीन लर्निंग सॉफ़्टवेयर द्वारा नियंत्रित किया गया है: स्नैपड्रैगन न्यूरल प्रोसेसिंग इंजन।

क्वालकॉम के एक प्रवक्ता ने कहा, "हमने इसे बहुत गंभीरता से लिया है।" "हम पिछले तीन वर्षों से भागीदारों के साथ काम कर रहे हैं ताकि वे एआई और इमेजिंग के लिए हमारे सिलिकॉन का उपयोग कर सकें।"

उन साझेदारों में Google शामिल है, जिसने उदाहरण के लिए, Pixel और Pixel 2 के HDR+ एल्गोरिदम को पावर देने के लिए हेक्सागोन DSP के इमेज-प्रोसेसिंग भाग का उपयोग किया। जबकि Google ने अपना स्वयं का पिक्सेल कोर भी पेश किया है, यह ध्यान देने योग्य है कि हेक्सागोन 685 डीएसपी-सक्षम डिवाइस हैं जो प्रसिद्ध Google कैमरा पोर्ट के साथ सर्वोत्तम परिणाम देखते हैं, आंशिक रूप से HVX के कारण (जैसा कि हमने पुष्टि की है)। उपयोग. फेसबुक, एक अन्य भागीदार, ने मैसेंजर के रीयल-टाइम कैमरा फिल्टर और प्रभावों को तेज करने के लिए क्वालकॉम के साथ मिलकर काम किया।

ओप्पो ने हेक्सागोन 685 डीएसपी के लिए अपनी फेस अनलॉक तकनीक को अनुकूलित किया है, और लेनोवो ने इसके आसपास अपना लैंडमार्क डिटेक्शन फीचर विकसित किया है।

प्लेटफ़ॉर्म के प्रचुर समर्थन का एक कारण इसकी सादगी है। क्वालकॉम का व्यापक हेक्सागोन एसडीके उच्च-प्रदर्शन छवि प्रसंस्करण के लिए हैलाइड भाषा का समर्थन करता है, और इसकी कोई आवश्यकता नहीं है मशीन लर्निंग प्रशिक्षण ढांचे के बारे में चिंता करने के लिए - एक मॉडल को लागू करना अधिकांश में एपीआई कॉल करने जितना ही सरल है मामले.

क्वालकॉम ने एक्सडीए डेवलपर्स को बताया, "हम आईबीएम और एनवीडिया जैसे एआई के साथ प्रतिस्पर्धा नहीं कर रहे हैं, लेकिन हमारे पास ऐसे क्षेत्र हैं जिनका डेवलपर्स फायदा उठा सकते हैं - और पहले से ही हैं।"

षट्कोण बनाम प्रतियोगिता

स्नैपड्रैगन 845 का हेक्सागोन 685 डीएसपी मूल उपकरण निर्माताओं (ओईएम) की बढ़ती संख्या के रूप में आता है जो अपने स्वयं के मोबाइल और ऑन-डिवाइस एआई समाधान अपनाते हैं। हुआवेई का किरिन 970 - सिस्टम-ऑन-चिप के अंदर दोस्त 10 और मेट 10 प्रो - इसमें एक "न्यूरल प्रोसेसिंग यूनिट" (एनपीयू) है जो कथित तौर पर एक औसत स्मार्टफोन सीपीयू की बिजली खपत के केवल 1/50वें हिस्से पर प्रति सेकंड 2,000 से अधिक छवियों को पहचान सकती है। और iPhone 8, iPhone 8 Plus और iPhone X में Apple A11 बायोनिक सिस्टम-ऑन-चिप में एक "न्यूरल इंजन" है जो वास्तविक समय में चेहरे की मॉडलिंग और प्रति सेकंड 600 बिलियन ऑपरेशन करता है।

लेकिन क्वालकॉम का कहना है कि हेक्सागोन का प्लेटफ़ॉर्म अज्ञेयवाद इसे एक फायदा देता है। ऐप्पल और हुआवेई के विपरीत, जो बड़े पैमाने पर डेवलपर्स को मालिकाना एपीआई का उपयोग करने के लिए मजबूर करते हैं, क्वालकॉम ने शुरू से ही कुछ सबसे लोकप्रिय ओपन-सोर्स फ्रेमवर्क का समर्थन करने की मांग की। उदाहरण के लिए, इसने अनुकूलन के लिए Google के साथ काम किया टेंसरफ़्लोहेक्सागोन 685 डीएसपी के लिए, Google का मशीन लर्निंग प्लेटफॉर्म - क्वालकॉम का कहना है कि यह गैर-हेक्सागोन उपकरणों की तुलना में आठ गुना तेज और 25 गुना अधिक बिजली-कुशलता से चलता है।

स्रोत: क्वालकॉम

क्वालकॉम के डीएसपी आर्किटेक्चर पर, Google का GoogLeNet इंसेप्शन डीप न्यूरल नेटवर्क - ऑब्जेक्ट डिटेक्शन और वर्गीकरण सिस्टम की गुणवत्ता का आकलन करने के लिए डिज़ाइन किया गया एक मशीन लर्निंग एल्गोरिदम - एक डेमो शो में लाभ प्रदर्शित किया गया दो स्मार्टफ़ोन पर एक TensorFlow-संचालित छवि पहचान ऐप: एक जो ऐप को CPU पर चलाता है, और दूसरा जो इसे क्वालकॉम के हेक्सागोन पर चलाता है डी.एस.पी. डीएसपी-त्वरित स्मार्टफोन ऐप ने प्रति सेकंड अधिक छवियां कैप्चर कीं, वस्तुओं की तेजी से पहचान की, और केवल सीपीयू ऐप की तुलना में ऑब्जेक्ट क्या था, इसके निष्कर्ष पर अधिक विश्वास था।

Google स्मार्टफ़ोन के लिए अपने संवर्धित वास्तविकता प्लेटफ़ॉर्म प्रोजेक्ट टैंगो को गति देने के लिए हेक्सागोन 685 DSP का भी उपयोग करता है। लेनोवो का फैब 2 प्रो, आसुस का ज़ेनफोन एआर, और टैंगो के डेप्थ-सेंसिंग आईआर मॉड्यूल और इमेज-ट्रैकिंग कैमरे वाले अन्य डिवाइस क्वालकॉम का लाभ उठाते हैं। विषम प्रसंस्करण वास्तुकला, जो स्नैपड्रैगन चिपसेट के हेक्सागोन 685 डीएसपी, सेंसर हब और छवि सिग्नल के बीच प्रसंस्करण कार्यों को सौंपता है प्रोसेसर (आईएसपी)। क्वालकॉम के अनुसार, परिणाम सिस्टम-ऑन-चिप के सीपीयू पर "10 प्रतिशत से कम" ओवरहेड है।

क्वालकॉम के एक प्रवक्ता ने कहा, "जहाँ तक हम जानते हैं, हम अकेले ऐसे मोबाइल लोग हैं जो प्रदर्शन और बिजली दक्षता के लिए अनुकूलन कर रहे हैं।"

बेशक, प्रतिस्पर्धी भी अपने प्रभाव क्षेत्र का विस्तार करने और अपने प्लेटफार्मों पर डेवलपर समर्थन को बढ़ावा देने के लिए काम कर रहे हैं। किरिन 970 की न्यूरल चिप को TensorFlow के समर्थन के साथ लॉन्च किया गया Caffè (फेसबुक का ओपन एपीआई फ्रेमवर्क) हुआवेई के किरिन एपीआई के अलावा टेन्सरफ्लो लाइट और कैफ़े2 इस वर्ष के अंत में एकीकरण होने वाला है। और हुआवेई ने मेट 10 के लिए अपने एआई-संचालित अनुवादक को अनुकूलित करने के लिए माइक्रोसॉफ्ट के साथ काम किया।

लेकिन क्वालकॉम का एक और फायदा है: पहुंच। स्ट्रैटेजी एनालिटिक्स के अनुसार, चिप निर्माता ने 2017 की पहली छमाही में स्मार्टफोन चिप बाजार में 42 प्रतिशत हिस्सेदारी हासिल की, इसके बाद 18 प्रतिशत हिस्सेदारी के साथ एप्पल और मीडियाटेक का स्थान रहा। यह कहना पर्याप्त है, यह अभी तक अपने जूते में नहीं हिल रहा है।

और क्वालकॉम का अनुमान है कि यह केवल बढ़ेगा। चिप निर्माता ने कंप्यूटर विज़न जैसी AI सॉफ़्टवेयर प्रौद्योगिकियों के साथ 2025 तक $160 बिलियन का राजस्व प्राप्त करने का अनुमान लगाया है। स्मार्टफोन बाजार को - जिसके 2021 तक 8.6 बिलियन यूनिट शिपमेंट तक पहुंचने की उम्मीद है - सबसे बड़े के रूप में देखता है प्लैटफ़ॉर्म।

हेक्सागोन 685 डीएसपी और अन्य "तृतीयक" सुधार लगातार डाउनस्ट्रीम से मध्य-सीमा तक अपना रास्ता बना रहे हैं हार्डवेयर, क्वालकॉम चिप्स के लिए निकट के सभी प्रकार के उपकरणों में ऑन-डिवाइस मशीन लर्निंग लाना भी आसान है भविष्य। वे अपने अनुप्रयोगों और सेवाओं में हेक्सागोन 685 डीएसपी और एचवीएक्स का लाभ उठाने के लिए डेवलपर्स (डीएसपी असेंबली भाषा के साथ खिलवाड़ करने की कोई आवश्यकता नहीं) के लिए एक आसान एसडीके भी प्रदान करते हैं।

क्वालकॉम के प्रवक्ता ने कहा, "तंत्रिका प्रसंस्करण के लिए इन समर्पित प्रसंस्करण इकाइयों की आवश्यकता है, लेकिन आपको इसका विस्तार करने की भी आवश्यकता है, ताकि आप [ओपन सोर्स] ढांचे का समर्थन कर सकें।" "यदि आप वह पारिस्थितिकी तंत्र नहीं बनाते हैं, तो कोई रास्ता नहीं है [...] डेवलपर्स उस पर निर्माण कर सकें।"