AWS का नया सर्वर प्रोसेसर AI मॉडल को चार गुना तेजी से प्रशिक्षित कर सकता है

चाबी छीनना

  • अमेज़ॅन ने गति और प्रदर्शन पर ध्यान देने के साथ, AWS-अनन्य कार्य के लिए नए प्रोसेसर, ग्रेविटॉन4 और ट्रेनियम2 के विकास की घोषणा की है।
  • Graviton4 सबसे शक्तिशाली AWS प्रोसेसर है, जो कंप्यूट प्रदर्शन को 30% तक बढ़ाता है और अपने पूर्ववर्ती की तुलना में 75% अधिक मेमोरी बैंडविड्थ प्रदान करता है।
  • ट्रेनियम 2 प्रोसेसर को एआई प्रशिक्षण के लिए डिज़ाइन किया गया है, जो प्रतिस्पर्धियों की तुलना में चार गुना तेज़ है, मेमोरी क्षमता तीन गुना है और ऊर्जा दक्षता में सुधार हुआ है।

जैसे-जैसे अमेज़ॅन वेब सर्विसेज (एडब्ल्यूएस) का विकास जारी है, अमेज़ॅन की उत्पाद लाइन का भी विस्तार हो रहा है। अब, कंपनी ने घोषणा की है कि उसने इसे विकसित कर लिया है दो नए प्रोसेसर, जिसका उपयोग AWS द्वारा किया जाएगा। जबकि उनमें से एक सामान्य प्रयोजन के काम के लिए बनाया गया था, दूसरा एआई प्रशिक्षण को ध्यान में रखकर बनाया गया था - और अमेज़ॅन निर्दिष्ट करता है कि गति गेम का नाम है।

नवंबर को 28, वीरांगना AWS-अनन्य कार्य के लिए दो नए चिप्स - AWS Graviton4 और AWS ट्रेनियम2 - के विकास की घोषणा की। कंपनी का कहना है कि Graviton4 वर्तमान में उसके लाइनअप में सबसे शक्तिशाली AWS प्रोसेसर है, जो गणना प्रदर्शन को 30% तक बढ़ाने की क्षमता रखता है। इसमें भी 75% है

अधिक मेमोरी बैंडविड्थ Graviton3 प्रोसेसर की तुलना में, और यह Amazon EC2 R8g उदाहरणों में उपलब्ध होगा - यह उच्च-प्रदर्शन डेटाबेस के साथ-साथ बड़े डेटा विश्लेषण से जुड़े कार्यों में मदद कर सकता है कार्यभार. टॉम का हार्डवेयर निर्दिष्ट करता है कि Graviton4 में आर्म की 64-बिट वास्तुकला है और इसमें 96 कोर शामिल हैं। हालाँकि, अमेज़ॅन ने यह उल्लेख नहीं किया कि चिप विशेष रूप से आर्म के नियोवर्स वी2 कोर का उपयोग करती है या नहीं।

अमेज़ॅन का ट्रेनियम2 प्रोसेसर विशेष रूप से विकसित किया गया था एआई प्रशिक्षण, और कंपनी का कहना है कि यह अपने प्रतिस्पर्धियों की तुलना में चार गुना तेज़ है। इसमें अपने पूर्ववर्ती की तुलना में तीन गुना मेमोरी क्षमता है और यह प्रति वाट दोगुना प्रदर्शन प्राप्त कर सकता है, जिससे यह काफी अधिक ऊर्जा-कुशल बन जाता है। अमेज़ॅन ने नोट किया कि प्रोसेसर का उपयोग करने वाली मशीनें एडब्ल्यूएस इलास्टिक फैब्रिक एडाप्टर - उच्च प्रदर्शन कंप्यूटिंग के लिए एक नेटवर्क इंटरफ़ेस - के माध्यम से कनेक्ट होंगी और पेटाबिट-स्केल प्रदर्शन प्रदान करेंगी। ट्रेनियम2 को फाउंडेशन मॉडल और बड़े भाषा मॉडल से जुड़े प्रशिक्षण समय को कम करने के लिए बनाया गया था, जिसमें कई महीने लग सकते हैं।

हालाँकि बहुत से लोग तुरंत अमेज़न को एआई के साथ नहीं जोड़ते हैं, कंपनी उद्योग में अपना योगदान जारी रखे हुए है। चूंकि यह अधिक मजबूत प्रोसेसर विकसित करने के लिए काम कर रहा है, इसलिए यह कल्पना करना कठिन है कि बाजार में अमेज़ॅन का उद्यम जल्द ही धीमा हो जाएगा।