AWS nya serverprocessor kan träna AI-modeller upp till fyra gånger snabbare

Viktiga takeaways

• Amazon tillkännager utveckling av nya processorer, Graviton4 och Trainium2, för AWS-exklusivt arbete, med fokus på hastighet och prestanda.
• Graviton4 är den mest kraftfulla AWS-processorn, som förbättrar beräkningsprestanda med upp till 30 % och erbjuder 75 % mer minnesbandbredd än sin föregångare.
• Trainium2-processorn är designad för AI-träning, fyra gånger snabbare än konkurrenterna, med tredubblad minneskapacitet och förbättrad energieffektivitet.

Allt eftersom Amazon Web Services (AWS) fortsätter att växa, expanderar även Amazons produktlinje. Nu har företaget meddelat att det har utvecklats två nya processorer, som kommer att användas av AWS. Medan en av dem skapades för allmänt arbete, gjordes den andra med AI-träning i åtanke - och Amazon anger att hastighet är namnet på spelet.

Den nov. 28, Amazon tillkännagav utvecklingen av två nya chips — AWS Graviton4 och AWS Trainium2 — för AWS-exklusivt arbete. Företaget säger att Graviton4 för närvarande är den mest kraftfulla AWS-processorn i sitt sortiment, med förmågan att förbättra beräkningsprestanda med upp till 30%. Den har också 75 %

mer minnesbandbredd än Graviton3-processorer, och den kommer att vara tillgänglig i kommer att finnas tillgänglig i Amazon EC2 R8g-instanser — detta kan hjälpa till med uppgifter som involverar högpresterande databaser, såväl som stora dataanalyser arbetsbelastningar. Toms hårdvara specificerar att Graviton4 har Arms 64-bitars arkitektur och inkluderar 96 kärnor. Amazon nämnde dock inte om chippet specifikt använder Arms Neoverse V2-kärnor.

Trainium2-processorn från Amazon utvecklades speciellt för AI utbildning, och företaget säger att det är fyra gånger snabbare än sina konkurrenter. Den har också tredubbla minneskapaciteten från sin föregångare och kan uppnå upp till dubbelt så hög prestanda per watt, vilket gör den betydligt mer energieffektiv. Amazon noterade att maskiner som använder processorn kommer att ansluta via AWS Elastic Fabric Adapter – ett nätverksgränssnitt för högpresterande beräkningar – och leverera prestanda i petabit-skala. Trainium2 skapades för att skära ner på utbildningstiden i samband med grundmodeller och stora språkmodeller, vilket kan ta månader.

Även om många människor inte omedelbart associerar Amazon med AI, fortsätter företaget sin insats i branschen. Eftersom det arbetar för att utveckla mer robusta processorer är det svårt att föreställa sig att Amazons satsning på marknaden kommer att sakta ner någon gång snart.