Noul procesor de server AWS poate antrena modele AI de până la patru ori mai rapid

Recomandări cheie

• Amazon anunță dezvoltarea de noi procesoare, Graviton4 și Trainium2, pentru munca exclusivă AWS, cu accent pe viteză și performanță.
• Graviton4 este cel mai puternic procesor AWS, îmbunătățind performanța de calcul cu până la 30% și oferind cu 75% mai multă lățime de bandă a memoriei decât predecesorul său.
• Procesorul Trainium2 este conceput pentru antrenamentul AI, de patru ori mai rapid decât concurenții, cu o capacitate de memorie triplă și o eficiență energetică îmbunătățită.

Pe măsură ce Amazon Web Services (AWS) continuă să crească, linia de produse Amazon se extinde, de asemenea. Acum, compania a anunțat că s-a dezvoltat două procesoare noi, care va fi folosit de AWS. În timp ce una dintre ele a fost creată pentru lucru cu scop general, cealaltă a fost făcută având în vedere antrenamentul AI - și Amazon specifică că viteza este numele jocului.

Pe noiembrie 28, Amazon a anunțat dezvoltarea a două noi cipuri — AWS Graviton4 și AWS Trainium2 — pentru munca exclusivă AWS. Compania spune că Graviton4 este în prezent cel mai puternic procesor AWS din gama sa, având capacitatea de a îmbunătăți performanța de calcul cu până la 30%. Are si 75%

mai multă lățime de bandă a memoriei decât procesoarele Graviton3 și va fi disponibil în instanțele Amazon EC2 R8g - acest lucru poate ajuta cu sarcini care implică baze de date de înaltă performanță, precum și analize mari de date sarcinile de lucru. Hardware-ul lui Tom specifică faptul că Graviton4 are arhitectura Arm pe 64 de biți și include 96 de nuclee. Cu toate acestea, Amazon nu a menționat dacă cipul folosește în mod special nucleele Arm's Neoverse V2.

Procesorul Trainium2 de la Amazon a fost dezvoltat special pentru Antrenamentul AI, iar compania spune că este de patru ori mai rapid decât concurenții săi. De asemenea, are o capacitate de memorie triplă față de predecesorul său și poate atinge performanța de până la de două ori pe watt, făcându-l semnificativ mai eficient din punct de vedere energetic. Amazon a remarcat că mașinile care utilizează procesorul se vor conecta prin adaptorul AWS Elastic Fabric – o interfață de rețea pentru calcul de înaltă performanță – și vor oferi performanțe la scară petabiți. Trainium2 a fost creat pentru a reduce timpul de instruire asociat modelelor de bază și modelelor de limbaj mari, ceea ce poate dura luni de zile.

Deși mulți oameni nu asociază imediat Amazon cu AI, compania își continuă impulsul în industrie. Pe măsură ce lucrează pentru a dezvolta procesoare mai robuste, este greu de imaginat că aventura Amazon pe piață va încetini în curând.