Il nuovo processore server di AWS può addestrare modelli IA fino a quattro volte più velocemente

Punti chiave

• Amazon annuncia lo sviluppo di nuovi processori, Graviton4 e Trainium2, per il lavoro esclusivo di AWS, con particolare attenzione alla velocità e alle prestazioni.
• Graviton4 è il processore AWS più potente, migliora le prestazioni di elaborazione fino al 30% e offre il 75% di larghezza di banda di memoria in più rispetto al suo predecessore.
• Il processore Trainium2 è progettato per l'allenamento con intelligenza artificiale, quattro volte più veloce rispetto alla concorrenza, con una capacità di memoria tripla e una migliore efficienza energetica.

Man mano che Amazon Web Services (AWS) continua a crescere, anche la linea di prodotti Amazon si sta espandendo. Ora, la società ha annunciato di essersi sviluppata due nuovi processori, che verrà utilizzato da AWS. Mentre uno di essi è stato creato per lavori generici, l’altro è stato realizzato pensando alla formazione sull’intelligenza artificiale – e Amazon specifica che la velocità è la parola d’ordine.

Il novembre 28, Amazzonia

ha annunciato lo sviluppo di due nuovi chip, AWS Graviton4 e AWS Trainium2, per lavori esclusivi di AWS. L'azienda afferma che Graviton4 è attualmente il processore AWS più potente della sua gamma, con la capacità di migliorare le prestazioni di elaborazione fino al 30%. Ha anche il 75% maggiore larghezza di banda della memoria rispetto ai processori Graviton3 e sarà disponibile nelle istanze R8g di Amazon EC2 — questo può essere utile con attività che coinvolgono database ad alte prestazioni, nonché analisi di dati di grandi dimensioni carichi di lavoro. L'hardware di Tom specifica che Graviton4 presenta l'architettura a 64 bit di Arm e include 96 core. Tuttavia, Amazon non ha menzionato se il chip utilizza specificamente i core Neoverse V2 di Arm.

Il processore Trainium2 di Amazon è stato sviluppato appositamente per Formazione sull'intelligenza artificialee l'azienda afferma che è quattro volte più veloce dei suoi concorrenti. Inoltre ha una capacità di memoria tripla rispetto al suo predecessore e può raggiungere fino al doppio delle prestazioni per watt, rendendolo significativamente più efficiente dal punto di vista energetico. Amazon ha notato che le macchine che utilizzano il processore si connetteranno tramite AWS Elastic Fabric Adapter, un'interfaccia di rete per il calcolo ad alte prestazioni, e forniranno prestazioni su scala petabit. Trainium2 è stato creato per ridurre i tempi di formazione associati ai modelli di base e ai modelli linguistici di grandi dimensioni, che possono richiedere mesi.

Sebbene molte persone non associno immediatamente Amazon all’intelligenza artificiale, l’azienda sta continuando la sua spinta nel settore. Mentre lavora per sviluppare processori più robusti, è difficile immaginare che l’ingresso di Amazon nel mercato rallenterà presto.