AWS’ nye serverprocessor kan træne AI-modeller op til fire gange hurtigere

Nøgle takeaways

• Amazon annoncerer udvikling af nye processorer, Graviton4 og Trainium2, til AWS-eksklusivt arbejde med fokus på hastighed og ydeevne.
• Graviton4 er den mest kraftfulde AWS-processor, der forbedrer computerydelsen med op til 30 % og tilbyder 75 % mere hukommelsesbåndbredde end sin forgænger.
• Trainium2-processoren er designet til AI-træning, fire gange hurtigere end konkurrenterne, med tredobbelt hukommelseskapacitet og forbedret energieffektivitet.

I takt med at Amazon Web Services (AWS) fortsætter med at vokse, udvides Amazons produktlinje også. Nu har virksomheden meddelt, at den har udviklet sig to nye processorer, som vil blive brugt af AWS. Mens en af ​​dem blev skabt til generelle formål, blev den anden lavet med AI-træning i tankerne - og Amazon specificerer, at hastighed er navnet på spillet.

Den nov. 28, Amazon annonceret udviklingen af ​​to nye chips - AWS Graviton4 og AWS Trainium2 - til AWS-eksklusivt arbejde. Virksomheden siger, at Graviton4 i øjeblikket er den mest kraftfulde AWS-processor i sin serie, med evnen til at forbedre computerydelsen med op til 30%. Den har også 75 %

mere hukommelsesbåndbredde end Graviton3-processorer, og den vil være tilgængelig i vil være tilgængelig i Amazon EC2 R8g-forekomster — dette kan hjælpe med opgaver, der involverer højtydende databaser, såvel som store dataanalyser arbejdsbyrder. Toms hardware specificerer, at Graviton4 har Arms 64-bit arkitektur og inkluderer 96 kerner. Amazon nævnte dog ikke, om chippen specifikt bruger Arms Neoverse V2-kerner.

Trainium2-processoren fra Amazon er udviklet specielt til AI træning, og virksomheden siger, at den er fire gange hurtigere end sine konkurrenter. Den har også tredobbelt hukommelseskapacitet i forhold til sin forgænger og kan opnå op til dobbelt så stor ydelse pr. watt, hvilket gør den betydeligt mere energieffektiv. Amazon bemærkede, at maskiner, der bruger processoren, vil forbinde via AWS Elastic Fabric Adapter - en netværksgrænseflade til højtydende databehandling - og levere petabit-skala-ydeevne. Trainium2 blev skabt for at skære ned på træningstiden i forbindelse med fundamentmodeller og store sprogmodeller, hvilket kan tage måneder.

Selvom mange mennesker ikke umiddelbart forbinder Amazon med kunstig intelligens, fortsætter virksomheden sit skub ind i branchen. Da det arbejder på at udvikle mere robuste processorer, er det svært at forestille sig, at Amazons satsning på markedet vil bremse noget snart.