AWSs nye serverprosessor kan trene AI-modeller opptil fire ganger raskere

DatamaskinnyheterNov 30, 2023
click fraud protection

Viktige takeaways

  • Amazon kunngjør utvikling av nye prosessorer, Graviton4 og Trainium2, for AWS-eksklusivt arbeid, med fokus på hastighet og ytelse.
  • Graviton4 er den kraftigste AWS-prosessoren, som forbedrer dataytelsen med opptil 30 % og tilbyr 75 % mer minnebåndbredde enn forgjengeren.
  • Trainium2-prosessoren er designet for AI-trening, fire ganger raskere enn konkurrentene, med tredoblet minnekapasitet og forbedret energieffektivitet.

Ettersom Amazon Web Services (AWS) fortsetter å vokse, utvides også Amazons produktlinje. Nå har selskapet annonsert at det har utviklet seg to nye prosessorer, som vil bli brukt av AWS. Mens en av dem ble laget for generell arbeid, ble den andre laget med AI-trening i tankene - og Amazon spesifiserer at hastighet er navnet på spillet.

Den nov. 28, Amazon annonserte utviklingen av to nye brikker - AWS Graviton4 og AWS Trainium2 - for AWS-eksklusivt arbeid. Selskapet sier at Graviton4 for tiden er den kraftigste AWS-prosessoren i sitt utvalg, med muligheten til å forbedre dataytelsen med opptil 30 %. Den har også 75 %

mer minnebåndbredde enn Graviton3-prosessorer, og den vil være tilgjengelig i vil være tilgjengelig i Amazon EC2 R8g-forekomster — dette kan hjelpe med oppgaver som involverer høyytelsesdatabaser, så vel som store dataanalyser arbeidsbelastninger. Toms maskinvare spesifiserer at Graviton4 har Arms 64-bits arkitektur og inkluderer 96 kjerner. Amazon nevnte imidlertid ikke om brikken spesifikt bruker Arms Neoverse V2-kjerner.

Trainium2-prosessoren fra Amazon ble utviklet spesielt for AI trening, og selskapet sier at det er fire ganger raskere enn konkurrentene. Den har også tredoblet minnekapasitet fra forgjengeren og kan oppnå opptil dobbelt så høy ytelse per watt, noe som gjør den betydelig mer energieffektiv. Amazon bemerket at maskiner som bruker prosessoren vil koble til via AWS Elastic Fabric Adapter - et nettverksgrensesnitt for høyytelses databehandling - og levere petabit-skala ytelse. Trainium2 ble opprettet for å kutte ned på treningstiden knyttet til grunnmodeller og store språkmodeller, noe som kan ta måneder.

Selv om mange mennesker ikke umiddelbart forbinder Amazon med kunstig intelligens, fortsetter selskapet å presse inn i bransjen. Ettersom det jobber med å utvikle mer robuste prosessorer, er det vanskelig å forestille seg at Amazons satsing på markedet vil avta når som helst snart.