Nowy procesor serwerowy AWS może trenować modele AI nawet czterokrotnie szybciej

click fraud protection

Kluczowe dania na wynos

  • Amazon ogłasza rozwój nowych procesorów Graviton4 i Trainium2 do pracy wyłącznie na platformie AWS, ze szczególnym uwzględnieniem szybkości i wydajności.
  • Graviton4 to najpotężniejszy procesor AWS, zwiększający wydajność obliczeniową nawet o 30% i oferujący o 75% większą przepustowość pamięci niż jego poprzednik.
  • Procesor Trainium2 przeznaczony jest do treningu sztucznej inteligencji, czterokrotnie szybszy niż produkty konkurencji, z trzykrotnie większą pojemnością pamięci i zwiększoną efektywnością energetyczną.

Wraz z rozwojem usług Amazon Web Services (AWS), poszerza się także linia produktów Amazon. Teraz firma ogłosiła, że ​​się rozwinęła dwa nowe procesory, który będzie używany przez AWS. Podczas gdy jeden z nich został stworzony do prac ogólnych, drugi został stworzony z myślą o szkoleniu AI – a Amazon twierdzi, że najważniejsza jest szybkość.

1 listopada 28, Amazonka ogłosił opracowanie dwóch nowych układów — AWS Graviton4 i AWS Trainium2 — do pracy wyłącznie na platformie AWS. Firma twierdzi, że Graviton4 jest obecnie najpotężniejszym procesorem AWS w swojej ofercie, umożliwiającym zwiększenie wydajności obliczeniowej nawet o 30%. Ma również 75%

większa przepustowość pamięci niż procesory Graviton3 i będzie dostępny w instancjach Amazon EC2 R8g — może to być pomocne w przypadku zadań związanych z bazami danych o wysokiej wydajności, a także analizą dużych danych obciążenia. Sprzęt Toma określa, że ​​Graviton4 ma 64-bitową architekturę ARM i zawiera 96 ​​rdzeni. Amazon nie wspomniał jednak, czy chip wykorzystuje konkretnie rdzenie Arm's Neoverse V2.

Procesor Trainium2 firmy Amazon został opracowany specjalnie dla Szkolenie AI, a firma twierdzi, że jest cztery razy szybsza niż produkty konkurencji. Ma także trzykrotnie większą pojemność pamięci w porównaniu do swojego poprzednika i może osiągnąć nawet dwukrotnie większą wydajność na wat, co czyni go znacznie bardziej energooszczędnym. Amazon zauważył, że maszyny korzystające z procesora będą łączyć się za pośrednictwem adaptera AWS Elastic Fabric — interfejsu sieciowego do obliczeń o wysokiej wydajności — i zapewniać wydajność w skali petabitowej. Trainium2 zostało stworzone, aby skrócić czas szkolenia związany z podstawowymi modelami i dużymi modelami językowymi, co może zająć miesiące.

Chociaż wiele osób nie kojarzy Amazona od razu ze sztuczną inteligencją, firma kontynuuje ekspansję w tej branży. Ponieważ trwają prace nad opracowaniem solidniejszych procesorów, trudno sobie wyobrazić, że wejście Amazona na rynek w najbliższym czasie ulegnie spowolnieniu.