AWS-ov novi poslužiteljski procesor može trenirati AI modele do četiri puta brže

click fraud protection

Ključni zahvati

  • Amazon najavljuje razvoj novih procesora, Graviton4 i Trainium2, za rad ekskluzivan za AWS, s fokusom na brzinu i performanse.
  • Graviton4 je najsnažniji AWS procesor, poboljšava računalne performanse do 30% i nudi 75% veću propusnost memorije od svog prethodnika.
  • Trainium2 procesor dizajniran je za AI obuku, četiri puta brži od konkurenata, s trostrukim kapacitetom memorije i poboljšanom energetskom učinkovitošću.

Kako Amazon Web Services (AWS) nastavlja rasti, Amazonova linija proizvoda također se širi. Sada je tvrtka objavila da se razvila dva nova procesora, koji će koristiti AWS. Dok je jedan od njih stvoren za rad opće namjene, drugi je napravljen imajući na umu AI obuku - a Amazon precizira da je brzina naziv igre.

U studenom 28, Amazon najavio je razvoj dva nova čipa — AWS Graviton4 i AWS Trainium2 — za rad ekskluzivan za AWS. Tvrtka kaže da je Graviton4 trenutno najsnažniji AWS procesor u svojoj liniji, s mogućnošću poboljšanja računalnih performansi do 30%. Također ima 75%

veća propusnost memorije od procesora Graviton3, a bit će dostupan u bit će dostupan u instancama Amazon EC2 R8g — ovo može pomoći u zadacima koji uključuju baze podataka visokih performansi, kao i analitiku velikih podataka radna opterećenja. Tomov hardver navodi da Graviton4 ima Armovu 64-bitnu arhitekturu i uključuje 96 jezgri. Međutim, Amazon nije spomenuo koristi li čip posebno Armove Neoverse V2 jezgre.

Procesor Trainium2 iz Amazona razvijen je posebno za AI obuka, a tvrtka kaže da je četiri puta brži od svojih konkurenata. Također ima trostruki kapacitet memorije od svog prethodnika i može postići do dvostruko veće performanse po vatu, što ga čini znatno energetski učinkovitijim. Amazon je primijetio da će se strojevi koji koriste procesor povezivati ​​putem AWS Elastic Fabric Adaptera — mrežnog sučelja za računalstvo visokih performansi — i isporučivati ​​performanse petabitne skale. Trainium2 stvoren je kako bi se skratilo vrijeme obuke povezano s temeljnim modelima i velikim jezičnim modelima, što može trajati mjesecima.

Iako mnogi ljudi odmah ne povezuju Amazon s umjetnom inteligencijom, tvrtka nastavlja svoj prodor u industriju. Dok radi na razvoju robusnijih procesora, teško je zamisliti da će se Amazonov pothvat na tržištu uskoro usporiti.