Novi strežniški procesor AWS lahko uri modele AI do štirikrat hitreje

click fraud protection

Ključni zaključki

  • Amazon napoveduje razvoj novih procesorjev, Graviton4 in Trainium2, za ekskluzivno delo AWS, s poudarkom na hitrosti in zmogljivosti.
  • Graviton4 je najzmogljivejši procesor AWS, ki izboljša računalniško zmogljivost do 30 % in ponuja 75 % več pasovne širine pomnilnika kot njegov predhodnik.
  • Procesor Trainium2 je zasnovan za usposabljanje z umetno inteligenco, štirikrat hitrejši od konkurentov, s potrojnim kapaciteto pomnilnika in izboljšano energetsko učinkovitostjo.

Ker Amazon Web Services (AWS) še naprej raste, se širi tudi Amazonova linija izdelkov. Zdaj je podjetje objavilo, da se je razvilo dva nova procesorja, ki ga bo uporabljal AWS. Medtem ko je bil eden od njih ustvarjen za splošne namene, je bil drugi narejen z upoštevanjem usposabljanja z umetno inteligenco - in Amazon določa, da je hitrost ime igre.

nov. 28, Amazon napovedal razvoj dveh novih čipov – AWS Graviton4 in AWS Trainium2 – za ekskluzivno delo AWS. Družba pravi, da je Graviton4 trenutno najzmogljivejši procesor AWS v svoji liniji, z zmožnostjo izboljšanja računalniške zmogljivosti do 30 %. Ima tudi 75%

večja pasovna širina pomnilnika kot procesorji Graviton3 in bo na voljo v bo na voljo v primerkih Amazon EC2 R8g — to lahko pomaga pri opravilih, ki vključujejo visoko zmogljive baze podatkov, pa tudi analitiko velikih podatkov delovne obremenitve. Tomova strojna oprema določa, da ima Graviton4 Armovo 64-bitno arhitekturo in vključuje 96 jeder. Vendar Amazon ni omenil, ali čip posebej uporablja Armova jedra Neoverse V2.

Procesor Trainium2 iz Amazona je bil razvit posebej za Usposabljanje AI, podjetje pa pravi, da je štirikrat hitrejši od svojih konkurentov. Ima tudi trikrat večjo kapaciteto pomnilnika kot njegov predhodnik in lahko doseže do dvakrat večjo zmogljivost na vat, zaradi česar je bistveno bolj energetsko učinkovit. Amazon je opozoril, da se bodo stroji, ki uporabljajo procesor, povezovali preko AWS Elastic Fabric Adapterja – omrežnega vmesnika za visokozmogljivo računalništvo – in zagotavljali zmogljivost petabitnega obsega. Trainium2 je bil ustvarjen za skrajšanje časa usposabljanja, povezanega z osnovnimi modeli in velikimi jezikovnimi modeli, ki lahko traja več mesecev.

Čeprav veliko ljudi Amazona ne poveže takoj z umetno inteligenco, podjetje nadaljuje svoj prodor v industrijo. Ker si prizadeva za razvoj robustnejših procesorjev, si je težko predstavljati, da se bo Amazonov podvig na trg kmalu upočasnil.