Nový serverový procesor AWS dokáže trénovať modely AI až štyrikrát rýchlejšie

Výpočtové NovinkyNov 30, 2023
click fraud protection

Kľúčové informácie

  • Amazon oznamuje vývoj nových procesorov Graviton4 a Trainium2 pre exkluzívnu prácu AWS so zameraním na rýchlosť a výkon.
  • Graviton4 je najvýkonnejší procesor AWS, ktorý zvyšuje výpočtový výkon až o 30 % a ponúka o 75 % väčšiu šírku pásma pamäte ako jeho predchodca.
  • Procesor Trainium2 je navrhnutý pre tréning AI, štyrikrát rýchlejší ako konkurenti, s trojnásobnou kapacitou pamäte a vylepšenou energetickou účinnosťou.

Ako Amazon Web Services (AWS) neustále rastie, rozširuje sa aj produktový rad Amazonu. Teraz spoločnosť oznámila, že sa vyvinula dva nové procesory, ktorý bude používať AWS. Zatiaľ čo jeden z nich bol vytvorený na všeobecnú prácu, druhý bol vytvorený s ohľadom na školenie AI – a Amazon uvádza, že názov hry je rýchlosť.

V novembri 28, Amazon oznámila vývoj dvoch nových čipov – AWS Graviton4 a AWS Trainium2 – pre exkluzívnu prácu AWS. Spoločnosť tvrdí, že Graviton4 je v súčasnosti najvýkonnejším procesorom AWS vo svojej zostave so schopnosťou zvýšiť výpočtový výkon až o 30 %. Má tiež 75%

väčšia šírka pásma pamäte než procesory Graviton3 a bude dostupný v roku bude dostupný v inštanciách Amazon EC2 R8g — to môže pomôcť pri úlohách zahŕňajúcich vysokovýkonné databázy, ako aj analýzu veľkých údajov záťaže. Tomov hardvér špecifikuje, že Graviton4 má 64-bitovú architektúru Arm a obsahuje 96 jadier. Amazon však nespomenul, či čip konkrétne využíva jadrá Neoverse V2 od Arm.

Procesor Trainium2 od Amazonu bol vyvinutý špeciálne pre školenie AIa spoločnosť tvrdí, že je štyrikrát rýchlejšia ako jej konkurenti. Má tiež trojnásobnú kapacitu pamäte ako jeho predchodca a dokáže dosiahnuť až dvojnásobný výkon na watt, vďaka čomu je výrazne energeticky efektívnejší. Amazon poznamenal, že stroje používajúce procesor sa pripájajú cez adaptér AWS Elastic Fabric Adapter – sieťové rozhranie pre vysokovýkonnú výpočtovú techniku ​​– a poskytujú výkon v petabitovom rozsahu. Trainium2 bolo vytvorené s cieľom skrátiť čas školenia spojený so základnými modelmi a veľkými jazykovými modelmi, ktoré môžu trvať mesiace.

Aj keď si mnoho ľudí okamžite nespája Amazon s AI, spoločnosť pokračuje v presadzovaní tohto odvetvia. Keďže pracuje na vývoji robustnejších procesorov, je ťažké si predstaviť, že sa spoločnosť Amazon na trhu čoskoro spomalí.