Nový serverový procesor AWS dokáže trénovat modely umělé inteligence až čtyřikrát rychleji

Novinky V Oblasti Výpočetní TechnikyNov 30, 2023
click fraud protection

Klíčové věci

  • Amazon oznamuje vývoj nových procesorů Graviton4 a Trainium2 pro exkluzivní práci AWS se zaměřením na rychlost a výkon.
  • Graviton4 je nejvýkonnější procesor AWS, který zvyšuje výpočetní výkon až o 30 % a nabízí o 75 % větší šířku pásma paměti než jeho předchůdce.
  • Procesor Trainium2 je navržen pro trénink AI, čtyřikrát rychlejší než konkurenti, s trojnásobnou kapacitou paměti a vylepšenou energetickou účinností.

Jak Amazon Web Services (AWS) neustále roste, rozšiřuje se také produktová řada Amazonu. Nyní společnost oznámila, že se vyvinula dva nové procesory, který bude používat AWS. Zatímco jeden z nich byl vytvořen pro univerzální práci, druhý byl vytvořen s ohledem na školení AI – a Amazon uvádí, že název hry je rychlost.

Dne listopadu 28, Amazonka oznámila vývoj dvou nových čipů – AWS Graviton4 a AWS Trainium2 – pro exkluzivní práci AWS. Společnost uvádí, že Graviton4 je aktuálně nejvýkonnějším procesorem AWS ve své řadě, se schopností zvýšit výpočetní výkon až o 30 %. Má také 75 %

větší šířku pásma paměti než procesory Graviton3 a bude dostupný v roce bude dostupný v instancích Amazon EC2 R8g — to může pomoci s úkoly zahrnujícími vysoce výkonné databáze a také analýzu velkých dat pracovní zátěže. Tomův hardware určuje, že Graviton4 má 64bitovou architekturu Arm a obsahuje 96 jader. Amazon však nezmínil, zda čip konkrétně využívá jádra Neoverse V2 od Arm.

Procesor Trainium2 od Amazonu byl vyvinut speciálně pro školení AIa společnost říká, že je čtyřikrát rychlejší než její konkurenti. Má také trojnásobnou kapacitu paměti než jeho předchůdce a dokáže dosáhnout až dvojnásobného výkonu na watt, díky čemuž je výrazně energeticky úspornější. Amazon poznamenal, že stroje využívající procesor se připojí prostřednictvím adaptéru AWS Elastic Fabric Adapter – síťového rozhraní pro vysoce výkonné výpočty – a budou poskytovat výkon v petabitovém měřítku. Trainium2 bylo vytvořeno s cílem zkrátit dobu školení spojenou se základními modely a velkými jazykovými modely, které mohou trvat měsíce.

Ačkoli si mnoho lidí okamžitě nespojuje Amazon s umělou inteligencí, společnost pokračuje ve svém prosazování do tohoto odvětví. Jelikož pracuje na vývoji robustnějších procesorů, je těžké si představit, že se Amazonův podnik na trhu v dohledné době zpomalí.