Az AWS új szerverprocesszora akár négyszer gyorsabban képes tanítani az AI modelleket

Kulcs elvitelek

  • Az Amazon bejelentette új processzorok, a Graviton4 és Trainium2 fejlesztését az AWS-exkluzív munkákhoz, a sebességre és a teljesítményre összpontosítva.
  • A Graviton4 a legerősebb AWS processzor, amely akár 30%-kal növeli a számítási teljesítményt, és 75%-kal nagyobb memóriasávszélességet kínál, mint elődje.
  • A Trainium2 processzort mesterséges intelligencia edzésre tervezték, négyszer gyorsabb, mint a versenytársak, háromszoros memóriakapacitással és jobb energiahatékonysággal.

Ahogy az Amazon Web Services (AWS) folyamatosan növekszik, az Amazon termékcsaládja is bővül. Most a cég bejelentette, hogy fejlődött két új processzor, amelyet az AWS fog használni. Míg az egyiket általános célú munkára hozták létre, a másikat az AI-képzést szem előtt tartva készítették – és az Amazon pontosítja, hogy a sebesség a játék neve.

nov. 28, amazon bejelentette két új chip – az AWS Graviton4 és AWS Trainium2 – fejlesztését az AWS-exkluzív munkákhoz. A cég szerint a Graviton4 jelenleg a legerősebb AWS processzor a sorozatában, amely akár 30%-kal is képes növelni a számítási teljesítményt. 75%-a is van

nagyobb memória sávszélesség mint a Graviton3 processzorok, és elérhető lesz az Amazon EC2 R8g példányaiban – ez segíthet a nagy teljesítményű adatbázisokat érintő feladatokban, valamint nagy adatelemzésben munkaterhelések. Tom's Hardware meghatározza, hogy a Graviton4 Arm 64 bites architektúráját használja, és 96 magot tartalmaz. Az Amazon azonban nem említette, hogy a chip kifejezetten Arm's Neoverse V2 magokat használ-e.

Az Amazon Trainium2 processzorát kifejezetten erre fejlesztették ki AI képzés, és a cég szerint négyszer gyorsabb, mint versenytársai. Elődjéhez képest háromszoros memóriakapacitással rendelkezik, és wattonként akár kétszeres teljesítményt is képes elérni, így jelentősen energiatakarékosabb. Az Amazon megjegyezte, hogy a processzort használó gépek az AWS Elastic Fabric Adapteren keresztül csatlakoznak – egy hálózati interfész a nagy teljesítményű számítástechnikához –, és petabit méretű teljesítményt nyújtanak. A Trainium2-t azért hozták létre, hogy csökkentsék az alapmodellek és a nagy nyelvi modellek képzési idejét, ami hónapokig is eltarthat.

Bár sokan nem kötik azonnal az Amazont a mesterséges intelligenciához, a cég folytatja az ipar felé való törekvését. Mivel robusztusabb processzorok fejlesztésén dolgozik, nehéz elképzelni, hogy az Amazon piacra lépése hamarosan lelassul.