Новият сървърен процесор на AWS може да обучава AI модели до четири пъти по-бързо

Ключови изводи

• Amazon обявява разработването на нови процесори, Graviton4 и Trainium2, за ексклузивна работа с AWS, с акцент върху скоростта и производителността.
• Graviton4 е най-мощният AWS процесор, подобряващ изчислителната производителност с до 30% и предлагащ 75% повече честотна лента на паметта от своя предшественик.
• Процесорът Trainium2 е проектиран за AI обучение, четири пъти по-бърз от конкурентите, с утроен капацитет на паметта и подобрена енергийна ефективност.

Докато Amazon Web Services (AWS) продължава да расте, продуктовата линия на Amazon също се разширява. Сега компанията обяви, че се е развила два нови процесора, който ще се използва от AWS. Докато единият от тях е създаден за работа с общо предназначение, другият е направен с AI обучение – и Amazon уточнява, че скоростта е името на играта.

на ноем. 28, Amazon обяви разработването на два нови чипа — AWS Graviton4 и AWS Trainium2 — за ексклузивна работа за AWS. Компанията казва, че Graviton4 в момента е най-мощният AWS процесор в нейната гама, с възможност за подобряване на изчислителната производителност с до 30%. Освен това има 75%

повече честотна лента на паметта от процесорите Graviton3 и ще бъде наличен в ще бъде наличен в копия на Amazon EC2 R8g — това може да помогне при задачи, включващи високопроизводителни бази данни, както и анализ на големи данни натоварвания. Хардуерът на Том уточнява, че Graviton4 разполага с 64-битовата архитектура на Arm и включва 96 ядра. Amazon обаче не споменава дали чипът конкретно използва ядра Neoverse V2 на Arm.

Процесорът Trainium2 от Amazon е разработен специално за AI обучение, а компанията казва, че е четири пъти по-бърз от своите конкуренти. Освен това има утроен капацитет на паметта от своя предшественик и може да постигне до два пъти по-висока производителност на ват, което го прави значително по-енергийно ефективен. Amazon отбеляза, че машините, използващи процесора, ще се свързват чрез AWS Elastic Fabric Adapter – мрежов интерфейс за високопроизводителни изчисления – и ще предоставят петабитова производителност. Trainium2 е създаден, за да намали времето за обучение, свързано с базови модели и големи езикови модели, което може да отнеме месеци.

Въпреки че много хора не свързват веднага Amazon с AI, компанията продължава да навлиза в индустрията. Тъй като работи за разработването на по-стабилни процесори, трудно е да си представим, че начинанието на Amazon на пазара ще се забави скоро.