Новий серверний процесор AWS може навчати моделі ШІ до чотирьох разів швидше

Комп'ютерні новиниNov 30, 2023
click fraud protection

Ключові висновки

  • Amazon оголошує про розробку нових процесорів Graviton4 і Trainium2 для ексклюзивної роботи з AWS, з акцентом на швидкість і продуктивність.
  • Graviton4 — найпотужніший процесор AWS, який підвищує продуктивність обчислень до 30% і пропонує на 75% більшу пропускну здатність пам’яті, ніж його попередник.
  • Процесор Trainium2 розроблений для навчання штучному інтелекту, у чотири рази швидший за конкурентів, з потрійним об’ємом пам’яті та покращеною енергоефективністю.

Оскільки Amazon Web Services (AWS) продовжує розвиватися, лінійка продуктів Amazon також розширюється. Тепер компанія оголосила, що розробила два нових процесора, який використовуватиме AWS. У той час як один із них був створений для роботи загального призначення, інший був створений з урахуванням навчання штучного інтелекту — і Amazon уточнює, що швидкість — це назва гри.

Лист. 28, Amazon оголосив про розробку двох нових чіпів — AWS Graviton4 і AWS Trainium2 — для роботи виключно з AWS. Компанія заявляє, що Graviton4 наразі є найпотужнішим процесором AWS у своїй лінійці з можливістю підвищити продуктивність обчислень до 30%. Він також має 75%

більше пропускної здатності пам'яті ніж процесори Graviton3, і він буде доступний у буде доступний у примірниках Amazon EC2 R8g — це може допомогти із завданнями, пов’язаними з високопродуктивними базами даних, а також аналізом великих даних робочі навантаження. Обладнання Тома вказує, що Graviton4 має 64-розрядну архітектуру Arm і включає 96 ядер. Однак Amazon не згадує, чи використовує чіп конкретно ядра Neoverse V2 від Arm.

Процесор Trainium2 від Amazon був розроблений спеціально для навчання ШІ, і компанія каже, що це в чотири рази швидше, ніж її конкуренти. Він також має втричі більший об’єм пам’яті, ніж його попередник, і може досягти вдвічі більшої продуктивності на ват, що робить його значно енергоефективнішим. Amazon зазначив, що машини, які використовують процесор, підключатимуться через адаптер AWS Elastic Fabric — мережевий інтерфейс для високопродуктивних обчислень — і забезпечуватимуть продуктивність у петабітному масштабі. Trainium2 було створено, щоб скоротити час навчання, пов’язане з основними моделями та великими мовними моделями, яке може тривати місяцями.

Хоча багато людей не відразу асоціюють Amazon із штучним інтелектом, компанія продовжує просуватися в галузь. Оскільки Amazon працює над розробкою більш надійних процесорів, важко уявити, що вихід Amazon на ринок найближчим часом сповільниться.