Новый серверный процессор AWS может обучать модели искусственного интеллекта до четырех раз быстрее

Ключевые выводы

• Amazon объявляет о разработке новых процессоров Graviton4 и Trainium2 для эксклюзивной работы AWS с упором на скорость и производительность.
• Graviton4 — самый мощный процессор AWS, повышающий производительность вычислений до 30 % и обеспечивающий на 75 % большую пропускную способность памяти, чем его предшественник.
• Процессор Trainium2 предназначен для обучения искусственного интеллекта, работает в четыре раза быстрее, чем конкуренты, имеет утроенный объем памяти и повышенную энергоэффективность.

Поскольку Amazon Web Services (AWS) продолжает расти, расширяется и линейка продуктов Amazon. Теперь компания объявила, что разработала два новых процессора, который будет использоваться AWS. В то время как один из них был создан для работы общего назначения, другой был создан с учетом обучения ИИ — и Amazon указывает, что главное — это скорость.

В ноябре. 28, Амазонка объявила о разработке двух новых чипов — AWS Graviton4 и AWS Trainium2 — для эксклюзивной работы AWS. Компания заявляет, что Graviton4 в настоящее время является самым мощным процессором AWS в своей линейке, способным повысить производительность вычислений до 30%. У него тоже 75%

больше пропускной способности памяти чем процессоры Graviton3, и он будет доступен в инстансах Amazon EC2 R8g — это может помочь в решении задач, связанных с высокопроизводительными базами данных, а также при анализе больших данных. рабочие нагрузки. Оборудование Тома указывает, что Graviton4 имеет 64-битную архитектуру Arm и включает 96 ядер. Однако Amazon не уточнил, использует ли этот чип ядра Neoverse V2 от Arm.

Процессор Trainium2 от Amazon был разработан специально для Обучение искусственному интеллекту, и компания утверждает, что это в четыре раза быстрее, чем у конкурентов. Он также имеет в три раза больший объем памяти, чем его предшественник, и может достигать вдвое большей производительности на ватт, что делает его значительно более энергоэффективным. В Amazon отметили, что машины, использующие этот процессор, будут подключаться через адаптер AWS Elastic Fabric — сетевой интерфейс для высокопроизводительных вычислений — и обеспечивать производительность в петабитном масштабе. Trainium2 был создан для сокращения времени обучения, связанного с базовыми моделями и большими языковыми моделями, которое может занять месяцы.

Хотя многие люди не сразу связывают Amazon с искусственным интеллектом, компания продолжает свое развитие в этой отрасли. Поскольку компания работает над разработкой более надежных процессоров, трудно представить, что выход Amazon на рынок в ближайшее время замедлится.