AWS の新しいサーバープロセッサは AI モデルを最大 4 倍の速さでトレーニングできる

click fraud protection

重要なポイント

  • Amazon は、速度とパフォーマンスに重点を置いた、AWS 専用の作業用の新しいプロセッサ Graviton4 と Trainium2 の開発を発表しました。
  • Graviton4 は最も強力な AWS プロセッサであり、前世代よりもコンピューティング パフォーマンスが最大 30% 向上し、75% 多いメモリ帯域幅を提供します。
  • Trainium2 プロセッサは AI トレーニング用に設計されており、競合他社よりも 4 倍高速で、3 倍のメモリ容量と改善されたエネルギー効率を備えています。

アマゾン ウェブ サービス (AWS) が成長を続けるにつれて、Amazon の製品ラインも拡大しています。 この度、同社は開発したと発表した。 2 つの新しいプロセッサ、AWSによって使用されます。 そのうちの 1 つは汎用作業用に作成されたものですが、もう 1 つは AI トレーニングを念頭に置いて作成されたものであり、Amazon は速度こそが重要であると明記しています。

11月に 28, アマゾン は、AW​​S 専用の作業用に 2 つの新しいチップ (AWS Graviton4 と AWS Trainium2) の開発を発表しました。 同社によれば、Graviton4 は現在ラインナップの中で最も強力な AWS プロセッサであり、コンピューティングパフォーマンスを最大 30% 向上させることができます。 75%もあります より多くのメモリ帯域幅 Graviton3 プロセッサよりも優れており、Amazon EC2 R8g インスタンスで利用可能になります — これは、高性能データベースや大規模なデータ分析を伴うタスクに役立ちます。 作業量。 トムのハードウェア Graviton4 は Arm の 64 ビット アーキテクチャを採用し、96 個のコアを含むと指定されています。 ただし、Amazonは、このチップがArmのNeoverse V2コアを具体的に使用しているかどうかについては言及しなかった。

Amazon の Trainium2 プロセッサは、次の目的のために特別に開発されました。 AIトレーニング、そして同社は競合他社よりも4倍速いと言っています。 また、前世代の 3 倍のメモリ容量を備え、ワットあたり最大 2 倍のパフォーマンスを達成できるため、エネルギー効率が大幅に向上します。 Amazon は、このプロセッサを使用するマシンは、ハイパフォーマンス コンピューティング用のネットワーク インターフェイスである AWS Elastic Fabric Adaptor を介して接続し、ペタビット規模のパフォーマンスを実現すると述べました。 Trainium2 は、数か月かかることもある基礎モデルや大規模な言語モデルに関連するトレーニング時間を短縮するために作成されました。

Amazon と AI をすぐに結びつける人は多くありませんが、同社は業界への進出を続けています。 より堅牢なプロセッサの開発に取り組んでいるため、Amazon の市場参入がすぐに減速するとは考えにくい。