Prosesor server baru AWS dapat melatih model AI hingga empat kali lebih cepat

Menghitung BeritaNov 30, 2023
click fraud protection

Poin Penting

  • Amazon mengumumkan pengembangan prosesor baru, Graviton4 dan Trainium2, untuk pekerjaan eksklusif AWS, dengan fokus pada kecepatan dan kinerja.
  • Graviton4 adalah prosesor AWS paling kuat, meningkatkan kinerja komputasi hingga 30% dan menawarkan bandwidth memori 75% lebih banyak dibandingkan pendahulunya.
  • Prosesor Trainium2 dirancang untuk pelatihan AI, empat kali lebih cepat dibandingkan pesaing, dengan kapasitas memori tiga kali lipat dan peningkatan efisiensi energi.

Seiring dengan pertumbuhan Amazon Web Services (AWS), lini produk Amazon juga semakin berkembang. Kini, perusahaan telah mengumumkan bahwa mereka telah berkembang dua prosesor baru, yang akan digunakan oleh AWS. Meskipun salah satunya dibuat untuk pekerjaan umum, yang lainnya dibuat dengan mempertimbangkan pelatihan AI — dan Amazon menetapkan bahwa kecepatan adalah kuncinya.

Pada bulan November. 28, Amazon mengumumkan pengembangan dua chip baru — AWS Graviton4 dan AWS Trainium2 — untuk pekerjaan eksklusif AWS. Perusahaan mengatakan bahwa Graviton4 saat ini merupakan prosesor AWS paling kuat di jajarannya, dengan kemampuan untuk meningkatkan kinerja komputasi hingga 30%. Ini juga memiliki 75%

lebih banyak bandwidth memori daripada prosesor Graviton3, dan akan tersedia di instans R8g Amazon EC2 — ini dapat membantu tugas-tugas yang melibatkan database berkinerja tinggi, serta analisis data berukuran besar beban kerja. Perangkat Keras Tom menetapkan bahwa Graviton4 menampilkan arsitektur 64-bit Arm dan mencakup 96 core. Namun Amazon tidak menyebutkan apakah chip tersebut secara khusus menggunakan inti Neoverse V2 milik Arm.

Prosesor Trainium2 dari Amazon dikembangkan khusus untuk pelatihan AI, dan perusahaan mengatakan ini empat kali lebih cepat dibandingkan pesaingnya. Ia juga memiliki kapasitas memori tiga kali lipat dibandingkan pendahulunya dan dapat mencapai kinerja per watt hingga dua kali lipat, menjadikannya jauh lebih hemat energi. Amazon mencatat bahwa mesin yang menggunakan prosesor akan terhubung melalui AWS Elastic Fabric Adapter — antarmuka jaringan untuk komputasi kinerja tinggi — dan memberikan kinerja skala petabit. Trainium2 dibuat untuk mengurangi waktu pelatihan yang terkait dengan model dasar dan model bahasa besar, yang dapat memakan waktu berbulan-bulan.

Meskipun banyak orang tidak langsung mengasosiasikan Amazon dengan AI, perusahaan ini terus mendorong industri ini. Saat Amazon berupaya mengembangkan prosesor yang lebih tangguh, sulit membayangkan bahwa usaha Amazon ke pasar akan melambat dalam waktu dekat.