AWS'nin yeni sunucu işlemcisi yapay zeka modellerini dört kata kadar daha hızlı eğitebilir

click fraud protection

Temel Çıkarımlar

  • Amazon, AWS'ye özel çalışmalar için hız ve performans odaklı yeni işlemciler Graviton4 ve Trainium2'nin geliştirildiğini duyurdu.
  • Graviton4, bilgi işlem performansını %30'a kadar artıran ve önceki modele göre %75 daha fazla bellek bant genişliği sunan en güçlü AWS işlemcisidir.
  • Trainium2 işlemci, rakiplerden dört kat daha hızlı, üç kat daha fazla bellek kapasitesi ve geliştirilmiş enerji verimliliğiyle yapay zeka eğitimi için tasarlanmıştır.

Amazon Web Services (AWS) büyümeye devam ederken Amazon'un ürün yelpazesi de genişliyor. Şimdi ise şirket geliştirdiğini duyurdu. iki yeni işlemciAWS tarafından kullanılacaktır. Bunlardan biri genel amaçlı işler için oluşturulmuşken, diğeri yapay zeka eğitimi göz önünde bulundurularak yapıldı ve Amazon, oyunun adının hız olduğunu belirtiyor.

Kasım'da 28, Amazon AWS'ye özel çalışmalar için iki yeni çipin (AWS Graviton4 ve AWS Trainium2) geliştirildiğini duyurdu. Şirket, Graviton4'ün şu anda kendi ürün gamındaki en güçlü AWS işlemcisi olduğunu ve bilgi işlem performansını %30'a kadar artırabildiğini söylüyor. Ayrıca %75'i var

daha fazla bellek bant genişliği Graviton3 işlemcilerden daha fazla ve Amazon EC2 R8g bulut sunucularında mevcut olacak — bu, yüksek performanslı veritabanlarının yanı sıra büyük veri analitiğini içeren görevlerde yardımcı olabilir iş yükleri. Tom'un Donanımı Graviton4'ün Arm'ın 64 bit mimarisine sahip olduğunu ve 96 çekirdek içerdiğini belirtir. Ancak Amazon, çipin özellikle Arm'ın Neoverse V2 çekirdeklerini kullanıp kullanmadığından bahsetmedi.

Amazon'un Trainium2 işlemcisi özellikle şunlar için geliştirildi: Yapay zeka eğitimive şirket rakiplerinden dört kat daha hızlı olduğunu söylüyor. Ayrıca önceki modele göre üç kat daha fazla bellek kapasitesine sahiptir ve watt başına iki kata kadar daha fazla performans elde edebilir, bu da onu önemli ölçüde daha fazla enerji tasarrufu sağlar. Amazon, işlemciyi kullanan makinelerin, yüksek performanslı bilgi işlem için bir ağ arayüzü olan AWS Elastic Fabric Adapter aracılığıyla bağlanacağını ve petabit ölçeğinde performans sunacağını belirtti. Trainium2, temel modeller ve büyük dil modelleriyle ilişkili, aylar sürebilen eğitim süresini kısaltmak için oluşturuldu.

Her ne kadar pek çok kişi Amazon'u yapay zeka ile hemen ilişkilendirmese de şirket sektöre doğru ilerlemeye devam ediyor. Daha sağlam işlemciler geliştirmeye çalışırken Amazon'un pazara girme girişiminin yakın gelecekte yavaşlayacağını hayal etmek zor.