โปรเซสเซอร์เซิร์ฟเวอร์ใหม่ของ AWS สามารถฝึกโมเดล AI ได้เร็วขึ้นสูงสุดสี่เท่า

click fraud protection

ประเด็นที่สำคัญ

  • Amazon ประกาศการพัฒนาโปรเซสเซอร์ใหม่ Graviton4 และ Trainium2 สำหรับงานเฉพาะของ AWS โดยมุ่งเน้นที่ความเร็วและประสิทธิภาพ
  • Graviton4 คือโปรเซสเซอร์ AWS ที่ทรงพลังที่สุด ซึ่งเพิ่มประสิทธิภาพการประมวลผลได้สูงสุดถึง 30% และเสนอแบนด์วิธหน่วยความจำมากกว่ารุ่นก่อนถึง 75%
  • โปรเซสเซอร์ Trainium2 ได้รับการออกแบบมาเพื่อการฝึก AI ซึ่งเร็วกว่าคู่แข่งถึงสี่เท่า พร้อมความจุหน่วยความจำเพิ่มขึ้นสามเท่าและประหยัดพลังงานมากขึ้น

เนื่องจาก Amazon Web Services (AWS) ยังคงเติบโต กลุ่มผลิตภัณฑ์ของ Amazon ก็กำลังขยายตัวเช่นกัน ขณะนี้ทางบริษัทได้ประกาศว่าได้มีการพัฒนาแล้ว โปรเซสเซอร์ใหม่สองตัวซึ่ง AWS จะใช้ ในขณะที่หนึ่งในนั้นถูกสร้างขึ้นสำหรับงานทั่วไป แต่อีกอันถูกสร้างขึ้นโดยคำนึงถึงการฝึกอบรม AI และ Amazon ระบุว่าความเร็วเป็นชื่อของเกม

เมื่อวันที่ พ.ย. 28, อเมซอน ประกาศการพัฒนาชิปใหม่สองตัว — AWS Graviton4 และ AWS Trainium2 — สำหรับงานเฉพาะของ AWS บริษัทกล่าวว่าปัจจุบัน Graviton4 เป็นโปรเซสเซอร์ AWS ที่ทรงพลังที่สุดในกลุ่มผลิตภัณฑ์ โดยมีความสามารถในการเพิ่มประสิทธิภาพการประมวลผลสูงถึง 30% นอกจากนี้ยังมี 75%

แบนด์วิธหน่วยความจำมากขึ้น กว่าโปรเซสเซอร์ Graviton3 และจะพร้อมใช้งานในอินสแตนซ์ Amazon EC2 R8g — ซึ่งสามารถช่วยงานที่เกี่ยวข้องกับฐานข้อมูลประสิทธิภาพสูง รวมถึงการวิเคราะห์ข้อมูลขนาดใหญ่ ปริมาณงาน ฮาร์ดแวร์ของทอม ระบุว่า Graviton4 มีสถาปัตยกรรม 64 บิตของ Arm และมี 96 คอร์ อย่างไรก็ตาม Amazon ไม่ได้ระบุว่าชิปใช้แกน Neoverse V2 ของ Arm โดยเฉพาะหรือไม่

โปรเซสเซอร์ Trainium2 จาก Amazon ได้รับการพัฒนาโดยเฉพาะสำหรับ การฝึกอบรมเอไอและบริษัทบอกว่าเร็วกว่าคู่แข่งถึงสี่เท่า นอกจากนี้ยังมีความจุหน่วยความจำเป็นสามเท่าของรุ่นก่อน และสามารถให้ประสิทธิภาพการทำงานต่อวัตต์ได้สูงสุดถึงสองเท่า ทำให้ประหยัดพลังงานได้มากขึ้นอย่างเห็นได้ชัด Amazon ตั้งข้อสังเกตว่าเครื่องที่ใช้โปรเซสเซอร์จะเชื่อมต่อผ่าน AWS Elastic Fabric Adapter ซึ่งเป็นอินเทอร์เฟซเครือข่ายสำหรับการประมวลผลประสิทธิภาพสูง และมอบประสิทธิภาพระดับเพตะบิต Trainium2 ถูกสร้างขึ้นเพื่อลดเวลาการฝึกอบรมที่เกี่ยวข้องกับโมเดลพื้นฐานและโมเดลภาษาขนาดใหญ่ ซึ่งอาจใช้เวลาหลายเดือน

แม้ว่าหลายๆ คนจะไม่ได้เชื่อมโยง Amazon กับ AI ในทันที แต่บริษัทก็ยังคงผลักดันเข้าสู่อุตสาหกรรมต่อไป เนื่องจากทำงานเพื่อพัฒนาโปรเซสเซอร์ที่แข็งแกร่งยิ่งขึ้น จึงเป็นเรื่องยากที่จะจินตนาการว่าการลงทุนในตลาดของ Amazon จะชะลอตัวลงในเร็วๆ นี้