Der neue Serverprozessor von AWS kann KI-Modelle bis zu viermal schneller trainieren

Die zentralen Thesen

• Amazon kündigt die Entwicklung neuer Prozessoren, Graviton4 und Trainium2, für AWS-exklusive Arbeit an, wobei der Schwerpunkt auf Geschwindigkeit und Leistung liegt.
• Graviton4 ist der leistungsstärkste AWS-Prozessor, der die Rechenleistung um bis zu 30 % steigert und 75 % mehr Speicherbandbreite als sein Vorgänger bietet.
• Der Trainium2-Prozessor ist für das KI-Training konzipiert, viermal schneller als die Konkurrenz, mit dreifacher Speicherkapazität und verbesserter Energieeffizienz.

Da Amazon Web Services (AWS) weiter wächst, erweitert sich auch die Produktpalette von Amazon. Jetzt gab das Unternehmen bekannt, dass es sich weiterentwickelt hat zwei neue Prozessoren, die von AWS verwendet wird. Während einer von ihnen für allgemeine Zwecke entwickelt wurde, wurde der andere für das KI-Training entwickelt – und Amazon gibt an, dass Geschwindigkeit das A und O ist.

Am Nov. 28, Amazonas kündigte die Entwicklung von zwei neuen Chips an – AWS Graviton4 und AWS Trainium2 – für AWS-exklusive Arbeiten. Das Unternehmen gibt an, dass der Graviton4 derzeit der leistungsstärkste AWS-Prozessor seiner Produktpalette ist und die Rechenleistung um bis zu 30 % steigern kann. Es hat auch 75 %

mehr Speicherbandbreite als Graviton3-Prozessoren, und es wird in Amazon EC2 R8g-Instanzen verfügbar sein – Dies kann bei Aufgaben mit Hochleistungsdatenbanken sowie bei der Analyse großer Datenmengen hilfreich sein Arbeitsbelastungen. Toms Hardware gibt an, dass der Graviton4 über die 64-Bit-Architektur von Arm verfügt und 96 Kerne umfasst. Amazon erwähnte jedoch nicht, ob der Chip speziell Arms Neoverse V2-Kerne nutzt.

Der Trainium2-Prozessor von Amazon wurde speziell dafür entwickelt KI-Training, und das Unternehmen gibt an, dass es viermal schneller ist als seine Konkurrenten. Außerdem verfügt er über die dreifache Speicherkapazität seines Vorgängers und kann bis zu doppelt so viel Leistung pro Watt erreichen, was ihn deutlich energieeffizienter macht. Amazon stellte fest, dass Maschinen, die den Prozessor verwenden, über den AWS Elastic Fabric Adapter – eine Netzwerkschnittstelle für Hochleistungsrechnen – verbunden werden und Leistung im Petabit-Bereich liefern. Trainium2 wurde entwickelt, um die Schulungszeit zu verkürzen, die mit Basismodellen und großen Sprachmodellen verbunden ist und Monate dauern kann.

Obwohl viele Menschen Amazon nicht sofort mit KI in Verbindung bringen, drängt das Unternehmen weiterhin in die Branche. Da Amazon an der Entwicklung robusterer Prozessoren arbeitet, ist es kaum vorstellbar, dass Amazons Markteintritt in absehbarer Zeit nachlassen wird.