De nieuwe serverprocessor van AWS kan AI-modellen tot vier keer sneller trainen

Nieuws InformaticaNov 30, 2023
click fraud protection

Belangrijkste leerpunten

  • Amazon kondigt de ontwikkeling aan van nieuwe processors, Graviton4 en Trainium2, voor exclusief AWS-werk, met de nadruk op snelheid en prestaties.
  • Graviton4 is de krachtigste AWS-processor, die de rekenprestaties tot 30% verbetert en 75% meer geheugenbandbreedte biedt dan zijn voorganger.
  • Trainium2-processor is ontworpen voor AI-training, vier keer sneller dan concurrenten, met drie keer zoveel geheugencapaciteit en verbeterde energie-efficiëntie.

Terwijl Amazon Web Services (AWS) blijft groeien, breidt de productlijn van Amazon zich ook uit. Nu heeft het bedrijf aangekondigd dat het zich heeft ontwikkeld twee nieuwe processors, die door AWS zal worden gebruikt. Terwijl de ene is gemaakt voor algemeen werk, is de andere gemaakt met AI-training in gedachten – en Amazon geeft aan dat snelheid de sleutel is.

Op nov. 28, Amazone kondigde de ontwikkeling aan van twee nieuwe chips – de AWS Graviton4 en AWS Trainium2 – voor exclusief AWS-werk. Het bedrijf zegt dat de Graviton4 momenteel de krachtigste AWS-processor in zijn assortiment is, met de mogelijkheid om de rekenprestaties tot 30% te verbeteren. Het heeft ook 75%

meer geheugenbandbreedte dan Graviton3-processors, en het zal beschikbaar zijn in Amazon EC2 R8g-instanties - dit kan helpen bij taken waarbij hoogwaardige databases betrokken zijn, maar ook bij grote data-analyses werkdruk. Tom's hardware specificeert dat de Graviton4 de 64-bit-architectuur van Arm heeft en 96 cores bevat. Amazon heeft echter niet vermeld of de chip specifiek Arm's Neoverse V2-kernen gebruikt.

De Trainium2-processor van Amazon is speciaal ontwikkeld voor AI-training, en het bedrijf zegt dat het vier keer sneller is dan zijn concurrenten. Hij heeft ook drie keer zoveel geheugencapaciteit als zijn voorganger en kan tot twee keer zoveel prestaties per watt behalen, waardoor hij aanzienlijk energiezuiniger is. Amazon merkte op dat machines die de processor gebruiken, verbinding zullen maken via de AWS Elastic Fabric Adapter – een netwerkinterface voor high-performance computing – en prestaties op petabit-schaal zullen leveren. Trainium2 is gemaakt om de trainingstijd te verkorten die gepaard gaat met basismodellen en grote taalmodellen, wat maanden kan duren.

Hoewel veel mensen Amazon niet onmiddellijk associëren met AI, zet het bedrijf zijn activiteiten in de sector voort. Terwijl het bedrijf werkt aan de ontwikkeling van robuustere processors, is het moeilijk voor te stellen dat de onderneming van Amazon op de markt binnenkort zal vertragen.