AWS: n uusi palvelinprosessori voi kouluttaa tekoälymalleja jopa neljä kertaa nopeammin

Avaimet takeawayt

• Amazon ilmoittaa uusien Graviton4- ja Trainium2-prosessorien kehittämisestä AWS-yksinomaiseen työhön keskittyen nopeuteen ja suorituskykyyn.
• Graviton4 on tehokkain AWS-prosessori, joka parantaa laskentatehoa jopa 30 % ja tarjoaa 75 % enemmän muistin kaistanleveyttä kuin edeltäjänsä.
• Trainium2-prosessori on suunniteltu tekoälyharjoitteluun, neljä kertaa nopeampi kuin kilpailijat, kolminkertaisella muistikapasiteetilla ja parannetulla energiatehokkuudella.

Kun Amazon Web Services (AWS) jatkaa kasvuaan, myös Amazonin tuotevalikoima laajenee. Nyt yritys on ilmoittanut kehittyneensä kaksi uutta prosessoria, jota AWS käyttää. Toinen niistä luotiin yleiskäyttöön, kun taas toinen tehtiin tekoälyharjoittelua silmällä pitäen – ja Amazon täsmentää, että nopeus on pelin nimi.

marraskuuta 28, Amazon ilmoitti kehittävänsä kaksi uutta sirua - AWS Graviton4 ja AWS Trainium2 - AWS: n yksinomaiseen työhön. Yhtiö sanoo, että Graviton4 on tällä hetkellä kokoonpanonsa tehokkain AWS-prosessori, joka pystyy parantamaan laskentatehoa jopa 30%. Siinä on myös 75 %

enemmän muistin kaistanleveyttä kuin Graviton3-prosessorit, ja se tulee saataville on saatavana Amazon EC2 R8g -esiintymissä - tämä voi auttaa tehtävissä, joihin liittyy tehokkaita tietokantoja, sekä suuria data-analytiikkaa työmäärät. Tomin laitteisto määrittää, että Graviton4 sisältää Armin 64-bittisen arkkitehtuurin ja sisältää 96 ydintä. Amazon ei kuitenkaan maininnut, käyttääkö siru erityisesti Arm's Neoverse V2 -ytimiä.

Amazonin Trainium2-prosessori on kehitetty erityisesti AI koulutus, ja yritys sanoo olevansa neljä kertaa nopeampi kuin kilpailijansa. Siinä on myös kolminkertainen muistikapasiteetti edeltäjäänsä verrattuna ja se voi saavuttaa jopa kaksinkertaisen suorituskyvyn wattia kohden, mikä tekee siitä huomattavasti energiatehokkaamman. Amazon totesi, että prosessoria käyttävät koneet muodostavat yhteyden AWS Elastic Fabric Adapter -sovittimen kautta - verkkorajapinnan korkean suorituskyvyn laskemiseen - ja tarjoavat petabitin mittakaavan suorituskyvyn. Trainium2 luotiin vähentämään perusmalleihin ja suuriin kielimalleihin liittyvää koulutusaikaa, joka voi kestää kuukausia.

Vaikka monet ihmiset eivät heti yhdistä Amazonia tekoälyyn, yritys jatkaa ponnistelujaan alalla. Koska se pyrkii kehittämään tehokkaampia prosessoreita, on vaikea kuvitella, että Amazonin pyrkimys markkinoille hidastuu lähiaikoina.