Naujasis AWS serverio procesorius gali treniruoti AI modelius iki keturių kartų greičiau

Key Takeaways

  • „Amazon“ praneša apie naujų procesorių „Graviton4“ ir „Trainium2“ kūrimą, skirtą išskirtiniam AWS darbui, daugiausia dėmesio skiriant greičiui ir našumui.
  • Graviton4 yra galingiausias AWS procesorius, padidinantis skaičiavimo našumą iki 30 % ir siūlantis 75 % didesnį atminties pralaidumą nei jo pirmtakas.
  • „Trainium2“ procesorius sukurtas dirbtinio intelekto treniruotėms, keturis kartus greičiau nei konkurentai, su triguba atminties talpa ir geresniu energijos vartojimo efektyvumu.

„Amazon Web Services“ (AWS) ir toliau auga, plečiasi ir „Amazon“ produktų linija. Dabar bendrovė paskelbė, kad ją sukūrė du nauji procesoriai, kurį naudos AWS. Nors vienas iš jų buvo sukurtas bendrosios paskirties darbui, kitas buvo sukurtas atsižvelgiant į AI mokymą – ir „Amazon“ nurodo, kad greitis yra žaidimo pavadinimas.

Lapkričio mėn. 28, Amazon paskelbė apie dviejų naujų lustų – AWS Graviton4 ir AWS Trainium2 – kūrimą, skirtą išskirtiniam AWS darbui. Bendrovė teigia, kad Graviton4 šiuo metu yra galingiausias AWS procesorius savo serijoje, galintis padidinti skaičiavimo našumą iki 30%. Jis taip pat turi 75 proc.

daugiau atminties pralaidumo nei Graviton3 procesoriai, ir jis bus prieinamas bus galimas Amazon EC2 R8g egzemplioriais - tai gali padėti atliekant užduotis, susijusias su didelio našumo duomenų bazėmis, taip pat atliekant didelės apimties duomenų analizę darbo krūviai. Tomo aparatūra nurodo, kad Graviton4 turi Arm's 64 bitų architektūrą ir apima 96 branduolius. Tačiau „Amazon“ nepaminėjo, ar lustas naudoja „Arm's Neoverse V2“ branduolius.

„Amazon“ „Trainium2“ procesorius buvo sukurtas specialiai AI mokymas, o bendrovė teigia, kad tai keturis kartus greitesnė už konkurentus. Jis taip pat turi trigubai didesnę atminties talpą nei jo pirmtakas ir gali pasiekti iki dvigubai didesnį našumą vienam vatui, todėl jis žymiai taupo energiją. „Amazon“ pažymėjo, kad mašinos, naudojantys procesorių, prisijungs per AWS elastinį audinio adapterį – tinklo sąsają, skirtą didelio našumo skaičiavimui – ir užtikrins petabito masto našumą. „Trainium2“ buvo sukurtas siekiant sutrumpinti mokymo laiką, susijusį su pagrindų modeliais ir dideliais kalbų modeliais, o tai gali užtrukti mėnesius.

Nors daugelis žmonių „Amazon“ iš karto nesusieja su AI, bendrovė ir toliau veržiasi į pramonę. Kadangi ji kuria tvirtesnius procesorius, sunku įsivaizduoti, kad „Amazon“ žengimas į rinką artimiausiu metu sulėtės.