AWS-i uus serveriprotsessor suudab AI-mudeleid treenida kuni neli korda kiiremini

ArvutiuudisedNov 30, 2023
click fraud protection

Võtmed kaasavõtmiseks

  • Amazon teatab uute protsessorite Graviton4 ja Trainium2 väljatöötamisest AWS-i eksklusiivseks tööks, keskendudes kiirusele ja jõudlusele.
  • Graviton4 on võimsaim AWS-protsessor, mis suurendab arvuti jõudlust kuni 30% ja pakub 75% rohkem mälu ribalaiust kui tema eelkäija.
  • Trainium2 protsessor on loodud tehisintellekti treenimiseks, konkurentidest neli korda kiirem, kolmekordse mälumahu ja parema energiatõhususega.

Kuna Amazon Web Services (AWS) kasvab jätkuvalt, laieneb ka Amazoni tootesari. Nüüd on ettevõte teatanud, et on arenenud kaks uut protsessorit, mida hakkab kasutama AWS. Kui üks neist loodi üldotstarbeliseks tööks, siis teine ​​tehti tehisintellekti koolitust silmas pidades – ja Amazon täpsustab, et kiirus on mängu nimi.

novembril 28, Amazon teatas kahe uue kiibi – AWS Graviton4 ja AWS Trainium2 – väljatöötamisest AWS-i eksklusiivseks tööks. Ettevõte ütleb, et Graviton4 on praegu oma valikus kõige võimsam AWS-protsessor, mis suudab suurendada arvutusjõudlust kuni 30%. Sellel on ka 75%

rohkem mälu ribalaiust kui Graviton3 protsessorid ja see on saadaval aastal on saadaval Amazon EC2 R8g eksemplarides — see võib aidata nii suure jõudlusega andmebaasidega seotud ülesannete kui ka suurte andmeanalüüside puhul töökoormused. Tomi riistvara täpsustab, et Graviton4 sisaldab Armi 64-bitist arhitektuuri ja sisaldab 96 tuuma. Amazon aga ei maininud, kas kiip kasutab konkreetselt Armi Neoverse V2 südamikke.

Amazoni Trainium2 protsessor töötati välja spetsiaalselt AI koolitusja ettevõte ütleb, et see on konkurentidest neli korda kiirem. Sellel on ka eelkäijaga võrreldes kolmekordne mälumaht ja see suudab saavutada kuni kaks korda suurema jõudluse vati kohta, muutes selle oluliselt energiasäästlikumaks. Amazon märkis, et protsessorit kasutavad masinad ühenduvad AWS Elastic Fabric Adapteri kaudu – suure jõudlusega andmetöötluse võrguliidese kaudu – ja tagavad pebabitise jõudluse. Trainium2 loodi selleks, et vähendada alusmudelite ja suurte keelemudelitega seotud koolitusaega, mis võib kesta kuid.

Kuigi paljud inimesed ei seosta Amazoni kohe tehisintellektiga, jätkab ettevõte oma jõudu selles valdkonnas. Kuna see töötab tugevamate protsessorite arendamiseks, on raske ette kujutada, et Amazoni turule sisenemine aeglustub niipea.