AWS jaunais servera procesors var apmācīt AI modeļus līdz pat četrām reizēm ātrāk

Datortehnikas JaunumiNov 30, 2023
click fraud protection

Key Takeaways

  • Amazon paziņo par jaunu procesoru Graviton4 un Trainium2 izstrādi AWS ekskluzīvam darbam, koncentrējoties uz ātrumu un veiktspēju.
  • Graviton4 ir jaudīgākais AWS procesors, kas uzlabo skaitļošanas veiktspēju līdz pat 30% un piedāvā par 75% lielāku atmiņas joslas platumu nekā tā priekšgājējs.
  • Trainium2 procesors ir paredzēts mākslīgā intelekta apmācībai, četras reizes ātrāk nekā konkurenti, ar trīskāršu atmiņas ietilpību un uzlabotu energoefektivitāti.

Tā kā Amazon Web Services (AWS) turpina augt, paplašinās arī Amazon produktu līnija. Tagad uzņēmums ir paziņojis, ka ir attīstījies divi jauni procesori, ko izmantos AWS. Lai gan viens no tiem tika izveidots vispārīgam darbam, otrs tika izveidots, paturot prātā AI apmācību, un Amazon norāda, ka spēles nosaukums ir ātrums.

novembrī 28, Amazon paziņoja par divu jaunu mikroshēmu — AWS Graviton4 un AWS Trainium2 — izstrādi AWS ekskluzīvam darbam. Uzņēmums saka, ka Graviton4 pašlaik ir jaudīgākais AWS procesors savā klāstā, kas spēj uzlabot skaitļošanas veiktspēju līdz pat 30%. Tam ir arī 75%

lielāks atmiņas joslas platums nekā Graviton3 procesori, un tas būs pieejams būs pieejams Amazon EC2 R8g gadījumos — tas var palīdzēt ar uzdevumiem, kas saistīti ar augstas veiktspējas datu bāzēm, kā arī lielu datu analīzi darba slodzes. Toma aparatūra norāda, ka Graviton4 ir Arm's 64 bitu arhitektūra un ietver 96 kodolus. Tomēr Amazon neminēja, vai mikroshēmā ir īpaši izmantoti Arm's Neoverse V2 kodoli.

Trainium2 procesors no Amazon tika izstrādāts īpaši AI apmācība, un uzņēmums saka, ka tas ir četras reizes ātrāks nekā tā konkurenti. Tam ir arī trīskārša atmiņas ietilpība nekā tā priekšgājējam, un tas var sasniegt pat divas reizes lielāku veiktspēju uz vatu, padarot to ievērojami energoefektīvāku. Amazon atzīmēja, ka mašīnas, kas izmanto procesoru, savienosies, izmantojot AWS elastīgo auduma adapteri — tīkla saskarni augstas veiktspējas skaitļošanai, un nodrošinās petabita mēroga veiktspēju. Trainium2 tika izveidots, lai samazinātu apmācības laiku, kas saistīts ar pamata modeļiem un lieliem valodu modeļiem, kas var ilgt mēnešus.

Lai gan daudzi cilvēki Amazon uzreiz nesaista ar AI, uzņēmums turpina virzīties uz šo nozari. Tā kā tas darbojas, lai izstrādātu izturīgākus procesorus, ir grūti iedomāties, ka Amazon ienākšana tirgū tuvākajā laikā palēnināsies.