O novo processador de servidor da AWS pode treinar modelos de IA até quatro vezes mais rápido

Principais conclusões

• Amazon anuncia desenvolvimento de novos processadores, Graviton4 e Trainium2, para trabalhos exclusivos da AWS, com foco em velocidade e desempenho.
• Graviton4 é o processador AWS mais poderoso, melhorando o desempenho computacional em até 30% e oferecendo 75% mais largura de banda de memória que seu antecessor.
• O processador Trainium2 foi projetado para treinamento de IA, quatro vezes mais rápido que os concorrentes, com o triplo da capacidade de memória e maior eficiência energética.

À medida que a Amazon Web Services (AWS) continua a crescer, a linha de produtos da Amazon também se expande. Agora, a empresa anunciou que desenvolveu dois novos processadores, que será usado pela AWS. Enquanto um deles foi criado para trabalhos de uso geral, o outro foi feito com o treinamento de IA em mente – e a Amazon especifica que velocidade é o nome do jogo.

Em novembro 28, Amazonas anunciou o desenvolvimento de dois novos chips – o AWS Graviton4 e o AWS Trainium2 – para trabalhos exclusivos da AWS. A empresa afirma que o Graviton4 é atualmente o processador AWS mais poderoso de sua linha, com capacidade de melhorar o desempenho da computação em até 30%. Também tem 75%

mais largura de banda de memória do que os processadores Graviton3, e estará disponível em instâncias R8g do Amazon EC2 - isso pode ajudar em tarefas que envolvem bancos de dados de alto desempenho, bem como análises de grandes dados cargas de trabalho. Ferragens do Tom especifica que o Graviton4 apresenta arquitetura de 64 bits do Arm e inclui 96 núcleos. No entanto, a Amazon não mencionou se o chip usa especificamente os núcleos Neoverse V2 da Arm.

O processador Trainium2 da Amazon foi desenvolvido especificamente para Treinamento de IA, e a empresa afirma que é quatro vezes mais rápido que seus concorrentes. Ele também possui o triplo da capacidade de memória do seu antecessor e pode atingir até o dobro do desempenho por watt, tornando-o significativamente mais eficiente em termos energéticos. A Amazon observou que as máquinas que usam o processador se conectarão por meio do AWS Elastic Fabric Adapter – uma interface de rede para computação de alto desempenho – e fornecerão desempenho em escala de petabit. O Trainium2 foi criado para reduzir o tempo de treinamento associado a modelos básicos e grandes modelos de linguagem, que podem levar meses.

Embora muitas pessoas não associem imediatamente a Amazon à IA, a empresa continua a sua entrada na indústria. À medida que trabalha para desenvolver processadores mais robustos, é difícil imaginar que a entrada da Amazon no mercado irá desacelerar tão cedo.