AWS의 새로운 서버 프로세서는 AI 모델을 최대 4배 더 빠르게 훈련할 수 있습니다.

주요 시사점

  • Amazon은 속도와 성능에 초점을 맞춘 AWS 독점 작업을 위한 새로운 프로세서 Graviton4 및 Trainium2의 개발을 발표했습니다.
  • Graviton4는 가장 강력한 AWS 프로세서로, 이전 제품보다 컴퓨팅 성능을 최대 30% 향상시키고 75% 더 많은 메모리 대역폭을 제공합니다.
  • Trainium2 프로세서는 경쟁사보다 4배 빠른 AI 훈련용으로 설계되었으며 메모리 용량은 3배, 에너지 효율성은 향상되었습니다.

Amazon Web Services(AWS)가 지속적으로 성장함에 따라 Amazon의 제품 라인도 확장되고 있습니다. 이제 회사는 개발했다고 발표했습니다. 두 개의 새로운 프로세서, 이는 AWS에서 사용됩니다. 그 중 하나는 범용 작업을 위해 만들어졌지만 다른 하나는 AI 교육을 염두에 두고 만들어졌습니다. Amazon은 속도가 게임의 이름이라고 명시합니다.

11월 28, 아마존 는 AWS 독점 작업을 위한 두 가지 새로운 칩(AWS Graviton4 및 AWS Trainium2) 개발을 발표했습니다. 회사에 따르면 Graviton4는 현재 자사 라인업에서 가장 강력한 AWS 프로세서로, 컴퓨팅 성능을 최대 30%까지 향상시킬 수 있습니다. 그것도 75% 더 많은 메모리 대역폭 Graviton3 프로세서보다 Amazon EC2 R8g 인스턴스에서 사용할 수 있습니다 — 이는 고성능 데이터베이스 및 대규모 데이터 분석과 관련된 작업에 도움이 될 수 있습니다. 작업 부하. 톰의 하드웨어 Graviton4는 Arm의 64비트 아키텍처를 특징으로 하며 96개의 코어를 포함한다고 지정합니다. 그러나 Amazon은 이 칩이 Arm의 Neoverse V2 코어를 특별히 사용하는지 여부는 언급하지 않았습니다.

Amazon의 Trainium2 프로세서는 특별히 개발되었습니다. AI 훈련, 그리고 회사는 경쟁사보다 4배 더 빠르다고 말합니다. 또한 이전 제품에 비해 메모리 용량이 3배 증가했으며 와트당 성능이 최대 2배 향상되어 에너지 효율성이 훨씬 높아졌습니다. Amazon은 이 프로세서를 사용하는 시스템이 고성능 컴퓨팅을 위한 네트워크 인터페이스인 AWS Elastic Fabric Adapter를 통해 연결되어 페타비트 규모의 성능을 제공할 것이라고 밝혔습니다. Trainium2는 몇 달이 걸릴 수 있는 기초 모델 및 대규모 언어 모델과 관련된 훈련 시간을 줄이기 위해 만들어졌습니다.

많은 사람들이 Amazon을 AI와 즉시 연관시키지는 않지만 회사는 계속해서 업계에 진출하고 있습니다. 보다 강력한 프로세서를 개발하기 위해 노력하고 있는 만큼 아마존의 시장 진출이 조만간 둔화될 것이라고는 상상하기 어렵습니다.