El nuevo procesador de servidor de AWS puede entrenar modelos de IA hasta cuatro veces más rápido

Conclusiones clave

  • Amazon anuncia el desarrollo de nuevos procesadores, Graviton4 y Trainium2, para trabajo exclusivo de AWS, centrándose en la velocidad y el rendimiento.
  • Graviton4 es el procesador de AWS más potente, mejora el rendimiento informático hasta en un 30 % y ofrece un 75 % más de ancho de banda de memoria que su predecesor.
  • El procesador Trainium2 está diseñado para el entrenamiento de IA, cuatro veces más rápido que la competencia, con el triple de capacidad de memoria y una eficiencia energética mejorada.

A medida que Amazon Web Services (AWS) continúa creciendo, la línea de productos de Amazon también se expande. Ahora, la compañía ha anunciado que ha desarrollado dos nuevos procesadores, que será utilizado por AWS. Si bien uno de ellos fue creado para trabajos de propósito general, el otro fue creado teniendo en mente el entrenamiento de IA, y Amazon especifica que la velocidad es el nombre del juego.

En noviembre 28, Amazonas anunció el desarrollo de dos nuevos chips, AWS Graviton4 y AWS Trainium2, para trabajos exclusivos de AWS. La compañía afirma que Graviton4 es actualmente el procesador AWS más potente de su línea, con la capacidad de mejorar el rendimiento informático hasta en un 30%. También tiene el 75%

más ancho de banda de memoria que los procesadores Graviton3, y estará disponible en instancias Amazon EC2 R8g. Esto puede ayudar con tareas que involucran bases de datos de alto rendimiento, así como análisis de datos de gran tamaño. cargas de trabajo. Hardware de Tom especifica que Graviton4 presenta la arquitectura de 64 bits de Arm e incluye 96 núcleos. Sin embargo, Amazon no mencionó si el chip utiliza específicamente los núcleos Neoverse V2 de Arm.

El procesador Trainium2 de Amazon fue desarrollado específicamente para entrenamiento de IA, y la compañía dice que es cuatro veces más rápido que sus competidores. También tiene el triple de capacidad de memoria que su predecesor y puede alcanzar hasta el doble de rendimiento por vatio, lo que lo hace significativamente más eficiente energéticamente. Amazon señaló que las máquinas que utilizan el procesador se conectarán a través del AWS Elastic Fabric Adapter, una interfaz de red para computación de alto rendimiento, y ofrecerán un rendimiento a escala de petabit. Trainium2 se creó para reducir el tiempo de capacitación asociado con los modelos básicos y los modelos de lenguaje grandes, que pueden llevar meses.

Aunque muchas personas no asocian inmediatamente a Amazon con la IA, la empresa continúa incursionando en la industria. Mientras trabaja para desarrollar procesadores más robustos, es difícil imaginar que la incursión de Amazon en el mercado se desacelere en el corto plazo.