Le nouveau processeur de serveur d'AWS peut former des modèles d'IA jusqu'à quatre fois plus rapidement

Points clés à retenir

• Amazon annonce le développement de nouveaux processeurs, Graviton4 et Trainium2, pour un travail exclusif à AWS, en mettant l'accent sur la vitesse et les performances.
• Graviton4 est le processeur AWS le plus puissant, améliorant les performances de calcul jusqu'à 30 % et offrant 75 % de bande passante mémoire en plus que son prédécesseur.
• Le processeur Trainium2 est conçu pour la formation en IA, quatre fois plus rapide que ses concurrents, avec une capacité de mémoire triple et une efficacité énergétique améliorée.

À mesure qu’Amazon Web Services (AWS) continue de croître, la gamme de produits d’Amazon s’élargit également. Aujourd'hui, la société a annoncé qu'elle avait développé deux nouveaux processeurs, qui sera utilisé par AWS. Alors que l’un d’eux a été créé pour un travail général, l’autre a été conçu pour la formation en IA – et Amazon précise que la vitesse est le nom du jeu.

En novembre. 28, Amazone a annoncé le développement de deux nouvelles puces – AWS Graviton4 et AWS Trainium2 – pour des travaux exclusifs à AWS. La société affirme que le Graviton4 est actuellement le processeur AWS le plus puissant de sa gamme, avec la capacité d'améliorer les performances de calcul jusqu'à 30 %. Il compte également 75%

plus de bande passante mémoire que les processeurs Graviton3, et il sera disponible dans les instances Amazon EC2 R8g - cela peut faciliter les tâches impliquant des bases de données hautes performances, ainsi que l'analyse de données volumineuses charges de travail. Le matériel de Tom précise que le Graviton4 présente l'architecture 64 bits d'Arm et comprend 96 cœurs. Cependant, Amazon n'a pas précisé si la puce utilise spécifiquement les cœurs Neoverse V2 d'Arm.

Le processeur Trainium2 d'Amazon a été développé spécifiquement pour Formation en IA, et l’entreprise affirme qu’elle est quatre fois plus rapide que ses concurrents. Il a également trois fois la capacité de mémoire de son prédécesseur et peut atteindre jusqu'à deux fois la performance par watt, ce qui le rend nettement plus économe en énergie. Amazon a noté que les machines utilisant le processeur se connecteront via l'AWS Elastic Fabric Adapter – une interface réseau pour le calcul haute performance – et offriront des performances à l'échelle du pétabit. Trainium2 a été créé pour réduire le temps de formation associé aux modèles de base et aux grands modèles de langage, qui peut prendre des mois.

Bien que de nombreuses personnes n’associent pas immédiatement Amazon à l’IA, l’entreprise continue de s’implanter dans le secteur. Alors qu’Amazon s’efforce de développer des processeurs plus robustes, il est difficile d’imaginer que l’entrée d’Amazon sur le marché ralentira de si tôt.