Amazon ha presentado un nuevo chip de IA con el que espera robarle un segmento del mercado a NVIDIA. La empresa aprovechó el inicio de su evento AWS re:Invent para anunciar una versión mejorada de su chip de entrenamiento e inferencia. Trainium3 es un procesador de 3 nanómetros cuatro veces más potente que su predecesor.
De acuerdo con un comunicado de prensa, los nuevos chips se montarán en un sistema llamado UltraServer Trn3, un servidor que cuadruplica en rendimiento, eficiencia y ancho de banda de memoria a los equipos con Trainium2. La compañía señala que estos chips están diseñados para ofrecer la mejor economía de tokens en aplicaciones de razonamiento, generación de video y agentes de IA.
Trainium3 tiene un rendimiento de 2,52 petaflops de cálculo FP8 por chip, cuenta con 144 GB de memoria HBM3e y un ancho de banda de hasta 4,9 TB/s. Amazon señala que su procesador de IA está diseñado para cargas de trabajo densas, como Mixture of Experts y contexto largo. El chip garantiza un mejor equilibro de memoria y cómputo para tareas multimodales y de razonamiento.
