Amazon presenta chips de IA superrápidos para competir con Nvidia, AMD y Microsoft

Rubén Castro, 1 diciembre 2023

No te piertas el día del deporte en AliExpress. Hay un montón de artículos con hasta el 50% de descuento!!!

Ver mejores ofertas

Amazon presentó en su conferencia re:Invent sus chips de nueva generación para una amplia gama de cargas de trabajo basadas en la nube y modelos de entrenamiento de IA con la promesa de un mejor rendimiento y eficiencia energética.

El tema principal de la conferencia re:Invent fue la IA generativa y cómo puede utilizarse para modernizar los servicios de las empresas y aumentar la eficiencia.

Uno de los nuevos chips es Trainium2, destinado al entrenamiento de modelos de IA y del que se dice que ofrece hasta 4 veces más rendimiento y 2 veces más eficiencia energética que su predecesor. También se espera que ofrezca 3 veces más capacidad de memoria que la primera generación de chips Trainium. En la nota de prensa, Amazon afirma que Trainium2 está diseñado para el entrenamiento de alto rendimiento de modelos básicos (FM) y modelos lingüísticos de gran tamaño (LLM) con billones de parámetros.

La empresa también afirma que Trainium2 será superrápido, lo que permitirá a los programadores entrenar modelos en una fracción del tiempo requerido por los chips Trainium de primera generación. Según Amazon, Trainium2 proporcionará hasta 65 exaflops de potencia de cálculo, ofreciendo un “rendimiento de superordenador” y permitiendo a los clientes entrenar un LLM de 300.000 millones de parámetros en semanas en lugar de meses.

La empresa de IA Anthropic, respaldada por Amazon, ya ha anunciado sus planes de utilizar Trainium2 para entrenar sus modelos.

Otro nuevo chip es el Graviton4 basado en Arm, que según Amazon es el “procesador AWS más potente y eficiente energéticamente hasta la fecha”. Está diseñado para una amplia gama de aplicaciones que se ejecutan en ultraclusters de Amazon Elastic Compute Cloud (EC2), y se dice que ofrece hasta un 30 por ciento más de rendimiento computacional, un 50 por ciento más de núcleos y un 75 por ciento más de ancho de banda de memoria que Graviton3.

Según Amazon, el nuevo chip permitirá a los clientes mejorar la ejecución de sus bases de datos de alto rendimiento, cachés en memoria y cargas de trabajo de análisis de big data. Puede utilizarse para procesar mayores cantidades de datos más rápidamente que con los chips Graviton de tercera generación, reduciendo así el tiempo de obtención de resultados y los costes operativos.

Amazon empezará a ofrecer los chips Trainium2 el año que viene, mientras que las instancias R8g impulsadas por Graviton4 ya están disponibles en versión preliminar, y se espera su disponibilidad general en los próximos meses.

Los nuevos chips van a aumentar la competencia en el sector del hardware de IA, actualmente dominado por Nvidia. Microsoft también ha subido la temperatura con el reciente anuncio de su chip Azure Maia 100 y su CPU Azure Cobalt, por lo que será interesante ver cómo se intensifica la batalla en los próximos meses y años.

Rubén Castro

Redactor

Apasionado de explorar y diseccionar lo último en tecnología. Tengo mucha experiencia en el mundo de los ordenadores y el gaming, aunque también me gustan todos los tipos de gadgets.

Consentimiento