Amazon presenta chips de IA superrápidos para competir con Nvidia, AMD y Microsoft

Rubén Castro, 1 diciembre 2023

Ya han comenzado las ofertas de verano de AliExpress con ofertas de hasta el 70% en los mejores productos y cupones de descuento:

  • ESSS04: 4€ de descuento con EUR29 de compra mínima
  • ESSS08: 8€ de descuento con EUR59 de compra mínima
  • ESSS12: 12€ de descuento con EUR89 de compra mínima
  • ESSS18: 18€ de descuento con EUR129 de compra mínima
  • ESSS25: 25€ de descuento con EUR179 de compra mínima
  • ESSS40: 40€ de descuento con EUR269 de compra mínima
  • ESSS80: 80€ de descuento con EUR499 de compra mínima

Ver las mejores ofertas

Amazon presentó en su conferencia re:Invent sus chips de nueva generación para una amplia gama de cargas de trabajo basadas en la nube y modelos de entrenamiento de IA con la promesa de un mejor rendimiento y eficiencia energética.

El tema principal de la conferencia re:Invent fue la IA generativa y cómo puede utilizarse para modernizar los servicios de las empresas y aumentar la eficiencia.

Uno de los nuevos chips es Trainium2, destinado al entrenamiento de modelos de IA y del que se dice que ofrece hasta 4 veces más rendimiento y 2 veces más eficiencia energética que su predecesor. También se espera que ofrezca 3 veces más capacidad de memoria que la primera generación de chips Trainium. En la nota de prensa, Amazon afirma que Trainium2 está diseñado para el entrenamiento de alto rendimiento de modelos básicos (FM) y modelos lingüísticos de gran tamaño (LLM) con billones de parámetros.

La empresa también afirma que Trainium2 será superrápido, lo que permitirá a los programadores entrenar modelos en una fracción del tiempo requerido por los chips Trainium de primera generación. Según Amazon, Trainium2 proporcionará hasta 65 exaflops de potencia de cálculo, ofreciendo un “rendimiento de superordenador” y permitiendo a los clientes entrenar un LLM de 300.000 millones de parámetros en semanas en lugar de meses.

La empresa de IA Anthropic, respaldada por Amazon, ya ha anunciado sus planes de utilizar Trainium2 para entrenar sus modelos.

Otro nuevo chip es el Graviton4 basado en Arm, que según Amazon es el “procesador AWS más potente y eficiente energéticamente hasta la fecha”. Está diseñado para una amplia gama de aplicaciones que se ejecutan en ultraclusters de Amazon Elastic Compute Cloud (EC2), y se dice que ofrece hasta un 30 por ciento más de rendimiento computacional, un 50 por ciento más de núcleos y un 75 por ciento más de ancho de banda de memoria que Graviton3.

Según Amazon, el nuevo chip permitirá a los clientes mejorar la ejecución de sus bases de datos de alto rendimiento, cachés en memoria y cargas de trabajo de análisis de big data. Puede utilizarse para procesar mayores cantidades de datos más rápidamente que con los chips Graviton de tercera generación, reduciendo así el tiempo de obtención de resultados y los costes operativos.

Amazon empezará a ofrecer los chips Trainium2 el año que viene, mientras que las instancias R8g impulsadas por Graviton4 ya están disponibles en versión preliminar, y se espera su disponibilidad general en los próximos meses.

Los nuevos chips van a aumentar la competencia en el sector del hardware de IA, actualmente dominado por Nvidia. Microsoft también ha subido la temperatura con el reciente anuncio de su chip Azure Maia 100 y su CPU Azure Cobalt, por lo que será interesante ver cómo se intensifica la batalla en los próximos meses y años.

Rubén Castro

Redactor

Apasionado de explorar y diseccionar lo último en tecnología. Tengo mucha experiencia en el mundo de los ordenadores y el gaming, aunque también me gustan todos los tipos de gadgets.

Consentimiento