Comienzan los Días Naranjas en PcComponentes. Hay un montón de artículos con descuentos impresionantes!!!
Ver mejores ofertasDado que la escala de los modelos generativos de IA crece más rápido que las capacidades de cálculo necesarias para entrenarlos y ejecutarlos, no es de extrañar que empresas como Microsoft estén explorando soluciones internas como alternativa al hardware comercial de la empresa dominante en el espacio de las GPU dedicadas.
La carrera por la supremacía de la IA entre los gigantes tecnológicos no ha hecho más que empezar, y ya va más allá de alimentar con enormes cantidades de datos a modelos como el famoso ChatGPT que forma parte de casi todos los ciclos de noticias.
Debido a eso, Microsoft está desarrollando un chip de IA personalizado para entrenar sus modelos. La misteriosa pieza de silicio tiene el nombre en clave de “Athena” y, según los informes, la compañía comenzó a trabajar en ella en 2019. Por ahora, solo un pequeño grupo de empleados de Microsoft y OpenAI tienen acceso a él para probar cómo se comporta cuando se utiliza para grandes modelos de lenguaje como GPT-4.
Para leer más tarde...
Las empresas grandes y pequeñas se están haciendo con todas las GPU Nvidia de nivel empresarial que pueden con el fin de construir potentes sistemas necesarios para entrenar modelos de inteligencia artificial utilizando conjuntos de datos curados. Este es el mismo hardware que utilizan para ejecutar los modelos y realizar lo que se denomina “inferencia”, el proceso que toma información o datos del mundo real y genera un contenido útil para una aplicación específica.
El problema es que Nvidia sólo puede fabricar un número limitado de GPU A100 y H100, y todas y cada una de ellas cuestan una pequeña fortuna.
- Las GPU A100 cuestan unos 10.000 dólares cada una
- Y las más modernas H100 superan los 40.000 dólares
Por eso Nvidia está tan contenta con la demanda que está desplazando parte de la capacidad de producción de las GPU GeForce RTX 4090 para fabricar más GPU H100.
Por lo tanto, no debería sorprender que empresas como Microsoft estén intentando reducir su dependencia de un único proveedor para sus esfuerzos de aprendizaje automático. Esto también podría suponer un importante ahorro de costes en el futuro, razón por la cual Amazon, Meta y Google están siguiendo el mismo camino de fabricar sus propios chips.
Con **300 personas trabajando en el chip Athena **y varias generaciones previstas para los próximos años, será interesante ver en qué queda la actual asociación de Microsoft con Nvidia. En cualquier caso, el gigante de Redmond ha estado muy ocupado incorporando tecnología de IA a todos los productos o servicios que ofrece, ya sea el navegador Edge, su motor de búsqueda Bing, la suite Microsoft 365, GitHub y otros.
Curiosamente, un informe separado de Thurrott sugiere que Microsoft también está desarrollando una unidad de procesamiento neuronal (NPU) para su línea de dispositivos Surface. Actualmente utiliza CPU y SoC de Intel, AMD y Qualcomm; hasta ahora, solo la versión Qualcomm de la Surface Pro 9 incorpora una NPU.