Hasta ahora, entrenar y afinar modelos de inteligencia artificial en casa era, casi por obligación, cosa de NVIDIA. Eso empieza a cambiar: Unsloth, una de las herramientas open source más populares para afinar (fine-tuning) modelos de lenguaje, acaba de estrenar soporte oficial para GPUs de AMD, desarrollado en colaboración con el propio equipo de AMD. Y no es un soporte de segunda: promete las mismas ventajas que ya ofrecía en NVIDIA, es decir, hasta 2× más de velocidad y un 70 % menos de consumo de VRAM, sin pérdida de precisión.
Qué es Unsloth y por qué importa este movimiento
Unsloth es una herramienta open source (con más de 66.000 estrellas en GitHub) que sirve para entrenar, afinar y ejecutar modelos de lenguaje (LLM) de forma mucho más eficiente. Su gracia es que reescribe las partes más costosas del proceso con kernels optimizados, de modo que entrenas más rápido y usando bastante menos memoria de vídeo, algo crítico porque la VRAM es justo el recurso que más escasea al trabajar con IA en local.
El anuncio, hecho junto a AMD, es importante por una razón de fondo: rompe un poco más el monopolio de facto de NVIDIA en el entrenamiento de IA. Que una de las herramientas de fine-tuning más queridas por la comunidad funcione oficialmente en Radeon abre la puerta a montar un equipo de IA local con hardware AMD, normalmente más asequible en cuanto a VRAM por euro.
Por debajo, el trabajo ha consistido en portar los kernels propios de Unsloth (escritos en Triton) a ROCm, la plataforma de computación de AMD, con ajustes específicos para las arquitecturas RDNA (gráficas de consumo) y CDNA (centro de datos). Si quieres entender la diferencia entre la plataforma de NVIDIA y la de AMD, la explicamos en CUDA vs ROCm.
Qué GPUs de AMD son compatibles
El soporte cubre desde tarjetas de sobremesa hasta el hardware de centro de datos. Estas son las familias admitidas:ref
- Radeon RX 9000 (RDNA 4): soporte completo en Windows, WSL y Linux.
- Radeon RX 7000 (RDNA 3): soporte completo en Windows, WSL y Linux.
- Radeon RX 6000 (RDNA 2): soporte limitado y solo en Linux.
- Ryzen AI 300 / Ryzen AI Max “Strix Halo” (RDNA 3.5): los mini-PC y portátiles con memoria unificada; soporte completo en Windows, WSL y Linux.
- Instinct MI350 (CDNA 4), MI300 (CDNA 3) y MI200 (CDNA 2): las GPUs de centro de datos, solo en Linux. La MI300X llega a 192 GB de memoria.
Conviene tener en cuenta un matiz: para entrenamiento distribuido en varias GPUs hace falta Linux, porque AMD usa la librería RCCL, que en Windows no está disponible con toda su funcionalidad.
Qué puedes hacer y qué necesitas
Con el soporte de AMD, Unsloth permite entrenar, afinar (fine-tuning), hacer aprendizaje por refuerzo (GRPO) y ejecutar modelos en local, ya sea desde línea de comandos o a través de su interfaz Unsloth Studio.
La gran baza sigue siendo la eficiencia. Estas son las cifras que da el proyecto:
- Hasta 2× más rápido y un 70 % menos de VRAM en el entrenamiento de cualquier modelo, sin pérdida de precisión.
- Soporte de QLoRA a 4 bits (con bitsandbytes) en Radeon y en las GPU CDNA, la técnica que permite afinar modelos grandes en muy poca memoria. Con ella se puede, por ejemplo, entrenar un Gemma en 8 GB de VRAM o un modelo tipo Qwen en apenas 3 GB.
Instalación sencilla
Uno de los puntos fuertes es que no tienes que pelearte con ROCm a mano: Unsloth instala automáticamente la versión adecuada de ROCm, PyTorch, bitsandbytes y sus kernels optimizados. La puesta en marcha se reduce a un único comando (con curl en Linux/Mac/WSL o PowerShell en Windows).
En resumen: hasta ahora afinar un LLM en casa casi te obligaba a comprar NVIDIA. Con este movimiento, AMD deja de ser el hermano pobre de la IA local y se convierte en una alternativa real, especialmente atractiva por la cantidad de VRAM que ofrece por su precio.
Fuentes
