Unsloth

Unsloth es una herramienta gratuita y de código abierto que sirve para afinar modelos de IA (entrenarlos un poco más con tus propios ejemplos para que se adapten a una tarea) usando menos memoria y menos tiempo que los métodos habituales. Gracias a eso, se puede afinar un modelo pequeño o mediano con una sola tarjeta gráfica de las que se venden para casa, sin alquilar grandes servidores.

Lo que suele confundir es mezclar afinar con usar. Ollama o LM Studio sirven para ejecutar un modelo tal como viene; Unsloth sirve sobre todo para modificarlo, aunque sus versiones recientes incluyen también una interfaz para ejecutar modelos en local. Y afinar no es «enseñarle tus documentos»: para que un modelo consulte tu información hay técnicas más sencillas. Afinar tiene sentido cuando quieres que responda siempre con un estilo, un formato o un criterio concretos. Unsloth publica además versiones comprimidas de muchos modelos conocidos, y por ahí lo descubre mucha gente.

Unsloth es uno de los cuatro programas de mi IA local, junto a Ollama, LM Studio y llama.cpp, y es el que tengo para afinar modelos. Qué aporta cada uno y los problemas reales que me ha dado cada cual lo cuento en «Ollama, LM Studio, llama.cpp y Unsloth, cuál uso para cada cosa». Si estás empezando, deja el afinado para más adelante: primero comprueba si un buen modelo con buenas instrucciones ya te resuelve la tarea.