Una inteligencia artificial en el portátil en una tarde
Preparo desde cero un portátil con una gráfica de 8 GB, como lo haría alguien que empieza, y cuento lo que va y lo que no.
LM Studio es una aplicación de escritorio para Windows, Mac y Linux que permite buscar, descargar y usar modelos de IA en tu ordenador desde una ventana…
LM Studio es una aplicación de escritorio para Windows, Mac y Linux que permite buscar, descargar y usar modelos de IA en tu ordenador desde una ventana, sin escribir órdenes en la terminal. Es probablemente la puerta más amable para probar la IA en local por primera vez. La diferencia con Ollama es de enfoque: LM Studio está pensado para manejarse con el ratón, y Ollama, para la terminal y para que otros programas lo usen por debajo.
Lo que ofrece es bastante intuitivo: un buscador de modelos que te orienta sobre si caben en tu equipo, un chat parecido al de ChatGPT, la posibilidad de trabajar con tus documentos y un modo servidor para que otras aplicaciones se conecten a él. Lo que suele confundir a quien empieza es la elección del modelo: el mismo aparece en varios tamaños y en varias versiones cuantizadas, es decir, comprimidas para ocupar menos a cambio de algo de calidad. Conviene empezar por uno pequeño y subir poco a poco. Y ojo: que la ventana sea cómoda no hace que el modelo sea más listo; eso depende del modelo y de tu equipo.
LM Studio es uno de los cuatro arneses que uso en local, junto con Ollama, llama.cpp y Unsloth; llamo arnés a lo que hace que un modelo se pueda usar. En «Ollama, LM Studio, llama.cpp y Unsloth, cuál uso para cada cosa» cuento para qué uso cada uno, los problemas reales que me he encontrado con ellos y cuál recomendaría a quien empieza, a quien busca rendimiento y a quien quiere afinar un modelo.
Preparo desde cero un portátil con una gráfica de 8 GB, como lo haría alguien que empieza, y cuento lo que va y lo que no.
Ollama, LM Studio, llama.cpp y Unsloth: para qué uso cada uno.
Un correo a la semana con lo que se ha verificado, lo que se ha refutado y lo que sigue en el banco. Sin resúmenes de noticias.