Programar con un modelo en local
Tres semanas con mi modelo local de código como único asistente, y dónde se quedó corto.
Ollama es un programa de código abierto que permite descargar y ejecutar modelos de IA en tu propio ordenador con muy pocos pasos. Sirve para tener un…
Ollama es un programa de código abierto que permite descargar y ejecutar modelos de IA en tu propio ordenador con muy pocos pasos. Sirve para tener un asistente que funciona en tu máquina, sin mandar tus datos a internet, y para que otras aplicaciones usen esos modelos como si fueran un servicio en la nube. Funciona en Windows, Mac y Linux.
Ollama nació para usarse desde la terminal, esa ventana de texto donde se escriben órdenes: escribes algo como «ollama run» seguido del nombre del modelo y te pones a chatear. Hoy también tiene aplicación de escritorio, pero su punto fuerte sigue siendo otro: abre una «puerta» en tu ordenador (lo que los técnicos llaman una API) por la que otros programas pueden pedirle respuestas al modelo. Lo que suele confundir es pensar que Ollama es una IA. No lo es: es el programa que carga y mueve los modelos, como DeepSeek, Qwen, Gemma o Llama. Y no hace milagros con el equipo: si el modelo no cabe en tu memoria, irá lento igual.
Ollama es una de las cuatro herramientas que uso para la IA local, junto con LM Studio, llama.cpp y Unsloth. A estas piezas las llamo arneses: lo que hace que un modelo se pueda usar. En «Ollama, LM Studio, llama.cpp y Unsloth, cuál uso para cada cosa» cuento para qué uso cada uno, cómo acabé usando los cuatro y no solo uno, y qué recomendaría según lo que quieras hacer.
Tres semanas con mi modelo local de código como único asistente, y dónde se quedó corto.
Preparo desde cero un portátil con una gráfica de 8 GB, como lo haría alguien que empieza, y cuento lo que va y lo que no.
Ollama, LM Studio, llama.cpp y Unsloth: para qué uso cada uno.
Un correo a la semana con lo que se ha verificado, lo que se ha refutado y lo que sigue en el banco. Sin resúmenes de noticias.