IA local

La IA local es un modelo de inteligencia artificial que funciona en tu propio ordenador o servidor, sin enviar lo que escribes a una empresa de fuera. Sirve sobre todo para tres cosas: trabajar con datos que no quieres sacar de casa o de la oficina, hacer tareas repetitivas sin pagar por cada uso y aprender cómo funcionan estos modelos por dentro.

Lo que suele confundir es pensar que vas a tener «un ChatGPT en casa». Los modelos que caben en un equipo normal son más pequeños que los grandes de la nube, y en las tareas difíciles se nota. A cambio, son tuyos: funcionan sin internet, no cambian de condiciones de un día para otro y no hay factura por mensaje. Hay que asumir, además, que el modelo es solo una pieza: hace falta un programa que lo ejecute (Ollama, LM Studio o llama.cpp, por ejemplo) y, para que sea útil, algo alrededor que lo conecte con tu trabajo.

Yo la uso junto a la IA en la nube, no en su lugar: tengo más de 50 modelos en local y los manejo con Ollama, LM Studio, llama.cpp y Unsloth. Cómo encaja todo en mi forma de trabajar lo cuento en «Cómo estoy trabajando con la inteligencia artificial». El equipo, los modelos, las utilidades y el balance de para qué me sirve los cuento en artículos aparte, como «Qué equipo hace falta para tener tu propia inteligencia artificial» o «¿Para qué me sirve tener la inteligencia artificial en casa?». Y dónde corre cada pieza está en «Qué corre en cada una de mis máquinas».