IA local

La IA no tiene por qué vivir en la nube de otro. Se puede tener en tu propio ordenador, sin suscripción y sin que tus datos salgan de casa. Yo trabajo con cuatro plataformas (Ollama, LM Studio, llama.cpp y Unsloth) y he probado más de 50 modelos. En esta sección cuento esa experiencia desde el principio, con los aciertos y con el dinero y las horas que se me fueron en lo que no funcionó.

No va solo de modelos. Aquí entra todo lo que hace falta para que la IA funcione en máquinas propias: el equipo y la tarjeta gráfica (GPU), los modelos, los programas que los ejecutan y lo que los rodea para que sirvan de algo. Te explico por qué la memoria de la tarjeta manda sobre todo lo demás, qué es una cuantización y por qué te permite correr un modelo grande en una máquina modesta, y qué significan los tamaños de los modelos, sin jerga innecesaria. Los servidores en sí, qué máquina hace qué y los VPS, los cuento en VPS vs servidores internos.

Y la pregunta de fondo: ¿para qué me sirve? Hay tareas en las que la IA local sustituye a la de pago y otras en las que se queda corta, y conviene saberlo antes de gastarse dinero en una GPU. Te cuento qué uso yo en local, qué sigo haciendo en la nube y a quién le compensa montarse su propia IA en casa y a quién no.