¿Para qué me sirve tener la inteligencia artificial en casa?

Cuatro artículos hablando de equipos, modelos y programas, y falta la pregunta que importa: ¿para qué me sirve todo esto? Aquí va la cuenta final, con lo que se ha quedado, lo que tiré a la papelera y lo que me ha costado frente a pagar la nube.

La frase circula por vídeos y foros con pequeñas variaciones: "instala tu propia inteligencia artificial y olvídate de pagar". Engancha por dos motivos muy humanos: a nadie le gusta pagar una suscripción cada mes y a todos nos gusta la idea de tener algo potente que es solo nuestro.

Es media verdad. Tener la inteligencia artificial en local significa ejecutar un modelo en tu propio ordenador o servidor, en vez de usarlo por internet en los servidores de otra empresa. Pero no es instalar ChatGPT en tu PC: ese modelo no se puede descargar. Lo que se descarga son modelos abiertos, que sus creadores publican para que cualquiera los baje, y los que caben en un equipo normal son más pequeños y menos listos que los grandes de pago.

Yo también piqué. Empecé con la IA local en la primavera de 2024, convencido de que en unos meses dejaría de pagar. No fue así, y este artículo explica por qué, y también por qué, a pesar de eso, no he apagado las máquinas.

Un resumen rápido de lo que ya he contado en otros artículos. En Qué equipo hace falta para tener tu propia inteligencia artificial conté con qué máquinas trabajo y por qué la memoria de la tarjeta gráfica manda sobre todo lo demás. En Más de cincuenta modelos probados en casa repasé los modelos que he ido probando y cuáles han sobrevivido. En Ollama, LM Studio, llama.cpp y Unsloth, cuál uso para cada cosa expliqué los programas que ejecutan esos modelos. Y en Lo que rodea al modelo para que sirva de algo hablé de todo lo que hace falta alrededor para que un modelo sea útil y no un juguete.

Para quien llega nuevo, la definición en una frase: la IA local es un modelo de inteligencia artificial que funciona en tu propio ordenador, sin enviar lo que escribes a una empresa de fuera.

Después de tanto probar, los usos que siguen vivos son pocos y muy concretos. Los separo en lo que está en producción, que uso de verdad en trabajo real, y lo que sigue siendo experimental.

Datos de clientes que no quiero sacar de mis máquinas (en producción). Es el uso que justifica todo lo demás. Clasificar y resumir documentos internos de un cliente, como correos y actas, que por contrato no deben salir de su red ni de la mía. Ahí el modelo local no compite con el de la nube: simplemente, el de la nube no es una opción. Lo hago varias veces por semana, unos pocos cientos de documentos al mes, con un modelo mediano de la familia Qwen en el servidor principal, el de la RTX 4070.

Tareas masivas y repetitivas (en producción). Etiquetar miles de fichas de producto, extraer campos de facturas o limpiar textos antes de meterlos en otra herramienta. Son tareas tontas pero largas, donde pagar por cada consulta no tiene sentido porque la calidad que necesito es modesta. Un par de lotes grandes al mes, de varios miles de elementos cada uno, con un modelo mediano y rápido.

Probar modelos antes de usarlos en otra parte (experimental, pero constante). Cuando sale un modelo abierto nuevo, lo pruebo en casa con mis propios ejemplos antes de plantearme usarlo en un servidor de fuera o recomendárselo a nadie. Una o dos tardes al mes. Esto no me ahorra dinero; me ahorra meter la pata delante de un cliente.

Afinado con Unsloth (experimental). Unsloth sirve para afinar un modelo, es decir, reentrenarlo un poco con tus propios ejemplos para que haga mejor una tarea concreta. Lo he usado para afinar un modelo pequeño que clasifica consultas de soporte; funciona en pruebas, pero todavía no lo he puesto en producción. Lo cuento como lo que es: un experimento que promete.

En números, así queda cada uso:

Si te fijas, ninguno de los usos que se han quedado es "hablar con mi ChatGPT casero". Todos son tareas acotadas, con un motivo claro para no hacerlas fuera.

Ojo: ejecutar en local no garantiza la privacidad por sí solo. Algunos programas mandan estadísticas de uso, la interfaz web guarda el historial de conversaciones, las copias de seguridad llevan esos datos a otra máquina y cualquiera que entre en el servidor puede leerlos. Yo desactivo las estadísticas donde se puede, borro el historial de los trabajos de clientes cuando termino, las copias van cifradas y solo mi usuario entra en esa máquina. Local reduce el riesgo; no lo elimina.

La lista de lo que dejé es más larga que la de lo que se quedó.

El primero y más doloroso: intentar sustituir al asistente de la nube en tareas difíciles, como programar o redactar documentos largos. Probé durante unas tres semanas a trabajar solo con modelos locales. La calidad no llegaba, las respuestas tardaban y acabé revisando tanto que tardaba más que haciéndolo yo. El día que me di cuenta fue cuando le pedí a un modelo local que corrigiera un script de cuarenta líneas y me devolvió uno de ochenta que no funcionaba, con una explicación muy segura de por qué ahora sí. Volví a Claude esa misma tarde, con el rabo entre las piernas.

El segundo: un asistente de voz para casa que entendiera órdenes y consultara mis notas. Se quedó a medias porque la memoria de la tarjeta no daba para tener a la vez el modelo de voz y el de texto, y porque cada actualización rompía algo. Las horas de mantenimiento se comieron la ilusión.

El tercero: tener siempre cargado un modelo grande "por si acaso", que ocupaba toda la memoria gráfica y me impedía usar la máquina para lo demás.

La lección que saco: el modelo es solo una pieza, y los que caben en casa no juegan en la liga de los grandes. No es que sean malos; es que compiten en otra categoría.

Vamos con los números, que es donde se ve si esto es un negocio o una afición.

El equipo dedicado a la IA local, que es el servidor con gráfica completo, me ha costado unos 2.300 euros: la RTX 4070 que contaba al hablar del equipo, el procesador, la memoria y el resto de la máquina. La luz, unos 14 euros al mes de más: la red de casa gasta unos 50 al mes, medidos con un enchufe medidor, y calculo que algo más de una cuarta parte se la lleva el servidor con gráfica. Y las horas, siendo honesto, más de 200 desde que empecé, entre instalar, probar, romper y arreglar.

Separando cada cosa al mes: la amortización, repartiendo los 2.300 euros en cinco años de vida útil, unos 38 euros. La luz, esos 14 euros; después medí el servidor con gráfica por separado y la cuenta cuadra, unos 3 kWh al día. Refrigeración, nada aparte, solo lo cambié de sitio. Mantenimiento, unas dos horas al mes de las que dedico a la red de casa. Copias, casi nada: los modelos no los copio porque se vuelven a descargar; solo guardo configuraciones y scripts. Y un valor residual: la gráfica se podría revender por una parte de lo que costó que no resto porque no sé cuánto será.

Frente a eso, lo que habría pagado por hacer lo mismo en la nube: calculando con mi volumen real de tareas masivas y de documentos, una estimación de unos 40 a 60 euros al mes. Los supuestos: los volúmenes de la tabla de arriba, que suman unos seis millones de tokens al mes entre lo que el modelo lee y lo que escribe, y un modelo de gama media por API, sin descuentos por lotes. No te pongo tarifas de ningún proveedor porque cambian a menudo; la estimación está revisada en septiembre de 2026. Y es teórica: los documentos que no pueden salir de la red del cliente no tienen precio en la nube.

La conclusión, aunque no me deje bien: si solo cuento dinero, no compensa: entre amortización y luz me sale por unos 52 euros al mes, más o menos lo mismo que los 40 o 60 de la nube, y eso sin contar mis horas. Lo que inclina la balanza es otra cosa. La privacidad, porque hay trabajos que sin local no podría aceptar. El aprendizaje, porque entender cómo funcionan estos modelos por dentro me ha hecho mejor usando los de la nube. Y la independencia: nadie me cambia las condiciones de un día para otro.

Así que "gratis" es relativo. Se paga en equipo, en luz y en horas.

La pregunta que más me hacen es cuál es el mejor modelo de inteligencia artificial local. Mi respuesta corta: el más capaz que cabe en tu memoria y hace bien tu tarea. No hay uno mejor para todo el mundo.

Los que sigo usando hoy:

• Un Qwen mediano en el servidor principal, para resumir y clasificar documentos de clientes, y también para los lotes masivos de etiquetado.
• Gemma 3 12B, también en el servidor principal, para redactar y revisar textos.
• Un modelo de DeepSeek destilado, para pruebas de razonamiento y comparaciones.

Cuando sale uno nuevo, elijo al revés de como se suele hacer: primero la tarea, luego la memoria que tengo, y con eso pruebo dos o tres candidatos con ejemplos reales míos. Las clasificaciones de internet me ayudan poco. El detalle, en Más de cincuenta modelos probados en casa.

Tres perfiles, tres respuestas.

Pequeño empresario sin nadie técnico. Probablemente no, salvo que manejes datos que de verdad no pueden salir de tu negocio y tengas a alguien de confianza que te lo monte y lo mantenga. La señal de que sí: una tarea concreta, repetida y con datos sensibles. La señal de que no: "quiero tener mi propio ChatGPT".

Directivo de pyme con datos sensibles. Sí, si hay una tarea concreta que hoy no podéis hacer con la nube por privacidad o por contrato. La señal de que sí: un caso de uso que ya existe y está bloqueado. La señal de que no: querer montarlo antes de saber para qué.

Desarrollador que empieza. Sí, como aprendizaje, con un equipo que ya tengas. La señal de que sí: curiosidad por entender cómo funcionan por dentro. La señal de que no: esperar que sustituya a los modelos grandes en tu trabajo diario.

Tres decisiones que cambiaría. Empezaría por una tarea y no por el equipo: primero el problema, luego la máquina. Probaría menos modelos y mediría más, porque de mis más de cincuenta pruebas, la mitad no me enseñaron nada nuevo. Y no pensaría en otra tarjeta gráfica hasta tener claro que la que tengo se queda corta de verdad.

Lo que se queda es una idea sencilla: la inteligencia artificial en casa no sustituye a la de la nube, la complementa en lo que la nube no puede hacer. Si quieres ver dónde vive cada pieza de todo esto, está en Qué corre en cada una de mis máquinas.