Programar con un modelo en local

Tengo un modelo pequeño de código instalado en el servidor gráfico desde hace tiempo, y hasta ahora lo usaba como quien tiene una calculadora en el cajón: para cosas rápidas. Quise saber si podía ser algo más. Durante tres semanas lo convertí en mi único asistente de programación en mis proyectos propios, sin nube. Esto es lo que dio de sí.

La promesa suena muy bien: «monta tu propio Copilot gratis en tu ordenador y deja de enviar tu código a nadie». Copilot es el asistente de programación de GitHub, y la idea es tener algo parecido funcionando en casa, con un modelo abierto, sin pagar suscripción y sin que tu código salga de tu máquina.

Lo de la privacidad tiene mucho sentido. Cuando programas con un asistente en la nube, el código que le enseñas viaja a los servidores de otra empresa. Si es código tuyo, no pasa gran cosa. Si es de un cliente o toca datos de un cliente, la conversación cambia.

Lo de «gratis» ya lo he matizado otras veces: la licencia del modelo no cuesta, pero la gráfica, la luz y las horas sí.

El modelo fue el de siempre para código: Qwen 2.5 Coder de 7B, cuantizado a 8 bits, que es el que aparece en mi tabla de más de cincuenta modelos probados en casa. Corre en la RTX 4070 de 12 GB del servidor gráfico y cabe con holgura; yo lo uso desde el editor de la estación de trabajo, que no tiene gráfica propia.

Para usarlo desde el editor instalé Visual Studio Code con la extensión Continue, que es de código abierto y permite conectar el editor con modelos locales: autocompletado mientras escribes, un chat al lado y la opción de pedirle cambios sobre el fichero abierto. Para las preguntas más largas, además, la conecté al Qwen 3 de 14B que sirve Ollama en ese mismo servidor, mi modelo local del día a día, a ver si el hermano mayor salvaba lo que el pequeño no llegaba a hacer.

Las reglas del reto: del 9 al 27 de noviembre de 2026, en todo lo que programé para mis proyectos propios, nada de Claude ni de ningún asistente en la nube. El trabajo de clientes siguió como siempre, porque no iba a experimentar con lo ajeno. Fueron unas 22 horas de trabajo con el asistente local, repartidas en catorce sesiones.

Instalarlo fue lo fácil. Me llevó algo menos de una hora, casi toda en que la extensión encontrara el modelo en la red interna y en elegir qué modelo hacía cada cosa.

Empiezo por lo bueno, que lo hubo.

Completar código mientras escribo. Es donde más brilla. Sugiere el final de la línea o las tres siguientes, rápido y casi siempre con sentido. La respuesta llegaba en menos de un segundo, que es lo que necesita el autocompletado: si tarda, estorba.

Explicar un trozo de código. Le señalaba una función y le preguntaba qué hacía. De unas veinte explicaciones que le pedí, solo en dos se equivocó en algo importante, y en las dos la función dependía de otra que estaba en un fichero que no había visto.

Scripts pequeños y sueltos. Un script para renombrar fotos por fecha, otro para contar líneas de los registros de un servidor y una función para limpiar texto. Cosas de un solo fichero, con un principio y un final claros. Salieron bien, con una o dos correcciones cada una.

Y lo que no se ve: nada de eso salió de mi red. Ni una línea.

El batacazo llegó en cuanto el cambio tocaba más de un fichero.

La tarea que lo dejó claro fue cambiar el formato de las fechas en el script que prepara los artículos de mi blog. El cambio afectaba al script, a dos plantillas y al fichero de configuración. El modelo pequeño cambió bien el script, pero no sabía que las plantillas esperaban el formato viejo. Cuando se lo dije, las cambió sin tocar la configuración. Cuando le enseñé la configuración, volvió a tocar el script y deshizo parte de lo primero.

Lo intenté después con el Qwen de 14B. Entendió mejor la tarea y la explicó bien, pero al aplicarla se dejó uno de los cuatro ficheros y en otro inventó el nombre de una variable que no existía. Entre los dos intentos se me fueron unas tres horas en algo que, con Claude Code, había resuelto tareas parecidas en menos de una.

¿Por qué pasa? Por dos cosas. La primera es el tamaño del modelo: uno de 7B o de 14B tiene mucho menos «oficio» que los modelos grandes de la nube, y se nota en cuanto el razonamiento es largo. La segunda es lo que rodea al modelo. Un asistente de editor como el que monté le enseña al modelo lo que yo le paso; un agente como Claude Code va él mismo a buscar los ficheros, ejecuta las pruebas y comprueba si lo que ha hecho funciona. Con el local yo hacía de agente: le iba llevando los ficheros de uno en uno, y ahí es donde se perdía el hilo.

Probé a darle más contexto de golpe, metiendo los cuatro ficheros en la conversación. La memoria gráfica aguantó, pero la respuesta tardaba más de un minuto y mezclaba cosas de un fichero con otro.

Más allá de las tareas concretas, hubo cosas pequeñas que pesan cuando pasas tres semanas con un asistente.

La primera, que el modelo pequeño no dice «no lo sé». Cuando no tenía el contexto, se lo inventaba con la misma seguridad con la que acertaba. Con Claude también pasa, pero menos, y sobre todo Claude Code puede ir a mirar antes de contestar.

La segunda, el idioma. Le hablaba en español y contestaba bien, pero los comentarios que ponía en el código le salían a veces en inglés y a veces en chino. Nada grave, pero había que repasarlos.

La tercera, a favor: la velocidad. Sin colas, sin límites de uso y sin esperar a la red, el autocompletado local era más ágil que el de la nube que había probado antes. Y no tener que pensar en qué código le estoy enseñando a quién da una tranquilidad que no esperaba.

Para que nadie saque conclusiones de más: no he probado modelos de código más grandes. Uno mayor, de 32B, no cabe entero en los 12 GB del servidor y tendría que repartirlo con la RAM, más lento; es posible que rinda bastante mejor en cambios de varios ficheros. Tampoco he probado a usar un modelo local dentro de un agente de verdad durante tanto tiempo; en los diez días con DeepSeek Harness lo intenté un par de días y se quedó corto, pero fue una prueba breve.

Así que mi conclusión vale para mi equipo, mis modelos y mis proyectos. Con otra gráfica, la historia puede cambiar.

Después de las tres semanas, no he tirado el modelo local ni me he pasado entero a él. He hecho un reparto según lo que se juega el código:

La fila del medio es la que justifica el montaje. Hay un par de scripts de mantenimiento que trabajan sobre copias con datos de clientes, y para esos prefiero un modelo que se queda en casa, aunque tenga que revisar más. Menos calidad, pero el código y lo que lee no se mueven de mi red.

La regla que me queda es sencilla: cuanto más se juega el código y más ficheros toca, más me compensa pagar el modelo grande. Cuanto más privado es y más pequeño es el cambio, mejor encaja el local.

¿Qué hay de verdad en la promesa? Tener un autocompletado decente en casa, gratis de licencia y sin enviar nada fuera, es real. Lo uso a diario y funciona. Si buscas el mejor modelo local para eso, uno pequeño de código en una gráfica de 12 GB ya da un servicio digno.

¿Qué es humo? Lo de «tu propio Copilot» si con eso entiendes un asistente que programa contigo cambios de verdad. Un modelo pequeño completa y explica; no lleva un cambio que cruza el proyecto de punta a punta.

¿Qué me ha costado? Unas 22 horas de trabajo en tres semanas, de las que calculo que unas cinco se fueron en pelearme con cambios que el modelo no sacaba. En dinero, nada aparte de la luz, que en una gráfica de este tamaño es poca y que ya estaba contada cuando repasé para qué me sirve tener la inteligencia artificial en casa.

Si quieres montarlo tú, empieza por lo que mejor hace: el autocompletado. Con Ollama sirviendo el modelo y una extensión en el editor, en una tarde lo tienes. Y cuando el cambio toque medio proyecto, no te empeñes: ahí la privacidad se paga en horas.