Una inteligencia artificial en el portátil en una tarde

Tengo un servidor con tarjeta gráfica en casa y, aun así, la pregunta que más me hacen es la más sencilla: «¿y en mi portátil se puede?». Para contestarla con algo más que un «depende», dejé los servidores quietos una tarde y preparé desde cero mi portátil de trabajo, que lleva una gráfica de portátil de 8 GB, haciendo lo que haría alguien que empieza. Aquí va lo que pasó, los pasos que sí funcionan y para qué sirve de verdad una inteligencia artificial en un portátil normal.

El vídeo ya lo conoces: «Instala tu ChatGPT privado en cinco minutos, gratis y sin internet». Un clic para instalar, otro para descargar un modelo y el presentador charlando con su ordenador como si fuera un amigo. Todo en un portátil fino, sin cables, con cara de no haber sudado nunca.

La promesa tiene una parte de verdad: instalar el programa se hace en cinco minutos. Lo que no cuentan es qué modelo descargar, cuánto pesa, cuánto tarda en responder y qué pasa cuando tu portátil no es el suyo. Esa es la parte que me interesaba medir.

El portátil es el mismo que aparece en la tabla de Qué equipo hace falta para tener tu propia inteligencia artificial: un HP Omen con Windows, una RTX 5070 de portátil con 8 GB de memoria gráfica y 32 GB de memoria RAM. En él tenía ya un modelo pequeño para pruebas, así que lo primero fue borrarlo todo: desinstalé Ollama, borré la carpeta de modelos y dejé el portátil como si nunca hubiera oído hablar de esto.

La regla que me puse fue sencilla: hacer solo lo que haría alguien que empieza. Nada de terminal al principio, nada de ajustes finos, y descargar lo que el propio programa me sugiriera o lo que saliera en los primeros resultados de búsqueda. Lo hice una tarde de finales de septiembre de 2026, con cronómetro y una libreta al lado.

Una aclaración antes de seguir, porque es la confusión más común. Cuando decimos instalar una inteligencia artificial en el PC no estamos instalando ChatGPT ni Claude: esos modelos no se pueden descargar. Lo que se instala es un programa que ejecuta modelos abiertos, publicados por sus creadores para que cualquiera los baje. Y los que caben en un portátil son pequeños.

Empecé por LM Studio, porque es la puerta más amable: una aplicación de escritorio con buscador de modelos y un chat parecido al de ChatGPT. La instalación fueron cuatro minutos, contando la descarga. Hasta ahí, la promesa se cumplía.

Luego vino el buscador. Busqué «el mejor modelo en español» en internet, como haría cualquiera, y me salió una recomendación de un modelo de 14B en un foro. 14B quiere decir unos catorce mil millones de parámetros, que para un portátil es un señor modelo. LM Studio me avisaba de que era grande para mi equipo, pero me dejaba descargarlo igual. Pesaba unos 9 GB y tardó 40 minutos en bajar con la wifi de casa.

Cuando por fin cargó, le pedí que me resumiera un correo largo. La primera palabra tardó varios segundos en aparecer, y después escribía a unos 2 tokens por segundo. El token es el trozo de palabra con el que el modelo escribe; en español, algo menos de una palabra. Dos por segundo es ver a alguien teclear con un dedo y pensarse cada palabra. El resumen de un correo de media página tardó más de dos minutos, y el ventilador del portátil sonaba como si fuera a despegar.

Pensé que el problema era la configuración y fui a por más. Descargué también un modelo de 32B «porque decían que era mucho mejor». Respondió, pero a poco más de 1 token por segundo, con el portátil entero dedicado a eso, y tuve que cerrar LM Studio a mitad del resumen. Una hora de descarga para ver las palabras salir a gotas.

El batacazo tiene una explicación sencilla, y es la misma que conté con los servidores. Lo que manda en la inteligencia artificial local es la memoria de la tarjeta gráfica. Mi portátil tiene 8 GB de esa memoria rápida, y lo que no cabe en ella se va a la RAM normal, donde el trabajo lo hace el procesador, que es mucho más lento para esto.

Los 32 GB de RAM sirven para que el modelo quepa, pero caber no es lo mismo que ir rápido. Un modelo de 9 GB cabe de sobra en la RAM, pero no en los 8 GB de la gráfica; el problema es que, para escribir cada token, el ordenador tiene que recorrer también la parte que se quedó fuera, y la RAM de un portátil no da para hacerlo muchas veces por segundo. Por eso un modelo pequeño no es solo «un poco peor»: en un portátil es la diferencia entre usarlo y abandonarlo.

La gráfica del portátil ayuda mucho, pero solo con lo que cabe entero en ella. En mi caso volaba con los modelos pequeños y no salvaba a los grandes. Ocho gigas son ocho gigas.

La otra fuente de dudas fue qué descargar. El mismo modelo aparece en decenas de versiones con etiquetas como Q4_K_M o Q8_0, que son niveles de compresión. Para quien empieza eso es un laberinto, y perdí casi media hora leyendo nombres antes de elegir. Lo que significan esas letras lo explico en Más de cincuenta modelos probados en casa.

Borré los dos modelos grandes y empecé otra vez con otra idea: primero, algo pequeño que vaya bien; después, si hace falta, subir.

1. Instala LM Studio o Ollama. Si no quieres tocar la terminal, LM Studio. Si te da igual la terminal o quieres que otros programas usen el modelo, Ollama. Para comparar, instalé también Ollama esa misma tarde; con el mismo modelo, la velocidad fue algo menor, pero poca cosa.
2. Descarga un modelo de 3B o 4B de una familia conocida. Qwen, Llama o Gemma, en su versión pequeña. Yo probé Llama 3.2 3B y un Qwen 3 de 4B, los dos en Q4_K_M. Pesaban entre 2 y 3 GB y bajaron en menos de diez minutos.
3. Deja el contexto por defecto al principio. El contexto es cuánto texto recuerda el modelo en una conversación. Subirlo ocupa memoria y ralentiza; no lo toques hasta que lo necesites.
4. Prueba con tus tareas, no con preguntas simpáticas. Yo usé tres: resumir un correo largo, reescribir un párrafo en un tono más formal y sacar en lista las fechas y cantidades de un presupuesto.
5. Cierra lo que no uses. Con el navegador lleno de pestañas y el modelo cargado, un portátil de 16 GB se ahoga enseguida. Con 32 GB hay más margen, pero la memoria no es infinita.

El resultado: con los dos modelos pequeños la primera palabra salía en un par de segundos y escribían a unos 35 tokens por segundo. El resumen del mismo correo tardó unos pocos segundos. Va a la par que un chat de la nube, y se usa sin desesperarse.

En calidad, el Qwen de 4B resumía mejor y el Llama de 3B escribía un español algo más natural. Los dos acertaron con las fechas del presupuesto. En el párrafo formal, los dos metieron alguna frase acartonada que tuve que retocar. Para cosas cortas y concretas, van bien. Para pensar, no.

Desde que abrí el instalador hasta tener el modelo pequeño respondiendo bien pasaron unas tres horas y media, y la mayor parte se fue en descargar y probar lo que no tocaba. Con los pasos de arriba, hoy lo haría en media hora larga, y casi toda sería la descarga.

Un modelo pequeño en un portátil con 8 GB de gráfica sirve para tareas cortas y acotadas: resumir un texto, reescribir un párrafo, sacar datos de un documento, clasificar unas pocas cosas. Va bien sin internet, en un tren o en la sala de espera de un cliente, y lo que escribes no sale de tu máquina.

No le pediría:

• Documentos largos. Con un informe de veinte páginas, el modelo pequeño se dejaba la mitad y, al subir el contexto para que le cupiera, la gráfica se quedaba sin memoria y todo se volvía lento.
• Razonar o programar algo serio. Para eso uso Claude, en la nube, y no hay comparación.
• Sustituir a tu asistente de pago. No es tu ChatGPT privado. Es una herramienta pequeña para tareas pequeñas.

Y un aviso que vale para cualquier equipo: que el modelo sea local no hace privado todo lo demás. El historial de conversaciones se queda guardado en el portátil, y si el portátil se pierde, se pierde con él.

¿Tu ChatGPT privado en cinco minutos? El programa, sí: se instala en cinco minutos. El ChatGPT, no. Lo que tienes en un portátil con 8 GB de gráfica es un modelo pequeño que resume, reescribe y ordena datos a una velocidad aceptable, sin conexión y sin mandar nada fuera. Es útil, pero es otra cosa.

Lo que me costó: una tarde entera, unos 20 GB de descargas que acabaron en la papelera y cero euros. Lo que se lleva quien lo intente: empieza por un modelo de 3B o 4B, prueba con tus tareas reales y solo sube de tamaño si el pequeño se queda corto y tu equipo aguanta. Si quieres saber qué cambia cuando hay una gráfica con más memoria de por medio, está en Qué equipo hace falta para tener tu propia inteligencia artificial, y cuál de los programas uso para cada cosa, en Ollama, LM Studio, llama.cpp y Unsloth, cuál uso para cada cosa.