Qué equipo hace falta para tener tu propia inteligencia artificial

Qué máquinas y qué GPU uso para correr modelos en casa, y qué haría falta para empezar.

  • ProblemaQué máquinas y qué GPU uso para correr modelos en casa, y qué haría falta para empezar.

Tener tu propia inteligencia artificial en casa suena a ciencia ficción y, en parte, lo es. Aquí te enseño con qué equipo corro modelos en casa, qué es lo que manda de verdad (spoiler: la memoria de la tarjeta gráfica) y qué se puede hacer con tres niveles de máquina. La idea es que sepas si tu ordenador te vale para empezar y qué no deberías comprar a lo loco.

La promesa del ChatGPT en tu casa

«Instala tu propia inteligencia artificial gratis en cinco minutos.» El vídeo dura doce, el presentador sonríe mucho y al final tiene un chat funcionando en su portátil que responde como un oráculo.

La primera vez que lo intenté yo, los cinco minutos se convirtieron en una tarde entera: la descarga del modelo tardó más de una hora, el programa no reconocía la tarjeta gráfica y, cuando por fin respondió, escribía una palabra cada dos segundos, como un telegrafista con resaca. Ni ChatGPT, ni en casa, ni en cinco minutos. Tres errores en una frase, todo un récord.

Aquí cuento lo que pasó después, cuando dejé de creerme el vídeo y empecé a entender qué hacía. Hablo solo de hierro: máquinas, tarjetas gráficas y memoria; los modelos, los programas y lo demás tienen sus propios artículos.

Por qué me metí en esto

Mis motivos fueron varios, y no todos nobles. El primero, la privacidad: trabajo con documentos de clientes que no me hace ninguna gracia mandar a servidores ajenos. El segundo, el coste de las tareas repetitivas, que en la nube se pagan por cada llamada. Y el tercero, pura curiosidad de viejo cacharrero: quería ver cómo funcionan estos modelos por dentro.

Pero antes aclaremos qué es esto. La inteligencia artificial local es un modelo que funciona en tu máquina sin mandar nada fuera. El modelo, simplificando mucho, es el «cerebro» que se descarga: un fichero grande que es el que responde.

Lo que no es tener la IA en local: instalar ChatGPT o Claude en tu PC. Esos modelos no se pueden descargar. Lo que se usan son modelos abiertos, que sus creadores publican para que cualquiera los baje, como los de DeepSeek, Qwen, Llama, Gemma o Mistral. Casi siempre son de «pesos abiertos»: puedes descargar el modelo terminado, pero no necesariamente el código y los datos con los que se entrenó, que es lo que haría falta para hablar de código abierto de verdad. Y cada uno trae su licencia: unas dejan hacer casi de todo y otras ponen condiciones de uso, así que mírala antes de usarlo para trabajar. Y los que caben en un equipo normal son más pequeños y menos listos que los grandes de la nube.

En mi caso, lo local convive con la nube, no la sustituye. Trabajo sobre todo con Claude, y los modelos de casa son una pieza más del montaje, no el centro.

Mi primer intento, con lo que tenía

Empecé en la primavera de 2024, con Ollama, en mi ordenador de trabajo de entonces, con Windows: un PC de sobremesa con un procesador decente, 16 GB de RAM y una tarjeta gráfica de hacía unos años con 4 GB de memoria. El servidor de la RTX 4070 lo tenía para otras cosas y ni se me ocurrió usarlo. Me pareció suficiente. Tenía un buen procesador, ¿qué podía salir mal?

Probé un modelo de 13B, es decir, de unos trece mil millones de parámetros, porque en los foros decían que era «el bueno», en Q4 y con el contexto que Ollama traía por defecto. Y pasó lo que tenía que pasar: no cabía en la tarjeta, el programa pasó buena parte a la memoria normal y la respuesta salía a algo más de un token por segundo. Al tercer mensaje largo, el ordenador se colgó y tuve que reiniciarlo a botonazo.

El token es la unidad con la que el modelo lee y escribe: un trozo de palabra, a veces una palabra entera o un signo. Por eso la velocidad se mide en tokens por segundo; en español, un token viene a ser algo menos de una palabra.

Lo intenté con otro más pequeño, un Llama de 7B comprimido, y la cosa cambió: respondía a una velocidad aceptable, unos diez tokens por segundo, aunque con respuestas bastante más flojas. Yo mirando el procesador, que apenas se despeinaba, y el cuello de botella estaba en otro sitio.

Ahí aprendí la lección que da paso al siguiente apartado: en mi caso no faltaba procesador. Faltaba memoria de la gráfica.

Lo que manda de verdad, la VRAM

La VRAM es la memoria propia de la tarjeta gráfica, y es la pieza que decide qué puedes hacer. Piénsalo como el tamaño de la mesa de trabajo. Si el modelo cabe entero en la mesa, la gráfica trabaja rápido. Si no cabe, una parte se va a la memoria normal del ordenador, que está lejos, y todo se arrastra. No un poco: muchísimo.

Por eso, si te preguntas qué tarjeta gráfica necesitas para la inteligencia artificial local, la respuesta no está en la potencia bruta sino en la memoria. A veces compensa más una gráfica modesta con más memoria que una más rápida con menos. Y el procesador, que en otras tareas es el rey, aquí importa menos de lo que parece mientras el modelo quepa en la gráfica. Cuando no cabe, la cosa cambia: entran en juego la cantidad de RAM y su velocidad, cuánta parte del modelo se va a la memoria normal, el contexto (cuanto más texto le das, más memoria ocupa), la cuantización y el programa que lo ejecuta. Ahí un procesador y una memoria mejores sí se notan, aunque no hacen milagros.

Sobre marcas, revisado en septiembre de 2026, que esto cambia rápido: las de NVIDIA siguen siendo las más compatibles con las herramientas de inteligencia artificial. Las de AMD funcionan con Ollama, LM Studio o llama.cpp, pero no todos los modelos de tarjeta están igual de soportados, sobre todo en Windows; mira la lista de compatibles de tu programa antes de comprar. Las de Intel van sobre todo a través de llama.cpp y de lo que se construye encima, con menos recorrido. Los Mac con chip de Apple son un caso aparte: usan memoria unificada, compartida entre el procesador y la gráfica, y se defienden bien. Yo solo he probado NVIDIA, así que de las demás hablo por lo que dice la documentación, no por experiencia.

Dos palabras que verás mucho. Los tamaños, como 7B o 14B, indican los miles de millones de parámetros del modelo, que son, por decirlo así, las piezas con las que «piensa»: más grande suele ser más listo y más pesado. Y la cuantización, que es comprimir el modelo para que ocupe menos a cambio de perder algo de calidad. Todo esto lo desarrollo en Más de cincuenta modelos probados en casa.

Un ejemplo mío, en la misma máquina, el servidor con la RTX 4070 de 12 GB de VRAM y 64 GB de RAM: un Llama 3.1 de 8B cabía entero y respondía a unos treinta y cinco tokens por segundo; un Qwen 2.5 de 32B no cabía, se repartía con la memoria normal y bajaba a uno o dos tokens por segundo. Los dos en Q4_K_M, con Ollama, un contexto de 4.096 tokens y la misma pregunta. Misma máquina, mismo programa, unas veinte veces más lento. Esa es la diferencia entre caber y no caber.

Si lo que buscas es qué ordenador para la inteligencia artificial local comprar, empieza por aquí: mira la memoria de la gráfica antes que nada.

El equipo que uso hoy

Esto es lo que corre modelos en casa: la única máquina con gráfica de mi red interna de 8 servidores, más el portátil.

Máquina GPU VRAM RAM Para qué la uso
Servidor Linux principal RTX 4070 12 GB 64 GB Modelos pequeños y medianos a diario; de noche, ajustes con Unsloth

| Portátil de trabajo (HP Omen) | RTX 5070 para portátil | 8 GB | 32 GB | Probar modelos con LM Studio antes de pasarlos al servidor, y fuera de casa |

El resto de la red son mini PC y máquinas viejas recicladas que hacen otras cosas: servicios, agentes, copias de seguridad. No corren modelos, y no les hace falta.

Qué compré y qué ya tenía: el servidor principal lo monté en diciembre de 2023, con un procesador Intel i7 de 20 núcleos y la RTX 4070 comprada nueva; el servidor completo, con la gráfica dentro, rondó los 2.300 euros. El portátil lo compré para trabajar, así que no lo cuento como gasto de la inteligencia artificial local. Esas cuentas las hago en ¿Para qué me sirve tener la inteligencia artificial en casa?. No te doy precios de mercado porque cambian cada semana.

Tres niveles para empezar

Un portátil normal. Puedes mover modelos pequeños, con paciencia. Resumir un correo largo o reescribir un párrafo con un modelo de 3B o 4B va bien, aunque no esperes maravillas. Sirve, sobre todo, para descubrir si esto te interesa antes de gastar un euro.

Un PC con gráfica de gama media. Aquí ya se trabaja con soltura con modelos pequeños y medianos. Con mis 12 GB clasifico documentos, extraigo datos de facturas y hago borradores de textos a buena velocidad. Es el nivel en el que la inteligencia artificial local empieza a ser útil de verdad.

Mi montaje. Con una máquina dedicada solo a esto y mucha RAM detrás puedo mover modelos algo más grandes, aunque despacio, y hacer pruebas más serias, como ajustar un modelo pequeño con mis propios ejemplos. Lo que sigue sin permitirme es acercarme a los modelos grandes de la nube: en tareas difíciles de razonamiento o de código largo, la diferencia sigue siendo enorme. No te engañes: en casa no tendrás un Claude.

El consejo central de todo el artículo: prueba con lo que tienes antes de comprar. Así ves qué modelos se te quedan grandes y sabes cuánta memoria te falta de verdad, no la que dice el anuncio.

El primer modelo sin complicarse

Si quieres instalar una inteligencia artificial en tu PC hoy mismo, la forma más sencilla es descargar LM Studio u Ollama y, desde ahí, bajar un modelo pequeño de una familia conocida, como Qwen, Llama o Gemma. No hace falta programar. Sí hace falta paciencia con las descargas, que pesan varios gigas.

Y una regla que te ahorrará disgustos: si todo va lentísimo, casi siempre es que el modelo es demasiado grande para tu máquina. Baja a uno más pequeño o más comprimido antes de culpar al programa. El detalle de cada programa lo cuento en Ollama, LM Studio, llama.cpp y Unsloth, cuál uso para cada cosa.

Los errores que cometí al montar

Compré una fuente de alimentación demasiado justa y tuve que cambiarla a los dos meses. Una 4070 puede pedir unos 200 vatios ella sola, y con picos por encima, así que la fuente hay que calcularla con margen. Subestimé el calor: el servidor en verano sonaba como un secador de pelo, la gráfica pasaba de 80 grados trabajando y tuve que sacarlo del despacho. Al final le bajé un poco el límite de consumo: perdí algo de velocidad y gané silencio y unos cuantos grados.

Sobre la gráfica usada, que es lo que recomiendo, con sus riesgos: puede venir muy castigada, por ejemplo de minar criptomonedas, sin garantía y con ventiladores o pasta térmica gastados. Si vas por ahí, pide verla funcionar con una prueba de carga de media hora antes de pagar, y cuenta con cambiarle la pasta térmica. Y durante semanas dejé modelos cargados en memoria sin usarlos, con la factura de la luz tomando nota. Hoy, sabiendo lo que sé, habría empezado directamente por una gráfica usada con mucha memoria, en vez de pagar por velocidad que no necesitaba.

¿Veredicto sobre la promesa? Instalar un modelo en casa sí se puede hacer en un rato, y gratis si ya tienes el equipo. Lo que es humo es lo de «tu propio ChatGPT»: lo que corre en casa es más pequeño, más lento y más limitado. A mí me ha costado unos 2.300 euros en el servidor y decenas de tardes, y no me arrepiento, pero tampoco te lo vendería como un atajo.

Qué modelos he metido en estas máquinas y cuáles han sobrevivido lo cuento en Más de cincuenta modelos probados en casa.

Alternativas de la comunidad 0

Todavía nadie ha propuesto una alternativa a este caso. Puedes ser quien empiece.

Proponer una alternativa

Casos relacionados

Índice

    Los casos cerrados, cada jueves

    Un correo a la semana con lo que se ha verificado, lo que se ha refutado y lo que sigue en el banco. Sin resúmenes de noticias.

    Puedes darte de baja desde cualquier correo.