Qué gráfica compraría hoy para la inteligencia artificial en local

Repaso mis dos gráficas, lo que acerté y lo que no, y los criterios que seguiría hoy según el presupuesto y el uso.

  • ProblemaRepaso mis dos gráficas, lo que acerté y lo que no, y los criterios que seguiría hoy según el presupuesto y el uso.

Tengo dos tarjetas gráficas trabajando con modelos, la del servidor de casa y la del portátil, y ninguna la compraría hoy exactamente igual. La del servidor se quedó corta de memoria casi desde el primer día y la del portátil sirve para probar, pero no para mucho más. En este artículo repaso las dos con los números de mis pruebas y dejo los criterios que seguiría si tuviera que elegir hoy, con presupuesto pequeño, mediano o grande.

La promesa de la gráfica que lo mueve todo

«Con esta gráfica corres cualquier modelo.» Es el título de medio YouTube cada vez que sale una tarjeta nueva, casi siempre con un gráfico de barras donde la nueva gana a todas y un enlace de compra debajo.

La trampa está en la palabra «cualquier». Ninguna gráfica doméstica mueve cualquier modelo: los grandes de verdad, los que compiten con los de la nube, no caben ni en la más cara que puedas meter en un ordenador de casa. Y la potencia que enseñan esas barras, que suele ser velocidad de cálculo, es lo que menos me ha importado a mí en la práctica.

Lo que sigue es lo que he aprendido pagando, no leyendo fichas.

Mis dos gráficas, con sus aciertos y sus errores

La foto de hoy, que es la misma de Qué equipo hace falta para tener tu propia inteligencia artificial:

Gráfica Memoria Dónde está Cómo llegó
RTX 4070 12 GB Servidor principal Comprada nueva en diciembre de 2023, con el servidor
RTX 5070 para portátil 8 GB Portátil de trabajo Venía con el portátil

La 4070, la que se quedó corta. La compré nueva en diciembre de 2023, cuando monté el servidor principal sin tener muy claro para qué lo quería. Es rápida y gasta poco. El problema es la memoria: con 12 GB, los modelos de 14B caben comprimidos y justos, y de ahí para arriba hay que repartir con la memoria normal del ordenador, que es donde todo se arrastra. En cuanto empecé con la IA local ya quería mover un modelo de 32B y no podía. Aun así, de noche me afina modelos pequeños con Unsloth. Si hubiera sabido entonces lo que sé ahora, habría pagado lo mismo por más memoria y menos velocidad.

La 5070 del portátil, la que prueba. El portátil, un HP Omen, lo compré para trabajar y la gráfica venía con él. Con 8 GB me caben cómodos los modelos de 7B u 8B comprimidos, y es donde pruebo con LM Studio todo lo nuevo antes de pasarlo al servidor, también fuera de casa. Lo que no le cabe es un 14B, así que para lo serio vuelvo al servidor.

El batacazo, medido

Para dejar de hablar de sensaciones, a finales de octubre de 2026 pasé la misma prueba por las dos: un Qwen 3 de 8B en Q4_K_M y después el Qwen 3 de 14B en Q4_K_M, con llama.cpp, un contexto de 8.192 tokens y la misma pregunta.

Gráfica 8B en Q4 14B en Q4 32B en Q4
RTX 4070 (12 GB) unos 42 tokens/s unos 30 tokens/s, muy justo no cabe; 1-2 tokens/s repartido
RTX 5070 portátil (8 GB) unos 30 tokens/s no cabe; 1-2 tokens/s repartido no cabe; ni lo intenté

El token es el trozo de palabra con el que el modelo escribe; por encima de 15 o 20 por segundo, se lee con comodidad.

La columna que importa es la última. Con los modelos pequeños, las dos van sobradas y la diferencia de velocidad apenas se nota en el trabajo diario. Con el de 32B, ninguna lo mueve entero: la 4070 se arrastra a uno o dos tokens por segundo, y no porque calcule poco, sino porque el modelo no le cabe. Esa es toda la historia de este artículo resumida en una fila.

Lo que me dolió al verlo: el servidor de la 4070 me costó unos 2.300 euros y aguanta mal el salto de tamaño. Pagué por velocidad cuando lo que me faltaba era sitio.

Lo que sí funciona, criterios para elegir hoy

Estos criterios están revisados en septiembre de 2026 y los precios no los pongo porque cambian cada pocas semanas. Lo que no cambia tan rápido es la lógica.

Primero, la memoria de la gráfica. Si solo te quedas con una idea, que sea esta. Decide qué tamaño de modelo quieres mover y compra la memoria que pide, con margen para el contexto:

  • 8 GB: modelos de 7B u 8B comprimidos y poco más. Es lo que tiene mi portátil: para probar vale, pero hoy no la compraría para esto.
  • 12 GB: modelos de hasta 14B comprimidos. Es donde está la tarjeta de mi servidor y, como has visto, se queda justo enseguida.
  • 16 GB: un escalón que agradece bastante. Modelos de 14B con holgura y algo más de contexto. No he tenido ninguna de 16 GB ni de 24 GB, así que de estas hablo por lo que he visto en las pruebas de otros, no por experiencia.
  • 24 GB: modelos de hasta 32B comprimidos, enteros en la gráfica, y afinar modelos pequeños. Por lo que he visto, el punto dulce.
  • 32 GB o más: solo en la gama más alta. Mueves más cómodo lo de 32B y algún modelo mayor muy comprimido, pero sigues lejos de los grandes de la nube.

Segundo, NVIDIA salvo que sepas lo que haces. Yo solo he probado NVIDIA. Las de AMD e Intel funcionan con Ollama, LM Studio o llama.cpp, pero con menos recorrido y más dudas según el modelo concreto de tarjeta; mira la lista de compatibles del programa antes de comprar. Los Mac con chip de Apple, con su memoria compartida, son otra vía que tampoco he probado.

Tercero, la usada con mucha memoria antes que la nueva con poca. Una 3090 de segunda mano sigue siendo, por lo que veo, la compra más sensata en su rango. Con sus riesgos: puede venir castigada, sin garantía y con la pasta térmica gastada. Si vas a por una, pide verla funcionar media hora con carga antes de pagarla.

Cuarto, la fuente y el calor. Una gráfica de las grandes pide una fuente con margen y un sitio donde el ruido no moleste. Esto lo aprendí cambiando una fuente a los dos meses y sacando el servidor del despacho.

Y por presupuesto, lo que haría yo:

  • Poco dinero: no compres. Prueba con lo que tienes, aunque sea un portátil normal, como conté en Una inteligencia artificial en el portátil en una tarde. Si te engancha, sabrás qué te falta.
  • Presupuesto medio: una de 16 GB nueva o una de 12 GB usada si el dinero aprieta. Para modelos de hasta 14B, que resuelven mucho trabajo repetitivo.
  • Presupuesto alto: una de 24 GB, casi seguro usada. Es lo que me habría ahorrado la 4070.

Lo que haría distinto con mis dos

Con lo que sé ahora, no habría comprado la 4070: habría ido directamente a por una 3090 usada para el servidor principal. Habría tenido desde el principio sitio para los modelos medianos y me habría ahorrado meses peleándome con repartir modelos entre la gráfica y la memoria normal, que es lo que cuento en Ollama, LM Studio, llama.cpp y Unsloth, cuál uso para cada cosa.

¿Cambiaría hoy la 4070? No. Funciona, está pagada y para los modelos del día a día le sobra. Venderla para comprar otra solo tendría sentido si me faltara memoria en ese servidor todos los días, y no es el caso: lo grande lo muevo repartido, con paciencia, o lo cambio por uno de 14B.

Y el portátil seguirá como está: para probar le basta. Si un día necesito una gráfica grande, antes de comprar mediré si de verdad me falta memoria todos los días.

Si estás pensando en qué ordenador comprar para la inteligencia artificial local, el orden es el mismo: primero la tarea, luego la memoria de la gráfica que pide esa tarea, y solo después todo lo demás. El procesador y la RAM importan cuando el modelo no cabe, pero la solución buena es que quepa.

Veredicto

¿Existe la gráfica con la que corres cualquier modelo? No, y el que te la vende lo sabe. Lo que existe es la gráfica que mueve bien los modelos que tú necesitas, y eso lo decide casi siempre su memoria, no su velocidad. Si buscas una gráfica para inteligencia artificial en local, mira primero los gigas y después todo lo demás.

Lo que me ha costado aprenderlo: la 4070, dentro de un servidor de unos 2.300 euros, y la sensación de haber pagado por la mitad equivocada de la ficha técnica. La prueba de este artículo, una tarde. Lo que se lleva quien lo lea, espero, es una compra mejor que la mía.

Alternativas de la comunidad 0

Todavía nadie ha propuesto una alternativa a este caso. Puedes ser quien empiece.

Proponer una alternativa

Casos relacionados

Índice

    Los casos cerrados, cada jueves

    Un correo a la semana con lo que se ha verificado, lo que se ha refutado y lo que sigue en el banco. Sin resúmenes de noticias.

    Puedes darte de baja desde cualquier correo.