Modelos de IA local

En local se pueden usar los modelos de «pesos abiertos», es decir, los que sus creadores publican para que cualquiera los descargue y los ejecute en su máquina. Hay muchas familias, como Llama, Qwen, DeepSeek, Gemma o Mistral, y cada una sale en versiones de distintos tamaños. Los modelos cerrados, como los que hay detrás de ChatGPT o Claude, no se pueden descargar: solo se usan a través de internet.

El número que acompaña al nombre (7B, 14B, 70B…) indica los miles de millones de parámetros, que, para entendernos, es el tamaño del modelo. Más grande suele significar más capaz, pero también más memoria. Por eso casi todos se publican además en versiones «cuantizadas», comprimidas para que quepan en equipos normales a cambio de perder algo de calidad. Lo que despista al principio es encontrar el mismo modelo en decenas de variantes con nombres casi iguales; la diferencia suele estar en el tamaño y en el nivel de compresión.

Yo he ido probando más de 50 modelos en local: unos se han quedado y otros los he acabado borrando. Qué familias he probado, con qué criterio me quedo con uno y cuáles uso hoy lo cuento en «Más de cincuenta modelos probados en casa». Si empiezas, no descargues veinte a la vez: elige uno pequeño de una familia conocida, pruébalo con tus tareas de siempre y sube de tamaño solo cuando se te quede corto.