Una inteligencia artificial en el portátil en una tarde
Preparo desde cero un portátil con una gráfica de 8 GB, como lo haría alguien que empieza, y cuento lo que va y lo que no.
La forma más sencilla de instalar una IA en tu PC es descargar un programa como LM Studio u Ollama y, desde él, bajar un modelo abierto que quepa en tu…
La forma más sencilla de instalar una IA en tu PC es descargar un programa como LM Studio u Ollama y, desde él, bajar un modelo abierto que quepa en tu equipo. En un rato tienes un chat funcionando en tu ordenador, y a partir de ahí ya no necesitas internet para usarlo. No hace falta saber programar para dar este primer paso, aunque sí algo de paciencia con las descargas, que pesan varios gigas.
Antes de instalar nada, mira qué equipo tienes: la memoria de la tarjeta gráfica (VRAM) y la memoria RAM deciden qué modelos puedes mover. Un portátil normal puede con modelos pequeños, aunque vayan despacio; con una tarjeta gráfica de gama media la cosa cambia bastante. Al elegir modelo verás números como 7B o 14B: indican su tamaño en miles de millones de parámetros, que son, por decirlo así, las piezas con las que «piensa». También verás versiones cuantizadas, que no es más que comprimidas: ocupan menos a cambio de perder algo de calidad. Si todo va lentísimo, casi siempre es que el modelo es demasiado grande para tu máquina.
Mi consejo es empezar con lo que ya tienes antes de comprar nada: así descubres si la IA local te sirve para algo antes de gastar. En «Qué equipo hace falta para tener tu propia inteligencia artificial» cuento qué máquinas y qué tarjetas gráficas uso yo para correr modelos en casa y qué haría falta para empezar según el equipo de cada uno.
Preparo desde cero un portátil con una gráfica de 8 GB, como lo haría alguien que empieza, y cuento lo que va y lo que no.
Qué máquinas y qué GPU uso para correr modelos en casa, y qué haría falta para empezar.
Un correo a la semana con lo que se ha verificado, lo que se ha refutado y lo que sigue en el banco. Sin resúmenes de noticias.