Qué gráfica compraría hoy para la inteligencia artificial en local
Repaso mis dos gráficas, lo que acerté y lo que no, y los criterios que seguiría hoy según el presupuesto y el uso.
Para empezar con IA local te basta el ordenador que ya tienes: con él puedes mover modelos pequeños, aunque sin grandes velocidades. Si quieres ir en…
Para empezar con IA local te basta el ordenador que ya tienes: con él puedes mover modelos pequeños, aunque sin grandes velocidades. Si quieres ir en serio, lo que más importa no es el procesador, sino la tarjeta gráfica y, sobre todo, cuánta memoria propia tiene (la VRAM), porque de ella depende el tamaño de modelo que puedes cargar con soltura.
Lo que confunde a quien empieza es mirar las especificaciones de siempre. Un procesador potente ayuda poco si el modelo no cabe en la memoria de la gráfica; cuando no cabe, el equipo tira de la memoria normal y todo va mucho más lento. Por eso conviene pensarlo por niveles: un portátil corriente para trastear con modelos pequeños, un PC con una gráfica de gama media para trabajar con comodidad y equipos con más memoria gráfica para modelos grandes. Los ordenadores con memoria unificada, como los Mac con chip de Apple, son un caso aparte que también funciona.
Antes de comprar nada, lo prudente es probar con lo que tienes y ver dónde se queda corto; así sabes qué te falta de verdad y no lo que dice el anuncio. Qué máquinas uso yo, qué compré y qué ya tenía, con tres niveles de entrada y lo que se puede hacer en cada uno, lo cuento en «Qué equipo hace falta para tener tu propia inteligencia artificial». Allí están también los errores que cometí al montarlo, que son justo los que te interesa no repetir.
Repaso mis dos gráficas, lo que acerté y lo que no, y los criterios que seguiría hoy según el presupuesto y el uso.
Qué máquinas y qué GPU uso para correr modelos en casa, y qué haría falta para empezar.
Un correo a la semana con lo que se ha verificado, lo que se ha refutado y lo que sigue en el banco. Sin resúmenes de noticias.