Con el revuelo que han levantado las aplicaciones chinas de IA DeepSeek y Qwen tenemos a muchos clientes preguntándonos como pueden usar estos módulos de IA en local.
En la tienda llevábamos una temporada ya usando IA en local. En la red veréis muchos tutoriales para hacerlo. Nosotros estamos usando dos programas que son muy sencillos de instalar y con los que se puede empezar a experimentar: el LM Studio y Msty. Ninguna es código libre, pero si que tienen versiones tanto para Windows, como MacOS y Linux.
LM Studio llevábamos más tiempo usándola y con las últimas actualizaciones es más sencilla que al principio. Msty nos ha gustado por la simplicidad y luego porque añade algunas funciones interesantes.
Con ambos programas para usar modelos de IA en local, basta bajarse la versión para el sistema operativo de nuestro PC de sus webs. Nos podrán preguntar si tenemos tarjeta gráfica o no para ajustar la descarga. Al descargarlo, se ejecuta el programa y toca esperar a que se instale:
La instalación puede ser larga según la potencia del PC y la velocidad de Internet en ese momento. Una vez instalado el programa lo ejecutamos:
LM Studio en su pantalla principal se ve así:
Y Msty se abre de esta forma
Lo primero que tenemos que hacer es carga un modelo. Para ello en LM Studio pulsamos encima de la lupa que aparece a la izquierda y nos muestra este menú:
Vemos los modelos que podemos bajarnos, cuando tengamos seleccionado el que nos interese, abajo a la derecha hay un botón verde que pone “Download” y el tamaño del fichero a descargar. Lo pulsamos y esperamos a que se descargue.
En Msty pulsamos el botón que hay a la izquierda debajo que lleva el dibujo de una pantalla de PC con un rayo y veremos el menú:
Msty tiene un indicador que es muy interesante e importante. Arriba a la derecha de cada modelo muestra un diagrama circular de color y con un número. Si este diagrama es de color verde y el número es de 100 o se aproxima a 100 significa que ese modelo en concreto se ejecutara bien con el hardware de nuestro PC. Si el diagrama no está en verde irá más lento. En las pruebas que hemos hecho, un valor de hasta 70 todavía se puede usar, por debajo de ese valor el modelo va lentísimo. Nos muestra primero una lista de recomendados, pero arriba en el botón de color negro que pone Browse & Doenload Models Online podemos ver todos los disponibles. Incluso nos permite cargar algún modelo que ya hayamos descargado. Se selecciona el modelo y se pulsa el botón de descarga que está debajo a la derecha.
Con esto ya tendríamos algún modelo instalado y podemos empezar a usarlo. Basta volver a la pantalla principal y seleccionarlo. En el caso de LM Studio se hace pulsando en el botón que está arriba que pone “Select a model to load”:
Y en el caso de Msty se pulsa abajo donde está el nombre del modelo por defecto:
Msty tiene otra característica y es que nos permite conectarnos con modelos Web de los que tengamos cuenta, pero eso para otro día.
Una vez seleccionado el modelo en ambos programas escribimos lo que deseemos en el prompt y veremos las respuestas. Es muy simple cambiar de modelo. En Msty además podemos incluso tener varios chats abiertos a la vez con diferentes modelos…
Pero con estos programas es relativamente sencillo instalar un modelo de IA en local y experimentar con él.
