Cómo ejecutar Qwen AI localmente en Windows 11

Qwen AIes el último modelo de IA lanzado por Alibaba Group. Mientras,,y otras herramientas de inteligencia artificial populares están disponibles para plataformas Android, iOS y Windows, Qwen está actualmente disponible como una aplicación web. Puede acceder y utilizar esta herramienta visitando su sitio web oficial. Sin embargo, esto requiere que se registre en el sitio web. Además, también debes tener una conexión a Internet activa. ¿Pero sabes que puedes?ejecute Qwen AI localmente en su PC con Windows 11/10? Este artículo le muestra cómo hacerlo.

¿Cómo utilizar Qwen AI en la web?

Para utilizar Qwen AI de Alibaba en la web, visitechat.qwenlm.aie ingresa tu consulta. Continúe chateando como lo haría en cualquier herramienta de inteligencia artificial. Tendrás que crear una cuenta e iniciar sesión para utilizar Qwen.

Para ejecutar Qwen localmente en su PC con Windows, necesita instalar las dos herramientas siguientes:

• Ser
• Estibador

Seres un proyecto gratuito y de código abierto que permite a los usuarios ejecutar LLM (modelos de lenguaje grande) en sus máquinas locales.

Estibadores una plataforma de código abierto para desarrollar, enviar y ejecutar aplicaciones. Los desarrolladores pueden compartir su trabajo creando contenedores en Docker.

En esta guía, explicaremos cómo ejecutar Qwen AI localmente en su PC con Windows creando un contenedor en la aplicación Docker.

Cómo instalar Ollama en Windows

El primer paso es instalar Ollama en su sistema. Siga los pasos que se indican a continuación:

1. Visita elSitio web oficial de Ollama.
2. Haga clic en el botón Descargar, seleccione la plataforma Windows y continúe con la descarga de Ollama para su máquina Windows.
3. Cuando se complete la descarga, ejecute el archivo de instalación para instalar Olama en su sistema.
4. Ahora, inicia Ollama y déjalo ejecutarse en segundo plano.

Instale el modelo Qwen AI localmente

Ahora, el siguiente paso es instalar el modelo Qwen AI en su sistema localmente. Ingresa al sitio web oficial de Ollama y haz clic en elModelospestaña. Aquí verás todos los modelos de IA. buscar elQwen. Luego le mostrará todos los modelos Qwen AI disponibles, incluidos Qwen, Qwen2, Qwen2.5, etc. Haga clic en el modelo que desea implementar en su PC.

En esta guía, veremos cómo instalar elQwen2.5modelo localmente en una máquina con Windows. Cada modelo de Qwen tiene diferentes parámetros. El modelo Qwen2.5 tiene parámetros 0.5b, 1.5b, 3b, 7b, etc. Qwen 0.5b es el parámetro más pequeño y rápido. Consta de 500 millones de parámetros y es bueno para tareas básicas. El parámetro 1.5b de Qwen AI es más avanzado que el parámetro Qwen 0.5b. Del mismo modo, otros parámetros grandes son parámetros más avanzados que los anteriores.

La instalación de parámetros grandes requiere una PC de alta gama. Por lo tanto, instale aquel que su computadora pueda ejecutar sin problemas. Además, los parámetros más grandes requieren más espacio en disco. Seleccione el parámetro del menú desplegable y copie su comando respectivo. Por ejemplo, el comando para instalar Qwen2.5 AI con el parámetro 0.5b es:

ollama run qwen2.5:0.5b

Abra el símbolo del sistema, pegue el comando copiado y presioneIngresar. No cierre el símbolo del sistema antes de completar el comando que proporcionó.

Cuando el comando se ejecute correctamente, Qwen AI se instalará en su computadora. Ahora puedes chatear con Qwen AI en CMD. Si desea chatear con Qwen AI la próxima vez, abra el símbolo del sistema y ejecute el mismo comando. Para instalar otro modelo de Qwen AI, copie el comando requerido del sitio web de Ollama y ejecútelo en CMD.

Instalación de Docker en Windows

Puede utilizar Qwen AI en CMD en su máquina Windows. Sin embargo, no guarda su historial de chat. Además, la instalación de una interfaz de usuario dedicada para Qwen AI también facilita su uso. Para ello, debes instalar Docker.

Visita elsitio web oficial de Dockery descargue su versión compatible con Windows. Ahora, instala la aplicación en tu PC. Debe crear una cuenta en el sitio web de Docker para descargarlo e instalarlo en su sistema.

Una vez completada la instalación de Docker, ejecute Docker y asegúrese de que siga ejecutándose en segundo plano. Ahora, abra el símbolo del sistema y ejecute el siguiente comando:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

El comando anterior creará un contenedor en la aplicación Docker. Tomará algún tiempo completar el comando anterior. Cuando se complete el comando, abra la aplicación Docker. Verás un contenedor en elContenedoressección.

Ejecute Qwen AI localmente en Windows

Ahora, el último paso es ejecutar Qwen AI localmente en su sistema en el navegador web. Abra la aplicación Docker y haga clic en3000:8080enlace en la sección Contenedores. Esto abrirá el host local con el puerto 3000 en su navegador web predeterminado. Ahora, crea una cuenta. Recuerde los datos de inicio de sesión, ya que necesitará los mismos datos de inicio de sesión para utilizar Qwen AI cada vez.

Tenga en cuenta que para ejecutar Qwen AI localmente en su navegador web, tanto Ollama como el contenedor Docker respectivo deben ejecutarse en segundo plano.

Eso es todo.

Leer:

¿Puedo usar IA en mi PC?

Sí, puedes utilizar herramientas de IA en tu PC. Si su sistema no tiene hardware compatible, puede utilizar las herramientas de IA en la nube. Estas herramientas están alojadas en sus servidores. Por lo tanto, no suponen una carga para su sistema. Sin embargo, si desea implementar una herramienta de IA localmente en su sistema, su sistema debería tener hardware compatible.

¿Qwen LLM es de código abierto?

Algunos modelos de Qwen AI son de código abierto, incluidos Qwen2.5-7B-Instruct-1M y Qwen2.5-14B-Instruct-1M.