Cómo ejecutar Qwen Ai localmente en Windows 11

Qwen aies el último modelo de IA lanzado por Alibaba Group. Mientras,,Y otras herramientas de IA populares están disponibles para las plataformas de Android, iOS y Windows, Qwen está actualmente disponible como una aplicación web. Puede acceder y usar esta herramienta visitando su sitio web oficial. Sin embargo, esto requiere que se registre en el sitio web. Además, también debe tener una conexión a Internet activa. Pero ¿sabes que puedesEjecute Qwen AI localmente en su PC Windows 11/10? Este artículo te muestra cómo hacer eso.

¿Cómo usar Qwen Ai en la web?

Para usar Qwen Ai de Alibaba en la web, visitechat.qwenlm.aie ingrese su consulta. Continúa charlando como lo haría en cualquier herramienta de IA. Tendrá que crear una cuenta e iniciar sesión para usar qwen.

Cómo ejecutar Qwen Ai localmente en Windows 11/10

Para ejecutar QWen localmente en su PC con Windows, debe instalar las siguientes dos herramientas:

  • Ollama
  • Estibador

Ollamaes un proyecto gratuito y de código abierto que permite a los usuarios ejecutar LLM (modelos de idiomas grandes) en sus máquinas locales.

Estibadores una plataforma de código abierto para desarrollar, enviar y ejecutar aplicaciones. Los desarrolladores pueden compartir su trabajo creando contenedores en Docker.

En esta guía, explicaremos cómo ejecuta Qwen Ai localmente en su PC de Windows creando un contenedor en la aplicación Docker.

Cómo instalar Ollama en Windows

El primer paso es instalar Ollama en su sistema. Siga los pasos proporcionados a continuación:

  1. Visite elSitio web oficial de Ollama.
  2. Haga clic en el botón Descargar, seleccione la plataforma Windows y continúe descargando Ollama para su máquina Windows.
  3. Cuando se complete la descarga, ejecute el archivo del instalador para instalar OLAMA en su sistema.
  4. Ahora, lanza Ollama y deja que se ejecute en segundo plano.

Instale el modelo Qwen AI localmente

Ahora, el siguiente paso es instalar el modelo Qwen AI en su sistema localmente. Vaya al sitio web oficial de Ollama y haga clic en elModelospestaña. Aquí, verás todos los modelos de IA. Buscar elQwen. Luego, le mostrará todos los modelos Qwen AI disponibles, incluidos Qwen, Qwen2, Qwen2.5, etc. Haga clic en el modelo que desea implementar en su PC.

En esta guía, veremos cómo instalar elQwen2.5modelo localmente en una máquina de Windows. Cada modelo QWEN tiene diferentes parámetros. El modelo Qwen2.5 tiene parámetros 0.5b, 1.5b, 3b, 7b, etc. Qwen 0.5b es el parámetro más pequeño y rápido. Consiste en 0.5 mil millones de parámetros y es bueno para tareas básicas. El parámetro 1.5B de QWEN AI es más avanzado que el parámetro QWEN 0.5B. Del mismo modo, otros parámetros grandes son parámetros más avanzados que los anteriores.

La instalación de los parámetros grandes requiere una PC de alta gama. Por lo tanto, instale el que su computadora pueda ejecutar sin problemas. Además, los parámetros más grandes requieren más espacio en disco. Seleccione el parámetro del desplegable y copie su comando respectivo. Por ejemplo, el comando para instalar Qwen2.5 Ai con el parámetro 0.5B es:

ollama run qwen2.5:0.5b

Abra el símbolo del sistema, pegue el comando copiado y presioneIngresar. No cierre el símbolo del sistema antes de completar el comando que dio.

Cuando el comando se ejecute correctamente, Qwen AI se instalará en su computadora. Ahora, puede chatear con el Qwen AI en CMD. Si desea chatear con el Qwen AI la próxima vez, abra el símbolo del sistema y ejecute el mismo comando. Para instalar otro modelo de Qwen AI, copie el comando requerido en el sitio web de Ollama y ejecútelo en el CMD.

Instalación de Docker en Windows

Puede usar Qwen AI en CMD en su máquina Windows. Sin embargo, no guarda su historial de chat. Además, la instalación de una interfaz de usuario dedicada para Qwen AI también hace que sea más fácil de usar. Para esto, debe instalar Docker.

Visite elSitio web oficial de Dockery descargue su versión respaldada por Windows. Ahora, instale la aplicación en su PC. Debe crear una cuenta en el sitio web de Docker para descargarla e instalarla en su sistema.

Después de completar la instalación de Docker, ejecute Docker y asegúrese de que siga funcionando en segundo plano. Ahora, abra el símbolo del sistema y ejecute el siguiente comando:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

El comando anterior creará un contenedor en la aplicación Docker. Tomará algún tiempo completar el comando anterior. Cuando se complete el comando, abra la aplicación Docker. Verá un contenedor en elContenedoressección.

Ejecute Qwen Ai localmente en Windows

Ahora, el último paso es ejecutar el Qwen AI localmente en su sistema en el navegador web. Abra la aplicación Docker y haga clic en el3000: 8080enlace en la sección de contenedores. Esto abrirá el LocalHost con Port 3000 en su navegador web predeterminado. Ahora, crea una cuenta. Recuerde los detalles de inicio de sesión, ya que usted requerirá los mismos detalles de inicio de sesión para usar el Qwen AI cada vez.

Tenga en cuenta que para ejecutar Qwen Ai localmente en su navegador web, tanto Ollama como el contenedor de Docker respectivo deberían funcionar en segundo plano.

Eso es todo.

¿Puedo usar IA en mi PC?

Sí, puede usar herramientas de IA en su PC. Si su sistema no tiene hardware compatible, puede usar las herramientas de IA en la nube. Dichas herramientas están alojadas en sus servidores. Por lo tanto, no ponen una carga en su sistema. Sin embargo, si desea implementar una herramienta de IA localmente en su sistema, su sistema debería haber admitido hardware.

¿Es Qwen LLM de código abierto?

Algunos modelos de Qwen AI son de código abierto, incluidos Qwen2.5-7b-Instructo-1m y Qwen2.5-14b-Instructo-1m.

Related Posts