Comment exécuter Qwen AI localement sur Windows 11

Qwen aiest le dernier modèle d'IA publié par Alibaba Group. Alors que,,et d'autres outils d'IA populaires sont disponibles pour les plates-formes Android, iOS et Windows, Qwen est actuellement disponible sous forme d'application Web. Vous pouvez accéder et utiliser cet outil en visitant son site Web officiel. Cependant, cela vous oblige à vous inscrire sur le site Web. De plus, vous devriez également avoir une connexion Internet active. Mais savez-vous que vous pouvezExécutez Qwen AI localement sur votre PC Windows 11/10? Cet article vous montre comment faire cela.

Comment utiliser Qwen AI sur le Web?

Pour utiliser Qwen Ai depuis Alibaba sur le Web, visitezchat.qwenlm.aiEt entrez votre requête. Continuez à discuter comme vous le feriez dans n'importe quel outil d'IA. Vous devrez créer un compte et vous connecter pour utiliser Qwen.

Comment exécuter Qwen AI localement sur Windows 11/10

Pour exécuter Qwen localement sur votre PC Windows, vous devez installer les deux outils suivants:

Ollla
Docker

Olllaest un projet gratuit et open-source qui permet aux utilisateurs d'exécuter des LLM (modèles de grande langue) sur leurs machines locales.

Dockerest une plate-forme open source pour le développement, l'expédition et l'exécution des applications. Les développeurs peuvent partager leur travail en créant des conteneurs dans Docker.

Dans ce guide, nous expliquerons comment vous exécutez QWEN AI localement sur votre PC Windows en créant un conteneur dans l'application Docker.

Comment installer Olllama sur Windows

La première étape consiste à installer Olllama sur votre système. Suivez les étapes ci-dessous:

Visiter leSite officiel d'Olllama.
Cliquez sur le bouton de téléchargement, sélectionnez la plate-forme Windows et procédez au téléchargement Olllama pour votre machine Windows.
Une fois le téléchargement terminé, exécutez le fichier d'installation pour installer Olama sur votre système.
Maintenant, lancez Olllama et laissez-le fonctionner en arrière-plan.

Installer le modèle Qwen AI localement

Maintenant, l'étape suivante consiste à installer localement le modèle QWEN AI sur votre système. Accédez au site officiel d'Olllama et cliquez sur leModèleslanguette. Ici, vous verrez tous les modèles d'IA. Recherchez leQwen. Ensuite, il vous montrera tous les modèles Qwen AI disponibles, y compris Qwen, Qwen2, Qwen2.5, etc. Cliquez sur le modèle que vous souhaitez déployer sur votre PC.

Dans ce guide, nous verrons comment installer leQwen2.5Modèle localement sur une machine Windows. Chaque modèle QWEN a différents paramètres. Le modèle Qwen2.5 a des paramètres de 0,5b, 1,5b, 3b, 7b, etc. Qwen 0,5b est le paramètre le plus petit et le plus rapide. Il se compose de 0,5 milliard de paramètres et est bon pour les tâches de base. Le paramètre 1.5b de QWEN AI est plus avancé que le paramètre QWEN 0.5B. De même, d'autres grands paramètres sont des paramètres plus avancés que les précédents.

L'installation des grands paramètres nécessite un PC haut de gamme. Par conséquent, installez celui que votre ordinateur peut fonctionner en douceur. De plus, les paramètres plus grands nécessitent plus d'espace disque. Sélectionnez le paramètre dans la liste déroulante et copiez sa commande respective. Par exemple, la commande pour installer Qwen2.5 AI avec un paramètre 0,5b est:

ollama run qwen2.5:0.5b

Ouvrez l'invite de commande, collez la commande copiée et frappezEntrer. Ne fermez pas l'invite de commande avant l'achèvement de la commande que vous avez donnée.

Lorsque la commande s'exécute avec succès, QWEN AI sera installé sur votre ordinateur. Maintenant, vous pouvez discuter avec l'IA Qwen dans CMD. Si vous souhaitez discuter avec le QWEN AI la prochaine fois, ouvrez l'invite de commande et exécutez la même commande. Pour installer un autre modèle de QWEN AI, copiez la commande requise du site Web Olllama et exécutez-la dans le CMD.

Installation de Docker sur Windows

Vous pouvez utiliser Qwen AI dans CMD sur votre machine Windows. Cependant, cela ne sauve pas l'historique de votre chat. De plus, l'installation d'une interface utilisateur dédiée pour QWEN AI facilite également l'utilisation. Pour cela, vous devez installer Docker.

Visiter leSite officiel de Dockeret télécharger sa version soutenue par Windows. Maintenant, installez l'application sur votre PC. Vous devez créer un compte sur le site Web de Docker pour télécharger et l'installer sur votre système.

Une fois l'installation de Docker terminée, exécutez Docker et assurez-vous qu'il continue de fonctionner en arrière-plan. Maintenant, ouvrez l'invite de commande et exécutez la commande suivante:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

La commande ci-dessus créera un conteneur dans l'application docker. Il faudra un certain temps pour terminer la commande ci-dessus. Une fois la commande termine, ouvrez l'application Docker. Vous verrez un conteneur dans leConteneurssection.

Exécutez Qwen AI localement sur Windows

Maintenant, la dernière étape consiste à exécuter le QWEN AI localement sur votre système dans le navigateur Web. Ouvrez l'application Docker et cliquez sur le3000: 8080lien dans la section des conteneurs. Cela ouvrira le localhost avec le port 3000 dans votre navigateur Web par défaut. Maintenant, créez un compte. N'oubliez pas les détails de connexion, car les mêmes détails de connexion seront exigés par vous d'utiliser la QWEN AI à chaque fois.

Notez que pour exécuter QWEN AI localement dans votre navigateur Web, Olllama et le conteneur Docker respectif devraient être exécutés en arrière-plan.

C'est ça.

Puis-je utiliser l'IA sur mon PC?

Oui, vous pouvez utiliser des outils d'IA sur votre PC. Si votre système n'a pas de matériel pris en charge, vous pouvez utiliser les outils Cloud AI. Ces outils sont hébergés sur leurs serveurs. Par conséquent, ils ne mettent pas de charge sur votre système. Cependant, si vous souhaitez déployer un outil d'IA localement sur votre système, votre système devrait avoir du matériel pris en charge.