Hoe u Qwen Ai lokaal op Windows 11 uitvoert

Qwen aiis het nieuwste AI -model uitgebracht door Alibaba Group. Terwijl,,,,, en andere populaire AI -tools zijn beschikbaar voor Android-, iOS- en Windows -platforms, QWEN is momenteel beschikbaar als een web -app. U kunt deze tool openen en gebruiken door de officiële website te bezoeken. Hiervoor moet u zich echter aanmelden op de website. Bovendien moet u ook een actieve internetverbinding hebben. Maar weet je dat je dat kuntVoer Qwen Ai lokaal uit op uw Windows 11/10 pc? Dit artikel laat je zien hoe je dat moet doen.

Hoe gebruik ik Qwen AI op internet?

Bezoek om Qwen Ai van Alibaba op internet te gebruikenchat.qwenlm.aien voer uw vraag in. Blijf chatten zoals u zou doen in een AI -tool. U moet een account aanmaken en inloggen om QWen te gebruiken.

Hoe u Qwen AI lokaal uitvoert op Windows 11/10

Om Qwen lokaal op uw Windows -pc te draaien, moet u de volgende twee tools installeren:

Ollama
Docker

Ollamais een gratis en open-source project waarmee gebruikers LLMS (grote taalmodellen) kunnen uitvoeren op hun lokale machines.

Dockeris een open-source platform voor het ontwikkelen, verzenden en uitvoeren van applicaties. Ontwikkelaars kunnen hun werk delen door containers in Docker te maken.

In deze handleiding zullen we uitleggen hoe u Qwen AI lokaal op uw Windows -pc uitvoert door een container in de Docker -app te maken.

Hoe je Ollama op Windows installeert

De eerste stap is om Ollama op uw systeem te installeren. Volg de onderstaande stappen:

Bezoek deOllama's officiële website.
Klik op de downloadknop, selecteer het Windows -platform en ga verder met het downloaden van Ollama voor uw Windows -machine.
Wanneer de download is voltooid, voert u het installatiebestand uit om Olama op uw systeem te installeren.
Lanceer nu Ollama en laat het op de achtergrond lopen.

Installeer het Qwen AI -model lokaal

Nu is de volgende stap om het QWEN AI -model lokaal op uw systeem te installeren. Ga naar de officiële website van Ollama en klik op deModellenTab. Hier ziet u alle AI -modellen. Zoek naar deQwen. Vervolgens toont het u alle beschikbare Qwen AI -modellen, inclusief Qwen, Qwen2, Qwen2.5, enz. Klik op het model dat u op uw pc wilt implementeren.

In deze handleiding zullen we zien hoe we deQwen2.5Model lokaal op een Windows -machine. Elk QWEN -model heeft verschillende parameters. Het QWEN2.5 -model heeft parameters 0,5b, 1,5B, 3b, 7b, enz. Qwen 0.5b is de kleinste en snelste parameter. Het bestaat uit 0,5 miljard parameters en is goed voor basistaken. De 1,5B -parameter van Qwen AI is geavanceerder dan de QWEN 0.5b -parameter. Evenzo zijn andere grote parameters meer geavanceerde parameters dan de vorige.

Het installeren van de grote parameters vereist een hoogwaardige pc. Installeer daarom degene die uw computer soepel kan verlopen. Ook vereisen grotere parameters meer schijfruimte. Selecteer de parameter uit de vervolgkeuzelijst en kopieer de respectieve opdracht. De opdracht om QWen2.5 AI te installeren met 0,5B parameter is bijvoorbeeld:

ollama run qwen2.5:0.5b

Open de opdrachtprompt, plak de gekopieerde opdracht en druk opBinnenkomen. Sluit de opdrachtprompt niet vóór de voltooiing van de opdracht die u gaf.

Wanneer de opdracht succesvol wordt uitgevoerd, wordt Qwen AI op uw computer geïnstalleerd. Nu kunt u chatten met de Qwen AI in CMD. Als u de volgende keer met de Qwen AI wilt chatten, opent u de opdrachtprompt en voert u dezelfde opdracht uit. Om een ander model van Qwen AI te installeren, kopieert u de vereiste opdracht van de Ollama -website en voert u deze uit in de CMD.

Docker installeren op Windows

U kunt Qwen AI gebruiken in CMD op uw Windows -machine. Het bewaart uw chatgeschiedenis echter niet. Bovendien maakt het installeren van een speciale gebruikersinterface voor Qwen AI het ook gemakkelijker te gebruiken. Hiervoor moet u Docker installeren.

Bezoek deOfficiële website van Dockeren download de door Windows ondersteunde versie. Installeer nu de app op uw pc. U moet een account maken op de website van Docker om deze op uw systeem te downloaden en te installeren.

Nadat de Docker -installatie is voltooid, voert u Docker uit en zorgt u ervoor dat deze op de achtergrond blijft draaien. Open nu de opdrachtprompt en voer de volgende opdracht uit:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Bovenstaande opdracht maakt een container in de Docker -app. Het zal enige tijd duren om het bovengenoemde commando te voltooien. Wanneer de opdracht is voltooid, opent u de Docker -app. U ziet een container in deContainersSectie.

Voer Qwen Ai lokaal op Windows uit

Nu is de laatste stap om de Qwen AI lokaal op uw systeem in de webbrowser te laten werken. Open de Docker -app en klik op de3000: 8080Link in het gedeelte Containers. Dit opent de localhost met poort 3000 in uw standaard webbrowser. Maak nu een account aan. Onthoud de inloggegevens, omdat u dezelfde inloggegevens nodig hebben om de Qwen AI elke keer te gebruiken.

Houd er rekening mee dat om Qwen AI lokaal in uw webbrowser te laten werken, zowel Ollama als de respectieve Docker -container op de achtergrond moeten worden uitgevoerd.

Dat is het.

Kan ik AI op mijn pc gebruiken?

Ja, u kunt AI -tools op uw pc gebruiken. Als uw systeem geen ondersteunde hardware heeft, kunt u de Cloud AI -tools gebruiken. Dergelijke tools worden gehost op hun servers. Daarom leggen ze geen lading op uw systeem. Als u echter een AI -tool lokaal op uw systeem wilt implementeren, moet uw systeem ondersteunde hardware hebben.