Sådan kører du Qwen AI lokalt på Windows 11

Qwen aier den seneste AI -model frigivet af Alibaba Group. Mens,,, og andre populære AI -værktøjer er tilgængelige til Android, iOS og Windows -platforme, QWEN er i øjeblikket tilgængelig som en webapp. Du kan få adgang til og bruge dette værktøj ved at besøge dets officielle websted. Dette kræver dog, at du tilmelder dig webstedet. Derudover skal du også have en aktiv internetforbindelse. Men ved du, at du kanKør Qwen AI lokalt på din Windows 11/10 pc? Denne artikel viser dig, hvordan du gør det.

Hvordan bruger jeg Qwen AI på nettet?

For at bruge Qwen Ai fra Alibaba på nettet, kan du besøgechat.qwenlm.aiog indtast din forespørgsel. Fortsæt med at chatte som du ville i ethvert AI -værktøj. Du bliver nødt til at oprette en konto og logge ind for at bruge Qwen.

Sådan kører du Qwen AI lokalt på Windows 11/10

For at køre Qwen lokalt på din Windows -pc, skal du installere følgende to værktøjer:

Ollama
Docker

Ollamaer et gratis og open source-projekt, der giver brugerne mulighed for at køre LLM'er (store sprogmodeller) på deres lokale maskiner.

Dockerer en open source-platform til udvikling, forsendelse og kørende applikationer. Udviklere kan dele deres arbejde ved at skabe containere i Docker.

I denne vejledning forklarer vi, hvordan du kører QWEN AI lokalt på din Windows PC ved at oprette en container i Docker -appen.

Sådan installeres Ollama på Windows

Det første trin er at installere Ollama på dit system. Følg nedenstående trin:

BesøgOllas officielle hjemmeside.
Klik på knappen Download, vælg Windows -platformen, og fortsæt med at downloade Ollama til din Windows -maskine.
Når downloadet er afsluttet, skal du køre installationsfilen for at installere Olama på dit system.
Lancer nu Olama og lad det løbe i baggrunden.

Installer Qwen AI -model lokalt

Nu er det næste trin at installere QWEN AI -modellen på dit system lokalt. Gå til det officielle websted for Ollama og klik påModellerFanen. Her vil du se alle AI -modellerne. Søg efterQwen. Derefter viser det dig alle de tilgængelige QWEN AI -modeller, herunder QWEN, QWEN2, QWEN2.5 osv. Klik på den model, du vil implementere på din pc.

I denne vejledning vil vi se, hvordan man installererQwen2.5Model lokalt på en Windows -maskine. Hver QWEN -model har forskellige parametre. QWEN2.5 -modellen har parametre 0,5B, 1,5B, 3B, 7B osv. QWEN 0,5B er den mindste og hurtigste parameter. Det består af 0,5 milliarder parametre og er god til basale opgaver. Parameteren 1,5B -parameteren er mere avanceret end QWEN 0,5B -parameteren. Tilsvarende er andre store parametre mere avancerede parametre end de foregående.

Installation af de store parametre kræver en high-end pc. Installer derfor den, som din computer kan køre glat. Større parametre kræver også mere diskplads. Vælg parameteren fra rullemenden, og kopier dens respektive kommando. For eksempel er kommandoen til installation af QWEN2.5 AI med 0,5B -parameter:

ollama run qwen2.5:0.5b

Åbn kommandoprompten, indsæt den kopierede kommando og ramtIndtast. Luk ikke kommandoprompten inden afslutningen af den kommando, du gav.

Når kommandoen udføres med succes, installeres Qwen AI på din computer. Nu kan du chatte med Qwen AI i CMD. Hvis du vil chatte med Qwen AI næste gang, skal du åbne kommandoprompten og køre den samme kommando. For at installere en anden model af Qwen AI skal du kopiere den krævede kommando fra Olama -webstedet og køre den i CMD.

Installation af Docker på Windows

Du kan bruge Qwen AI i CMD på din Windows -maskine. Det gemmer dog ikke din chathistorie. Desuden gør det at installere en dedikeret brugergrænseflade til Qwen AI det også lettere at bruge. Til dette skal du installere Docker.

BesøgOfficielt websted for Dockerog download sin Windows-understøttede version. Installer nu appen på din pc. Du skal oprette en konto på Dockers websted for at downloade og installere den på dit system.

Når Docker -installationen er afsluttet, skal du køre Docker og sørge for, at den fortsætter med at køre i baggrunden. Åbn nu kommandoprompten og udfør følgende kommando:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Ovenstående kommando opretter en container i Docker -appen. Det vil tage nogen tid at gennemføre ovenstående kommando. Når kommandoen er færdig, skal du åbne Docker -appen. Du vil se en container iContainereafsnit.

Kør Qwen AI lokalt på Windows

Nu er det sidste trin at køre Qwen AI lokalt på dit system i webbrowseren. Åbn Docker -appen, og klik på3000: 8080Link i containersektionen. Dette åbner localhost med port 3000 i din standard webbrowser. Opret nu en konto. Husk loginoplysningerne, da de samme loginoplysninger kræves af dig til at bruge QWEN AI hver gang.

Bemærk, at for at køre Qwen AI lokalt i din webbrowser, skal både Ollama og den respektive Docker -container køre i baggrunden.

Det er det.

Kan jeg bruge AI på min pc?

Ja, du kan bruge AI -værktøjer på din pc. Hvis dit system ikke har understøttet hardware, kan du bruge Cloud AI -værktøjerne. Sådanne værktøjer er vært på deres servere. Derfor lægger de ikke en belastning på dit system. Men hvis du vil implementere et AI -værktøj lokalt på dit system, skal dit system have understøttet hardware.