Come eseguire Qwen Ai localmente su Windows 11

Qwen AIè l'ultimo modello AI rilasciato dal gruppo Alibaba. Mentre,,E altri strumenti AI popolari sono disponibili per le piattaforme Android, iOS e Windows, Qwen è attualmente disponibile come app Web. Puoi accedere e utilizzare questo strumento visitando il suo sito Web ufficiale. Tuttavia, ciò richiede di iscriverti al sito Web. Inoltre, dovresti anche avere una connessione Internet attiva. Ma sai che puoiEsegui Qwen AI localmente sul tuo PC Windows 11/10? Questo articolo ti mostra come farlo.

Come usare Qwen AI sul Web?

Per utilizzare Qwen Ai di Alibaba sul Web, visitachat.qwenlm.aie inserisci la tua domanda. Continua a chattare come faresti in qualsiasi strumento AI. Dovrai creare un account e accedere per utilizzare Qwen.

Come eseguire Qwen Ai localmente su Windows 11/10

Per eseguire Qwen localmente sul tuo PC Windows, è necessario installare i seguenti due strumenti:

  • Ollama
  • Docker

Ollamaè un progetto gratuito e open source che consente agli utenti di eseguire LLM (modelli di lingue di grandi dimensioni) sulle loro macchine locali.

Dockerè una piattaforma open source per lo sviluppo, la spedizione e l'esecuzione di applicazioni. Gli sviluppatori possono condividere il loro lavoro creando contenitori in Docker.

In questa guida, spiegheremo come esegui Qwen AI localmente sul tuo PC Windows creando un contenitore nell'app Docker.

Come installare Ollama su Windows

Il primo passo è installare Ollama sul tuo sistema. Seguire i passaggi forniti di seguito:

  1. Visita ilSito ufficiale di Ollama.
  2. Fai clic sul pulsante di download, seleziona la piattaforma Windows e procedi con il download di Ollama per la macchina Windows.
  3. Al termine del download, eseguire il file di installazione per installare Olama sul tuo sistema.
  4. Ora, lancia Ollama e lascialo funzionare in background.

Installa il modello Qwen AI a livello locale

Ora, il prossimo passo è installare localmente il modello Qwen AI sul sistema. Vai al sito ufficiale di Ollama e fai clic suModellischeda. Qui vedrai tutti i modelli AI. Cerca ilQwen. Quindi ti mostrerà tutti i modelli Qwen AI disponibili, tra cui Qwen, Qwen2, Qwen2.5, ecc. Fai clic sul modello che si desidera distribuire sul tuo PC.

In questa guida, vedremo come installare ilQwen2.5Modello localmente su una macchina Windows. Ogni modello QWEN ha parametri diversi. Il modello Qwen2.5 ha parametri 0,5b, 1,5b, 3b, 7b, ecc. Qwen 0,5b è il parametro più piccolo e veloce. È costituito da 0,5 miliardi di parametri ed è utile per le attività di base. Il parametro 1.5B di Qwen AI è più avanzato del parametro QWEN 0.5B. Allo stesso modo, altri parametri di grandi dimensioni sono parametri più avanzati rispetto ai precedenti.

L'installazione dei parametri di grandi dimensioni richiede un PC di fascia alta. Pertanto, installa quello che il computer può funzionare senza intoppi. Inoltre, i parametri più grandi richiedono più spazio su disco. Seleziona il parametro dal menu a discesa e copia il rispettivo comando. Ad esempio, il comando di installare Qwen2.5 AI con parametro 0,5B è:

ollama run qwen2.5:0.5b

Apri il prompt dei comandi, incolla il comando copiato e premiEntrare. Non chiudere il prompt dei comandi prima del completamento del comando che hai dato.

Quando il comando esegue correttamente, Qwen AI verrà installato sul tuo computer. Ora puoi chattare con Qwen AI in CMD. Se si desidera chattare con Qwen AI la prossima volta, apri il prompt dei comandi ed esegui lo stesso comando. Per installare un altro modello di Qwen AI, copiare il comando richiesto dal sito Web Ollama ed eseguirlo nel CMD.

Installazione di Docker su Windows

Puoi usare Qwen AI in CMD sulla macchina Windows. Tuttavia, non salva la cronologia della chat. Inoltre, l'installazione di un'interfaccia utente dedicata per Qwen Ai rende anche più facile da usare. Per questo, devi installare Docker.

Visita ilSito ufficiale di Dockere scarica la sua versione supportata da Windows. Ora installa l'app sul tuo PC. È necessario creare un account sul sito Web di Docker per scaricarlo e installarlo sul tuo sistema.

Dopo aver completato l'installazione di Docker, eseguire Docker e assicurarsi che continui a funzionare in background. Ora, apri il prompt dei comandi ed esegui il seguente comando:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Il comando sopra creerà un contenitore nell'app Docker. Ci vorrà del tempo per completare il comando sopra. Quando il comando è completato, aprire l'app Docker. Vedrai un contenitore nelContenitorisezione.

Esegui Qwen Ai localmente su Windows

Ora, l'ultimo passo è eseguire la Qwen AI localmente sul sistema nel browser Web. Apri l'app Docker e fai clic su3000: 8080Collegamento nella sezione Contenitori. Ciò aprirà LocalHost con la porta 3000 nel browser Web predefinito. Ora, crea un account. Ricorda i dettagli di accesso, poiché gli stessi dettagli di accesso saranno richiesti da te per utilizzare ogni volta l'IA Qwen.

Si noti che per eseguire Qwen AI a livello locale nel browser Web, sia Ollama che il rispettivo contenitore Docker dovrebbero essere in esecuzione in background.

Questo è tutto.

Posso usare AI sul mio PC?

Sì, puoi usare gli strumenti AI sul tuo PC. Se il sistema non ha hardware supportato, è possibile utilizzare gli strumenti Cloud AI. Tali strumenti sono ospitati sui loro server. Quindi, non mettono un carico sul tuo sistema. Tuttavia, se si desidera distribuire uno strumento di intelligenza artificiale localmente sul sistema, il sistema dovrebbe avere hardware supportato.

Qwen LLM è open source?

Alcuni modelli di Qwen AI sono open source, tra cui Qwen2.5-7B-instruct-1M e Qwen2.5-14b-instruct-1m.

Related Posts