Como executar Qwen AI localmente no Windows 11

Qwen aié o mais recente modelo de IA lançado pelo Alibaba Group. Enquanto, Assim,, Assim,E outras ferramentas populares de IA estão disponíveis para plataformas Android, iOS e Windows, a QWEN está atualmente disponível como um aplicativo da Web. Você pode acessar e usar esta ferramenta visitando seu site oficial. No entanto, isso exige que você se inscreva no site. Além disso, você também deve ter uma conexão ativa na Internet. Mas você sabe que podeExecute Qwen AI localmente no seu Windows 11/10 pc? Este artigo mostra como fazer isso.

Como usar Qwen AI na web?

Para usar Qwen AI da Alibaba na web, visitechat.qwenlm.aie insira sua consulta. Continue conversando como faria em qualquer ferramenta de IA. Você precisará criar uma conta e fazer login para usar o QWEN.

Como executar Qwen AI localmente no Windows 11/10

Para executar o QWEN localmente no seu PC do Windows, você precisa instalar as duas ferramentas a seguir:

Ollama
Docker

Ollamaé um projeto gratuito e de código aberto que permite que os usuários executem LLMs (grandes modelos de idiomas) em suas máquinas locais.

Dockeré uma plataforma de código aberto para o desenvolvimento, envio e execução de aplicativos. Os desenvolvedores podem compartilhar seu trabalho criando contêineres no Docker.

Neste guia, explicaremos como você executa o QWEN AI localmente no seu PC Windows, criando um contêiner no aplicativo Docker.

Como instalar o Ollama no Windows

O primeiro passo é instalar o Ollama no seu sistema. Siga as etapas fornecidas abaixo:

Visite oSite oficial de Ollama.
Clique no botão de download, selecione a plataforma Windows e prossiga com o download do Ollama para sua máquina Windows.
Quando o download for concluído, execute o arquivo do instalador para instalar o Olama no seu sistema.
Agora, inicie o Ollama e deixe -o ser executado em segundo plano.

Instale o modelo Qwen AI localmente

Agora, a próxima etapa é instalar o modelo QWEN AI no seu sistema localmente. Vá para o site oficial de Ollama e clique emModelosguia. Aqui, você verá todos os modelos de IA. Procure oQwen. Em seguida, mostrará todos os modelos QWEN AI disponíveis, incluindo QWEN, QWEN2, QWEN2.5, etc. Clique no modelo que você deseja implantar no seu PC.

Neste guia, veremos como instalar oQwen2.5Modele localmente em uma máquina Windows. Cada modelo QWEN possui parâmetros diferentes. O modelo QWEN2.5 possui parâmetros 0,5b, 1,5b, 3b, 7b, etc. Qwen 0,5b é o menor e mais rápido parâmetro. Consiste em 0,5 bilhões de parâmetros e é bom para tarefas básicas. O parâmetro 1,5b de Qwen AI é mais avançado que o parâmetro QWEN 0.5B. Da mesma forma, outros grandes parâmetros são parâmetros mais avançados do que os anteriores.

A instalação dos grandes parâmetros requer um PC de ponta. Portanto, instale o que seu computador pode executar sem problemas. Além disso, parâmetros maiores requerem mais espaço em disco. Selecione o parâmetro no suspensão e copie seu comando respectivo. Por exemplo, o comando para instalar QWEN2.5 AI com parâmetro 0,5b é:

ollama run qwen2.5:0.5b

Abra o prompt de comando, cola o comando copiado e acerteDigitar. Não feche o prompt de comando antes da conclusão do comando que você deu.

Quando o comando é executado com sucesso, a QWEN AI será instalada no seu computador. Agora, você pode conversar com o Qwen AI em CMD. Se você quiser conversar com o QWEN AI na próxima vez, abra o prompt de comando e execute o mesmo comando. Para instalar outro modelo de Qwen AI, copie o comando necessário no site da Ollama e execute -o no CMD.

Instalando o Docker no Windows

Você pode usar o QWEN AI em CMD na sua máquina Windows. No entanto, isso não salva seu histórico de bate -papo. Além disso, a instalação de uma interface do usuário dedicada para Qwen AI também facilita o uso. Para isso, você deve instalar o Docker.

Visite oSite oficial do Dockere baixe sua versão suportada pelo Windows. Agora, instale o aplicativo no seu PC. Você precisa criar uma conta no site do Docker para baixar e instalá -la no seu sistema.

Após a conclusão da instalação do Docker, execute o Docker e verifique se ele continua funcionando em segundo plano. Agora, abra o prompt de comando e execute o seguinte comando:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

O comando acima criará um contêiner no aplicativo Docker. Levará algum tempo para concluir o comando acima. Quando o comando concluir, abra o aplicativo Docker. Você verá um contêiner noContêineresseção.

Execute Qwen AI localmente no Windows

Agora, a última etapa é executar o Qwen AI localmente no seu sistema no navegador da web. Abra o aplicativo Docker e clique no3000: 8080link na seção de contêineres. Isso abrirá o host local com a porta 3000 no seu navegador padrão. Agora, crie uma conta. Lembre -se dos detalhes do login, pois os mesmos detalhes de login serão necessários para você usar o QWEN AI todas as vezes.

Observe que, para executar a QWEN AI localmente no seu navegador da web, tanto o Ollama quanto o respectivo contêiner do Docker devem estar em segundo plano.

É isso.

Posso usar a IA no meu PC?

Sim, você pode usar ferramentas de AI no seu PC. Se o seu sistema não tiver hardware suportado, você poderá usar as ferramentas de IA da nuvem. Essas ferramentas são hospedadas em seus servidores. Portanto, eles não colocam uma carga no seu sistema. No entanto, se você deseja implantar uma ferramenta de IA localmente no seu sistema, seu sistema deve ter suportado hardware.