Como executar Qwen AI localmente no Windows 11

Qwen IAé o mais recente modelo de IA lançado pelo Alibaba Group. Enquanto,,, e outras ferramentas populares de IA estão disponíveis para plataformas Android, iOS e Windows, Qwen está atualmente disponível como um aplicativo da web. Você pode acessar e usar esta ferramenta visitando seu site oficial. No entanto, isso requer que você se inscreva no site. Além disso, você também deve ter uma conexão ativa com a Internet. Mas você sabe que podeexecute Qwen AI localmente em seu PC com Windows 11/10? Este artigo mostra como fazer isso.

Como usar Qwen AI na web?

Para usar Qwen AI do Alibaba na web, visitechat.qwenlm.aie insira sua consulta. Continue conversando como faria em qualquer ferramenta de IA. Você terá que criar uma conta e fazer login para usar o Qwen.

Para executar o Qwen localmente em seu PC com Windows, você precisa instalar as duas ferramentas a seguir:

• Ser
• Docker

Seré um projeto gratuito e de código aberto que permite aos usuários executar LLMs (grandes modelos de linguagem) em suas máquinas locais.

Dockeré uma plataforma de código aberto para desenvolver, enviar e executar aplicativos. Os desenvolvedores podem compartilhar seu trabalho criando contêineres no Docker.

Neste guia, explicaremos como executar o Qwen AI localmente em seu PC Windows, criando um contêiner no aplicativo Docker.

Como instalar o Ollama no Windows

O primeiro passo é instalar o Ollama em seu sistema. Siga as etapas fornecidas abaixo:

1. Visite oSite oficial de Ollama.
2. Clique no botão Download, selecione a plataforma Windows e prossiga com o download do Ollama para sua máquina Windows.
3. Quando o download for concluído, execute o arquivo do instalador para instalar o Olama em seu sistema.
4. Agora, inicie o Ollama e deixe-o rodar em segundo plano.

Instale o modelo Qwen AI localmente

Agora, a próxima etapa é instalar o modelo Qwen AI localmente em seu sistema. Acesse o site oficial do Ollama e clique no botãoModelosguia. Aqui você verá todos os modelos de IA. Procure oQwen. Em seguida, ele mostrará todos os modelos Qwen AI disponíveis, incluindo Qwen, Qwen2, Qwen2.5, etc. Clique no modelo que deseja implantar em seu PC.

Neste guia, veremos como instalar oQwen2.5modelo localmente em uma máquina Windows. Cada modelo Qwen possui parâmetros diferentes. O modelo Qwen2.5 possui parâmetros 0,5b, 1,5b, 3b, 7b, etc. Qwen 0,5b é o menor e mais rápido parâmetro. Consiste em 0,5 bilhão de parâmetros e é bom para tarefas básicas. O parâmetro 1.5b do Qwen AI é mais avançado do que o parâmetro Qwen 0.5b. Da mesma forma, outros parâmetros grandes são parâmetros mais avançados que os anteriores.

A instalação de parâmetros grandes requer um PC de última geração. Portanto, instale aquele que seu computador possa funcionar sem problemas. Além disso, parâmetros maiores requerem mais espaço em disco. Selecione o parâmetro no menu suspenso e copie seu respectivo comando. Por exemplo, o comando para instalar Qwen2.5 AI com parâmetro 0.5b é:

ollama run qwen2.5:0.5b

Abra o prompt de comando, cole o comando copiado e cliqueDigitar. Não feche o prompt de comando antes de concluir o comando que você deu.

Quando o comando for executado com sucesso, o Qwen AI será instalado no seu computador. Agora você pode conversar com o Qwen AI no CMD. Se quiser bater um papo com o Qwen AI na próxima vez, abra o prompt de comando e execute o mesmo comando. Para instalar outro modelo de Qwen AI, copie o comando necessário do site Ollama e execute-o no CMD.

Instalando Docker no Windows

Você pode usar Qwen AI no CMD em sua máquina Windows. No entanto, ele não salva seu histórico de bate-papo. Além disso, a instalação de uma IU dedicada para Qwen AI também facilita seu uso. Para isso, é necessário instalar o Docker.

Visite osite oficial do Dockere baixe sua versão compatível com Windows. Agora, instale o aplicativo no seu PC. Você precisa criar uma conta no site do Docker para fazer o download e instalá-lo em seu sistema.

Após a conclusão da instalação do Docker, execute o Docker e certifique-se de que ele continue sendo executado em segundo plano. Agora, abra o prompt de comando e execute o seguinte comando:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

O comando acima criará um contêiner no aplicativo Docker. Levará algum tempo para concluir o comando acima. Quando o comando for concluído, abra o aplicativo Docker. Você verá um contêiner noRecipientesseção.

Execute Qwen AI localmente no Windows

Agora, a última etapa é executar o Qwen AI localmente em seu sistema no navegador da web. Abra o aplicativo Docker e clique no botão3000:8080link na seção Contêineres. Isso abrirá o host local com porta 3000 em seu navegador padrão. Agora, crie uma conta. Lembre-se dos detalhes de login, pois você sempre precisará dos mesmos detalhes de login para usar o Qwen AI.

Observe que para executar o Qwen AI localmente em seu navegador, tanto o Ollama quanto o respectivo Docker Container devem estar sendo executados em segundo plano.

É isso.

Ler:

Posso usar IA no meu PC?

Sim, você pode usar ferramentas de IA em seu PC. Se o seu sistema não tiver hardware compatível, você poderá usar as ferramentas de IA na nuvem. Essas ferramentas estão hospedadas em seus servidores. Conseqüentemente, eles não sobrecarregam o seu sistema. No entanto, se você deseja implantar uma ferramenta de IA localmente em seu sistema, seu sistema deve ter hardware compatível.

O Qwen LLM é de código aberto?

Alguns modelos do Qwen AI são de código aberto, incluindo Qwen2.5-7B-Instruct-1M e Qwen2.5-14B-Instruct-1M.