Jak uruchomić Qwen AI lokalnie w systemie Windows 11

Qwen AIjest najnowszym modelem AI wydanym przez Alibaba Group. ChwilaWWi inne popularne narzędzia AI są dostępne na platformy Android, iOS i Windows, QWEN jest obecnie dostępna jako aplikacja internetowa. Możesz uzyskać dostęp do tego narzędzia, odwiedzając jego oficjalną stronę internetową. Wymaga to jednak zarejestrowania się na stronie internetowej. Ponadto powinieneś również mieć aktywne połączenie internetowe. Ale czy wiesz, że możeszUruchom QWEN AI lokalnie na swoim komputerze Windows 11/10? Ten artykuł pokazuje, jak to zrobić.

Jak korzystać z AI QWEN w Internecie?

Aby użyć Qwen AI z Alibaba w Internecie, odwiedźChat.QWENLM.AIi wprowadź swoje zapytanie. Kontynuuj rozmowę, tak jak w każdym narzędziu AI. Będziesz musiał utworzyć konto i zalogować się, aby korzystać z QWEN.

Jak uruchomić Qwen AI lokalnie w systemie Windows 11/10

Aby uruchomić QWEN lokalnie na komputerze Windows, musisz zainstalować następujące dwa narzędzia:

Ollama
Doker

Ollamato bezpłatny i open source, który pozwala użytkownikom uruchamiać LLM (duże modele językowe) na swoich lokalnych maszynach.

Dokerjest platformą open source do opracowywania, wysyłki i uruchamiania aplikacji. Deweloperzy mogą dzielić się swoją pracą, tworząc kontenery w Docker.

W tym przewodniku wyjaśnimy, w jaki sposób uruchamiasz QWEN AI lokalnie na komputerze z systemem Windows, tworząc kontener w aplikacji Docker.

Jak zainstalować Ollama w systemie Windows

Pierwszym krokiem jest zainstalowanie Ollamy w twoim systemie. Postępuj zgodnie z poniższymi krokami:

OdwiedźOficjalna strona Ollamy.
Kliknij przycisk Pobierz, wybierz platformę Windows i kontynuuj pobieranie Ollamy dla komputera Windows.
Po zakończeniu pobierania uruchom plik instalatora, aby zainstalować Olama w twoim systemie.
Teraz uruchom Ollama i pozwól mu działać w tle.

Zainstaluj model Qwen AI lokalnie

Teraz następnym krokiem jest lokalnie zainstalowanie modelu AI QWEN w systemie. Przejdź do oficjalnej strony internetowej Ollamy i kliknijModelepatka. Tutaj zobaczysz wszystkie modele AI. SzukajQwen. Następnie pokaże wszystkie dostępne modele QWEN AI, w tym QWEN, QWEN2, QWEN2.5 itp. Kliknij model, który chcesz wdrożyć na komputerze.

W tym przewodniku zobaczymy, jak zainstalowaćQWEN2.5Model lokalnie na komputerze z systemem Windows. Każdy model QWEN ma inne parametry. Model QWEN2.5 ma parametry 0,5b, 1,5b, 3b, 7b itp. QWEN 0,5B jest najmniejszym i najszybszym parametrem. Składa się z 0,5 miliarda parametrów i jest dobry do podstawowych zadań. Parametr 1,5B QWEN AI jest bardziej zaawansowany niż parametr QWEN 0,5B. Podobnie inne duże parametry to bardziej zaawansowane parametry niż poprzednie.

Instalowanie dużych parametrów wymaga wysokiej klasy komputera. Dlatego zainstaluj ten, który komputer może działać płynnie. Ponadto większe parametry wymagają większej przestrzeni dysku. Wybierz parametr z rozwijanego i skopiuj jego odpowiednie polecenie. Na przykład polecenie instalacji AI QWEN2.5 z parametrem 0,5B jest:

ollama run qwen2.5:0.5b

Otwórz wiersz polecenia, wklej skopiowane polecenie i uderzWchodzić. Nie zamykaj wiersza polecenia przed zakończeniem wydanego przez ciebie polecenia.

Gdy polecenie zostanie pomyślnie wykonane, Qwen AI zostanie zainstalowana na twoim komputerze. Teraz możesz porozmawiać z AI QWEN w CMD. Jeśli chcesz porozmawiać z AI QWEN, otwórz wiersz polecenia i uruchom to samo polecenie. Aby zainstalować inny model AI QWEN, skopiuj wymagane polecenie ze strony internetowej Ollama i uruchom go w CMD.

Instalowanie Docker w systemie Windows

Możesz użyć QWEN AI w CMD na komputerze z systemem Windows. Nie zapisuje jednak historii czatu. Ponadto zainstalowanie dedykowanego interfejsu użytkownika dla QWEN AI również ułatwia korzystanie. W tym celu musisz zainstalować Dockera.

OdwiedźOficjalna strona Dockeri pobierz wersję wspieraną przez system Windows. Teraz zainstaluj aplikację na komputerze. Musisz utworzyć konto na stronie Docker, aby pobrać je i zainstalować w swoim systemie.

Po zakończeniu instalacji Dockera uruchom Docker i upewnij się, że działa w tle. Teraz otwórz wiersz polecenia i wykonaj następujące polecenie:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Powyższe polecenie utworzy kontener w aplikacji Docker. Ukończenie powyższego powiązania zajmie trochę czasu. Po zakończeniu polecenia otwórz aplikację Docker. Zobaczysz pojemnik wPojemnikisekcja.

Uruchom QWEN AI lokalnie w systemie Windows

Ostatnim krokiem jest uruchomienie AI QWEN w systemie w przeglądarce internetowej. Otwórz aplikację Docker i kliknij3000: 8080link w sekcji kontenerów. To otworzy LocalHost z portem 3000 w domyślnej przeglądarce internetowej. Teraz utwórz konto. Pamiętaj o szczegółach logowania, ponieważ te same szczegóły logowania będą wymagane przez Ciebie, aby używać AI QWEN za każdym razem.

Pamiętaj, że aby uruchomić Qwen AI lokalnie w przeglądarce internetowej, zarówno Ollama, jak i odpowiedni kontener Docker powinien działać w tle.

To wszystko.

Czy mogę używać sztucznej inteligencji na moim komputerze?

Tak, możesz użyć narzędzi AI na swoim komputerze. Jeśli Twój system nie ma obsługi sprzętu, możesz użyć narzędzi Cloud AI. Takie narzędzia są hostowane na ich serwerach. Dlatego nie przykładają one twojego systemu. Jeśli jednak chcesz wdrożyć narzędzie AI lokalnie w twoim systemie, system powinien obsługiwać sprzęt.