Jak uruchomić DeepSeek lokalnie w systemie Windows 11

DeepSeek, chińska firma, wprowadziła niedawno na rynek swój model sztucznej inteligencji DeepSeek-R1. Aby z niego skorzystać, należy założyć konto na stronie DeepSeek. Jej aplikacja jest także dostępna na telefony z Androidem i iPhone'y. Możesz także skonfigurować i hostować DeepSeek-R1 lokalnie na swoim komputerze, nawet bez połączenia z Internetem. Będzie to destylowana wersja DeepSeek-R1. Ten artykuł pokazujejak uruchomić DeepSeek R1 lub DeepSeek V3 lokalnie w systemie Windows 11/10.

Kto jest założycielem DeepSeek?

DeepSeek to start-up zajmujący się sztuczną inteligencją z siedzibą w Chinach. Jej założycielką jest 40-letnia Liang Wenfeng. W 2023 roku DeepSeek AI został wprowadzony na rynek amerykański w sklepach Google i Apple App Store. Po uruchomieniu liczba pobrań gwałtownie wzrosła i stała się najczęściej pobieraną aplikacją w USA.

Aby pobrać, zainstalować i uruchomić DeepSeek R1 lokalnie na komputerze z systemem Windows 11/10, wykonaj następujące kroki:

  1. Zainstaluj Ollamę
  2. Zainstaluj model DeepSeek R1 za pomocą cmd
  3. Zainstaluj interfejs DeepSeek

Wszystkie te kroki zostały szczegółowo wyjaśnione poniżej:

1] Zainstaluj Ollamę

Pierwszym krokiem jest zainstalowanie Ollama na swoim komputerze. Można go pobrać z jego stronyoficjalna strona internetowa. Uruchom plik instalacyjny, aby zainstalować Ollamę na swoim komputerze. Po zainstalowaniu Ollama odwiedź ponownie jej oficjalną stronę internetową i kliknij przyciskModelezakładka na górze.

Zobaczysz tam model deepseek-r1. DeepSeek-R1 dostępny jest w różnych parametrach 1.5b, 7b, 8b, 14b itd. Model DeepSeek-R1 o większych parametrach wymaga komputera PC z najwyższej półki. Dlatego zainstaluj model DeepSeek zgodnie ze sprzętem komputera.

Wybierz wymagany model DeepSeek-R1 z rozwijanego menu, a następnie skopiuj wymagane polecenie. Załóżmy, że chcesz zainstalować najlżejszy model DeepSeek-R1, polecenie będzie wyglądać:

ollama run deepseek-r1:1.5b

Aby zainstalować model DeepSeek-R1 14b, polecenie będzie następujące:

ollama run deepseek-r1:14b

2] Zainstaluj model DeepSeek R1 za pomocą cmd

Następnym krokiem jest uruchomienie polecenia skopiowanego w powyższym kroku. Otwórz wiersz poleceń na komputerze z systemem Windows i wklej tam skopiowane polecenie. UderzyćWchodzićpo tym.

Wykonanie polecenia zajmie trochę czasu, w zależności od modelu wybranego do instalacji. Nie zamykaj wiersza poleceń, dopóki polecenie nie zostanie całkowicie wykonane.

Po pomyślnym wykonaniu polecenia możesz używać modelu DeepSeek-R1 w wierszu poleceń. Aby następnym razem użyć modelu DeepSeek-R1, otwórz wiersz poleceń i uruchom to samo polecenie. Na przykład, jeśli zainstalowałeś DeepSeek-R1 model 1.5b, uruchom następujące polecenie w CMD za każdym razem, gdy chcesz go użyć w swoim systemie:

ollama run deepseek-r1:1.5b

Teraz możesz rozmawiać z modelem DeepSeek-R1. Korzystanie z modelu DeepSeek-R1 w wierszu poleceń systemu Windows ma jedną wadę. Twoja historia czatów nie zostanie zapisana. Dlatego musisz zainstalować jego interfejs użytkownika.

3] Zainstaluj interfejs DeepSeek

Zainstalowanie interfejsu użytkownika DeepSeek-R1 ma przewagę nad używaniem go w wierszu poleceń systemu Windows. Możesz wyświetlić lub uzyskać dostęp do swojej poprzedniej historii czatów. Pokażemy Ci, jak hostować model DeepSeek-R1 lokalnie na komputerze z systemem Windows.

Można to zrobić dwoma następującymi metodami:

  • Instalując aplikację Chatbox AI
  • Instalując aplikację Docker

Uruchom DeepSeek-R1 na komputerze z systemem Windows za pośrednictwem AI Chatbox

Odwiedź Chatbox AIoficjalna strona internetowai pobierz plik instalacyjny. Uruchom plik instalacyjny, aby zainstalować Chatbox AI. Teraz uruchom Chatbox AI i skonfiguruj go w swoim systemie. Otwórz aplikację Chatbox i przejdź do jej Ustawień. WybierzAPI DeepSeekapodMODELpatka. Wprowadź klucz API DeepSeek, aby go aktywować i zapisać zmiany. Teraz możesz już używać DeepSeek-R1 w swoim systemie.

Możesz uzyskać klucz API DeepSeek z jegooficjalna strona internetowa. Jeśli nie możesz uzyskać klucza API, możesz zastosować inną metodę instalacji interfejsu użytkownika DeepSeek-R1.

Uruchom DeepSeek-R1 na komputerze z systemem Windows za pośrednictwem aplikacji Docker

Jeśli powyższa metoda nie działa dla Ciebie, możesz skorzystać z aplikacji Docker. Pobierz aplikację Docker z oficjalnej strony internetowej i zainstaluj ją. Aby korzystać z Dockera, musisz założyć konto na oficjalnej stronie Dockera.

Teraz uruchom aplikację Docker i zaloguj się do niej przy użyciu tego samego konta. Nie zamykaj aplikacji Docker. Niech działa w tle. Kiedy skończysz, otwórz wiersz poleceń i uruchom następujące polecenie:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Wykonanie powyższego polecenia zajmie trochę czasu. Nie przerywaj tego. Po wykonaniu powyższego polecenia zamknij Wiersz Poleceń, przejdź do aplikacji Docker i wybierzKonteneryz lewej strony. Po prawej stronie zobaczysz nowy kontener z numerem portu 3000:8080.

Kliknij numer portu 3000:8080 w aplikacji Docker. W domyślnej przeglądarce internetowej otworzy się nowa zakładka z adresemhost lokalny: 3000. Załóż tam konto, podając swoje imię i nazwisko, adres e-mail i hasło. Zapamiętaj te dane, ponieważ musisz je wprowadzić za każdym razem, gdy uruchamiasz DeepSeek-R1 na hoście lokalnym w swoim systemie.

Jeśli chcesz wyjść, wyloguj się z DeepSeek w przeglądarce internetowej. Opcja Wyloguj się stanie się widoczna po kliknięciu ikony profilu w prawym górnym rogu. Następnie otwórz aplikację Docker i kliknijZatrzymywać sięprzycisk. Teraz możesz zamknąć Dockera.

Pamiętaj, że aby lokalnie używać DeepSeek-R1 w przeglądarce internetowej, Ollama i Docker powinny działać w tle w twoim systemie. Dlatego najpierw uruchom Ollamę, a następnie uruchom aplikację Docker. Odpowiedni kontener powinien działać w aplikacji Docker. Jeśli kontener nie działa, uruchom go. Teraz możesz odwiedzić localhost:3000 w swojej przeglądarce internetowej i zalogować się na to samo konto, aby korzystać z DeepSeek-R1.

Powinieneś wiedzieć, że DeepSeek zbiera dane użytkowników, takie jak informacje o urządzeniu, wzorce naciśnięć klawiszy, adresy IP i historia czatów, i przechowuje je na serwerach w Chinach. Nie dotyczy to jednak modeli lokalnych ani aplikacji zbudowanych przy użyciu DeepSeek.

Mam nadzieję, że to pomoże.

Czytać:

Jak uruchomić Deepseek V3 0323 lokalnie?

DeepSeek V3 0323 to zaawansowany model językowy Mixture-of-Experts (MoE) przeznaczony do wysokowydajnych zadań AI. R1, zbudowany na V3, obejmuje uczenie się przez wzmacnianie w celu usprawnienia rozumowania i rozwiązywania problemów, doskonale sprawdzając się w zadaniach wymagających dużej logiki, takich jak kodowanie i analiza matematyczna. Podczas gdy wersja V3 jest wszechstronna i opłacalna, R1 specjalizuje się w zaawansowanym rozumowaniu i ustrukturyzowanym rozwiązywaniu problemów.

Aby uruchomić DeepSeek V3, możesz wykonać kroki wymienione poniżej.

1. Pobierz i zainstaluj Python 3.9 i dodaj go do ścieżki.

2. Następnie zainstaluj Git zgit-scm.comi upewnij się, że jest zainstalowany za pomocą git –version.

3. Przejdź dodeweloper.nvidia.comi pobierz zestaw narzędzi CUDA w wersji 11.8.

4. Uruchom następujące polecenia, aby sklonować repozytorium.

git clone https://github.com/khanfar/DeepSeek-Windows.git
cd DeepSeek-Windows
python -m venv venv
venv\Scripts\activate

5. Teraz musimy zainstalować PyTorch i inne wymagania.

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
pip install -r requirements.txt

6. Następnie pobierz wagi modeli za pomocą następującego polecenia.

python download_model.py

7. Na koniec uruchom serwer i przetestuj model.

python windows_server.py --model model_weights_bf16 --trust-remote-code
python test_client.py

W ten sposób możesz rozpocząć korzystanie z serwera pod adresemhttps://127.0.0.1:30000.

Czy Deepseek jest darmowy?

Obecnie korzystanie z DeepSeek AI jest bezpłatne. Można ją pobrać i zainstalować bezpłatnie w Apple App Store i Google Play Store. Korzystanie z aplikacji internetowej jest również bezpłatne. Możesz odwiedzić jego oficjalną stronę internetową, aby skorzystać z aplikacji internetowej. DeepSeek oferuje również bezpłatny dostęp do swojego DeepSeek-V3, znanego wcześniej jako czat DeepSeek.

Przeczytaj dalej:.

Related Posts