A DeepSeek helyi futtatása Windows 11 rendszeren

DeepSeek, egy kínai cég nemrégiben piacra dobta mesterséges intelligencia modelljét, a DeepSeek-R1-et. Használatához létre kell hoznia egy fiókot a DeepSeek webhelyén. Alkalmazása Android telefonokra és iPhone készülékekre is elérhető. A DeepSeek-R1-et helyileg is beállíthatja és tárolhatja számítógépén, akár internetkapcsolat nélkül is. Ez lesz a DeepSeek-R1 desztillált verziója. Ez a cikk megmutatjahogyan kell helyileg futtatni a DeepSeek R1-et vagy a DeepSeek V3-at Windows 11/10 rendszeren.

Ki a DeepSeek alapítója?

A DeepSeek egy induló mesterséges intelligencia-cég Kínában. Alapítója a 40 éves Liang Wenfeng. 2023-ban a DeepSeek AI bevezetésre került az Egyesült Államok piacán a Google és az Apple App Store-ban. Indulása után a letöltések száma az egekbe szökött, és ez lett a legtöbbet letöltött alkalmazás az Egyesült Államokban.

A DeepSeek R1 letöltéséhez, telepítéséhez és helyi futtatásához Windows 11/10 rendszerű számítógépén kövesse az alábbi lépéseket:

  1. Telepítse az Ollamát
  2. Telepítse a DeepSeek R1 modellt a cmd segítségével
  3. Telepítse a DeepSeek UI-t

Mindezeket a lépéseket az alábbiakban részletesen ismertetjük:

1] Az Ollama telepítése

Az első lépés az Ollama telepítése a számítógépére. Letöltheti innenhivatalos weboldal. Futtassa a telepítőfájlt az Ollama számítógépre történő telepítéséhez. Az Ollama telepítése után látogassa meg újra a hivatalos webhelyét, és kattintson aModellekfül a tetején.

Ott látni fogja a deepseek-r1 modellt. A DeepSeek-R1 különböző paraméterekkel kapható, 1.5b, 7b, 8b, 14b stb. A nagyobb paraméterekkel rendelkező DeepSeek-R1 modellhez csúcskategóriás PC szükséges. Ezért telepítse a DeepSeek modellt a számítógép hardverének megfelelően.

Válassza ki a kívánt DeepSeek-R1 modellt a legördülő menüből, majd másolja ki a kívánt parancsot. Tegyük fel, hogy a DeepSeek-R1 legkönnyebb modelljét szeretné telepíteni, a parancs a következő lesz:

ollama run deepseek-r1:1.5b

A DeepSeek-R1 14b modell telepítéséhez a parancs a következő lesz:

ollama run deepseek-r1:14b

2] Telepítse a DeepSeek R1 modellt a cmd segítségével

A következő lépés a fenti lépésben másolt parancs futtatása. Nyissa meg a parancssort a Windows számítógépén, és illessze be a másolt parancsot. TalálatEnterazután.

A parancs végrehajtása eltart egy ideig, a telepítéshez kiválasztott modelltől függően. Ne zárja be a parancssort, amíg a parancs teljesen le nem hajtódik.

A parancs sikeres végrehajtása után használhatja a DeepSeek-R1 modellt a parancssorban. A DeepSeek-R1 modell legközelebbi használatához nyissa meg a Parancssort, és futtassa ugyanazt a parancsot. Például, ha telepítette a DeepSeek-R1 1.5b modellt, futtassa a következő parancsot a CMD-ben minden alkalommal, amikor használni kívánja a rendszeren:

ollama run deepseek-r1:1.5b

Most már cseveghet a DeepSeek-R1 modellel. A DeepSeek-R1 modellnek a Windows parancssorban való használatának van egy hátránya. A csevegési előzmények nem kerülnek mentésre. Ezért telepítenie kell a felhasználói felületet.

3] Telepítse a DeepSeek UI-t

A DeepSeek-R1 UI telepítésének előnye van a Windows parancssorban történő használatához képest. Megtekintheti vagy hozzáférhet korábbi csevegési előzményeihez. Megmutatjuk, hogyan tárolhatja helyileg a DeepSeek-R1 modellt a Windows gépén.

Ezt a következő két módszerrel teheti meg:

  • A Chatbox AI alkalmazás telepítésével
  • A Docker alkalmazás telepítésével

Futtassa a DeepSeek-R1-et Windows számítógépén a Chatbox AI-n keresztül

Látogassa meg a Chatbox AI-thivatalos weboldalés töltse le a telepítőfájlját. Futtassa a telepítőfájlt a Chatbox AI telepítéséhez. Most futtassa a Chatbox AI-t, és állítsa be a rendszeren. Nyissa meg a Chatbox alkalmazást, és lépjen a Beállításokba. Válassza ki aDeepSeek APIalatt aMODELLlapon. Adja meg a DeepSeek API kulcsot az aktiváláshoz és a módosítások mentéséhez. Most készen áll a DeepSeek-R1 használatára a rendszeren.

Ebből szerezheti be a DeepSeek API kulcsothivatalos weboldal. Ha nem tudja megszerezni az API-kulcsot, más módszert követve telepítheti a DeepSeek-R1 felhasználói felületet.

Futtassa a DeepSeek-R1-et Windows számítógépén a Docker alkalmazáson keresztül

Ha a fenti módszer nem működik az Ön számára, használhatja a Docker alkalmazást. Töltse le a Docker alkalmazást a hivatalos webhelyről, és telepítse. A Docker használatához létre kell hoznia egy fiókot a Docker hivatalos webhelyén.

Most indítsa el a Docker alkalmazást, és jelentkezzen be ugyanazzal a fiókkal. Ne zárja be a Docker alkalmazást. Hagyja futni a háttérben. Ha végzett, nyissa meg a Parancssort, és futtassa a következő parancsot:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

A fenti parancs végrehajtása eltart egy ideig. Ne szakítsa meg. A fenti parancs végrehajtása után zárja be a Parancssort, lépjen a Docker alkalmazásba, és válassza aKonténereka bal oldalról. A jobb oldalon egy új tároló jelenik meg a 3000:8080 portszámmal.

Kattintson a 3000:8080 portszámra a Docker alkalmazásban. Az alapértelmezett webböngészőben egy új lap nyílik meg a címmellocalhost:3000. Hozzon létre egy fiókot a neve, e-mail azonosítója és jelszava megadásával. Ne felejtse el ezeket a részleteket, mivel minden alkalommal meg kell adnia őket, amikor elindítja a DeepSeek-R1-et a localhost rendszeren.

Ha ki szeretne lépni, jelentkezzen ki a DeepSeek alkalmazásból a böngészőjében. A Kijelentkezés lehetőség akkor válik láthatóvá, ha rákattint a jobb felső sarokban található profilikonra. Ezután nyissa meg a Docker alkalmazást, és kattintson aStopgomb. Most bezárhatja a Dockert.

Ne feledje, hogy a DeepSeek-R1 használatához a webböngészőben helyileg, az Ollama és a Docker futnia kell a háttérben a rendszeren. Ezért először indítsa el az Ollamát, majd indítsa el a Docker alkalmazást. A megfelelő tárolónak futnia kell a Docker alkalmazásban. Ha a tároló nem fut, futtassa. Most meglátogathatja a localhost:3000-et a webböngészőjében, és bejelentkezhet ugyanazzal a fiókkal a DeepSeek-R1 használatához.

Tudnia kell, hogy a DeepSeek olyan felhasználói adatokat gyűjt, mint az eszközadatok, a billentyűleütési minták, az IP-címek és a csevegési előzmények, és tárolja azokat kínai szervereken. Ez azonban nem vonatkozik a DeepSeek segítségével készült helyi modellekre vagy alkalmazásokra.

Remélem ez segít.

Olvas:

Hogyan futtatható a Deepseek V3 0323 helyileg?

A DeepSeek V3 0323 egy fejlett Mixture of-Experts (MoE) nyelvi modell, amelyet nagy teljesítményű mesterséges intelligencia-feladatokhoz terveztek. A V3-ra épülő R1 megerősítő tanulást tartalmaz az érvelés és a problémamegoldás javítása érdekében, kiválóan teljesítve az olyan nehéz feladatokban, mint a kódolás és a matematikai elemzés. Míg a V3 sokoldalú és költséghatékony, az R1 a fejlett érvelésre és a strukturált problémamegoldásra specializálódott.

A DeepSeek V3 futtatásához kövesse az alábbi lépéseket.

1. Töltse le és telepítse a Python 3.9-et, és adja hozzá az elérési úthoz.

2. Ezután telepítse a Git-et innengit-scm.comés győződjön meg arról, hogy a git –verzió használatával van telepítve.

3. Ugrás a következőre:developer.nvidia.comés töltse le a CUDA Toolkit 11.8-as verzióját.

4. Futtassa a következő parancsokat a tár klónozásához.

git clone https://github.com/khanfar/DeepSeek-Windows.git
cd DeepSeek-Windows
python -m venv venv
venv\Scripts\activate

5. Most telepítenünk kell a PyTorch-ot és más követelményeket.

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
pip install -r requirements.txt

6. Ezután töltse le a Model Weights alkalmazást a következő paranccsal.

python download_model.py

7. Végül indítsa el a szervert, majd tesztelje a modellt.

python windows_server.py --model model_weights_bf16 --trust-remote-code
python test_client.py

Így kezdheti el használni a szervert a címenhttps://127.0.0.1:30000.

A Deepseek ingyenes?

Jelenleg a DeepSeek AI ingyenesen használható. Ingyenesen letölthető és telepíthető az Apple App Store és a Google Play Store áruházból. A webalkalmazása is ingyenesen használható. A webalkalmazás használatához felkeresheti a hivatalos webhelyét. A DeepSeek ingyenes hozzáférést biztosít a DeepSeek-V3-hoz, amely korábban DeepSeek-chat néven volt ismert.

Olvassa el a következőt:.

Related Posts