Hvordan kjøre DeepSeek AI-modeller lokalt på Windows

DeepSeek, en stigende stjerne i AI-verdenen, har laget bølger med sine kraftige språkmodeller som konkurrerer med industrigiganter. Mens du kan få tilgang til DeepSeek gjennom nettsiden eller mobilappene deres, gir det klare fordeler å kjøre disse modellene lokalt på din Windows-PC. Denne guiden vil lede deg gjennom prosessen med å installere og bruke DeepSeek R1 og V3 på din egen maskin, noe som gir deg mer kontroll og privatliv over AI-interaksjonene dine.

Sette opp DeepSeek R1 lokalt

DeepSeek R1 er en resonnementfokusert modell som utmerker seg ved komplekse problemløsningsoppgaver. Slik får du det til å kjøre på Windows-systemet ditt:

Installer Ollama

Trinn 1:Besøk Ollamas nettside (https://ollama.com/) og last ned Windows-installasjonsprogrammet. Kjør filen og følg instruksjonene på skjermen for å fullføre installasjonen.

Trinn 2:Når Ollama er installert, gå tilbake til Ollama-nettstedet og naviger til fanen "Modeller".

Velg og installer din DeepSeek R1-modell

Trinn 1:I Modeller-delen finner du DeepSeek-R1-alternativene. Du vil se forskjellige størrelser tilgjengelig (1,5b, 7b, 8b, 14b, etc.). Velg modellen som passer best til datamaskinens muligheter. For de fleste brukere anbefales det å starte med 1.5b- eller 7b-versjonen.

Trinn 2:Kopier installasjonskommandoen for den valgte modellen. For eksempel, for å installere 1.5b-versjonen, vil kommandoen være:

ollama run deepseek-r1:1.5b

Trinn 3:Åpne kommandoprompt på din Windows-PC. Lim inn den kopierte kommandoen og trykk Enter. Installasjonsprosessen vil begynne, noe som kan ta litt tid avhengig av internetthastigheten din og modellstørrelsen.

Kjører DeepSeek R1

Trinn 1:Når installasjonen er fullført, kan du begynne å bruke DeepSeek R1 direkte i ledeteksten. Bare kjør den samme kommandoen du brukte til installasjonen:

ollama run deepseek-r1:1.5b

Trinn 2:Du kan nå samhandle med DeepSeek R1-modellen ved å skrive inn spørringene eller ledetekstene dine i ledeteksten.

Selv om det er enkelt å bruke DeepSeek R1 gjennom ledeteksten, lagrer det ikke chatteloggen din. For en mer brukervennlig opplevelse med vedvarende samtaler, kan det være lurt å sette opp et grafisk grensesnitt.

Sette opp et brukergrensesnitt for DeepSeek R1

Det er to hovedmetoder for å legge til et grafisk grensesnitt for DeepSeek R1:

Metode 1: Bruke Chatbox AI

Trinn 1:Last ned og installer Chatbox AI fra deres offisielle nettsted (https://chatboxai.app/en).

Trinn 2:Start Chatbox AI og naviger til innstillingene.

Trinn 3:Under "MODEL"-fanen velger du "DeepSeek API".

Trinn 4:Du må angi en DeepSeek API-nøkkel. Besøk DeepSeek API-dokumentasjonssiden (https://api-docs.deepseek.com/) for å få nøkkelen din.

Trinn 5:Skriv inn API-nøkkelen din i Chatbox AI og lagre endringene. Du kan nå bruke DeepSeek R1 gjennom dette grensesnittet.

Metode 2: Bruke Docker

Trinn 1:Last ned og installer Docker Desktop for Windows fra det offisielle Docker-nettstedet.

Trinn 2:Opprett en Docker-konto hvis du ikke allerede har en.

Trinn 3:Start Docker Desktop og logg på.

Trinn 4:Åpne kommandoprompt og kjør følgende kommando for å sette opp DeepSeek web-UI:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Trinn 5:Når kommandoen er fullført, åpner du Docker Desktop og går til delen "Beholdere". Du bør se en ny beholder med portnummeret 3000:8080.

Trinn 6:Klikk på portnummeret 3000:8080 i Docker Desktop. Dette åpner en ny fane i standard nettleser med adressen localhost:3000.

Trinn 7:Sett opp en konto på dette lokale nettgrensesnittet ved å skrive inn navn, e-post og passord. Husk disse detaljene siden du trenger dem hver gang du bruker DeepSeek R1 lokalt.

For å bruke DeepSeek R1 gjennom dette nettgrensesnittet, sørg for at både Ollama og Docker kjører i bakgrunnen. Start Ollama først, deretter Docker, og sørg for at den relevante beholderen kjører i Docker før du får tilgang til localhost:3000 i nettleseren din.

Installere og kjøre DeepSeek V3 lokalt

DeepSeek V3 er en avansert Mixture-of-Experts (MoE) språkmodell som tilbyr allsidige AI-funksjoner. Slik setter du det opp på din Windows-PC:

Trinn 1:Installer Python 3.9 fra det offisielle Python-nettstedet. Under installasjonen, sørg for å sjekke alternativet for å legge til Python til systemet PATH.

Trinn 2:Installer Git fragit-scm.com. Etter installasjonen, kontroller at den fungerer ved å åpne ledeteksten og skrive:

git --version

Trinn 3:Hvis du har en NVIDIA GPU, last ned og installer CUDA Toolkit versjon 11.8 fradeveloper.nvidia.com.

Trinn 4:Åpne kommandoprompt og kjør følgende kommandoer for å sette opp DeepSeek V3-miljøet:

Anbefalt lesing:2 måter å avinstallere DeepSeek-modeller fra Windows 11

git clone https://github.com/khanfar/DeepSeek-Windows.git
cd DeepSeek-Windows
python -m venv venv
venvScriptsactivate

Trinn 5:Installer PyTorch og andre nødvendige pakker:

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
pip install -r requirements.txt

Trinn 6:Last ned DeepSeek V3 modellvekter:

python download_model.py

Trinn 7:Start DeepSeek V3-serveren:

python windows_server.py --model model_weights_bf16 --trust-remote-code

Trinn 8:I et nytt ledetekst-vindu, test modellen:

python test_client.py

Du kan nå få tilgang til DeepSeek V3-serveren påhttps://127.0.0.1:30000.

Å kjøre DeepSeek-modeller lokalt gir deg kraftige AI-funksjoner rett på din Windows-PC. Selv om det krever noe oppsett, gjør fordelene med personvern og offline tilgang det verdt det for mange brukere. Husk å velge modellstørrelsen som passer best til datamaskinens muligheter, og nyt å utforske verden av AI uten å stole på skytjenester.