DeepSeek, un'azienda cinese, ha recentemente lanciato il suo modello AI, DeepSeek-R1. Per usarlo, devi creare un account sul sito web di DeepSeek. La sua app è disponibile anche per telefoni Android e iPhone. Puoi anche configurare e ospitare DeepSeek-R1 localmente sul tuo computer, anche senza una connessione Internet. Questa sarà la versione Distilled di DeepSeek-R1. Questo articolo mostracome eseguire DeepSeek R1 o DeepSeek V3 localmente su Windows 11/10.
Chi è il fondatore di DeepSeek?
DeepSeek è una startup di intelligenza artificiale con sede in Cina. Il suo fondatore è Liang Wenfeng, 40 anni. Nel 2023, DeepSeek AI è stato lanciato nel mercato statunitense sugli App Store di Google e Apple. Dopo il suo lancio, i suoi download sono saliti alle stelle ed è diventata l'app più scaricata negli Stati Uniti.
Per scaricare, installare ed eseguire DeepSeek R1 localmente sul tuo computer Windows 11/10, segui questi passaggi:
- Installa Ollama
- Installa il modello DeepSeek R1 con cmd
- Installa l'interfaccia utente di DeepSeek
Tutti questi passaggi sono spiegati in dettaglio di seguito:
1] Installa Ollama
Il primo passo è installare Ollama sul tuo computer. Puoi scaricarlo dal suosito ufficiale. Esegui il file di installazione per installare Ollama sul tuo computer. Dopo aver installato Ollama, visita nuovamente il suo sito Web ufficiale e fai clic suModellischeda in alto.
Lì vedrai il modello deepseek-r1. DeepSeek-R1 è disponibile con diversi parametri, 1.5b, 7b, 8b, 14b, ecc. Il modello DeepSeek-R1 con parametri più ampi richiede un PC di fascia alta. Quindi, installa il modello DeepSeek secondo l'hardware del tuo computer.
Seleziona il modello DeepSeek-R1 richiesto dal menu a discesa e quindi copia il comando richiesto. Diciamo che vuoi installare il modello più leggero di DeepSeek-R1, il comando sarà:
ollama run deepseek-r1:1.5b
Per installare il DeepSeek-R1 modello 14b, il comando sarà:
ollama run deepseek-r1:14b
2] Installa il modello DeepSeek R1 con cmd
Il passaggio successivo è eseguire il comando copiato nel passaggio precedente. Apri il prompt dei comandi sul tuo computer Windows e incolla lì il comando copiato. ColpoEntradopo di che.
L'esecuzione del comando richiederà del tempo, a seconda del modello che hai selezionato per l'installazione. Non chiudere il prompt dei comandi finché il comando non viene eseguito completamente.
Dopo che il comando è stato eseguito correttamente, puoi utilizzare il modello DeepSeek-R1 nel prompt dei comandi. Per utilizzare il modello DeepSeek-R1 la volta successiva, apri il prompt dei comandi ed esegui lo stesso comando. Ad esempio, se hai installato DeepSeek-R1 modello 1.5b, esegui il seguente comando nel CMD ogni volta che desideri utilizzarlo sul tuo sistema:
ollama run deepseek-r1:1.5b
Ora puoi chattare con il modello DeepSeek-R1. L'utilizzo del modello DeepSeek-R1 nel prompt dei comandi di Windows presenta uno svantaggio. La cronologia della tua chat non verrà salvata. Pertanto, è necessario installare la sua interfaccia utente.
3] Installa l'interfaccia utente di DeepSeek
L'installazione dell'interfaccia utente di DeepSeek-R1 presenta un vantaggio rispetto all'utilizzo nel prompt dei comandi di Windows. Puoi visualizzare o accedere alla cronologia chat precedente. Ti mostreremo come ospitare il modello DeepSeek-R1 localmente sul tuo computer Windows.
Puoi farlo tramite i due metodi seguenti:
- Installando l'app Chatbox AI
- Installando l'app Docker
Esegui DeepSeek-R1 sul tuo computer Windows tramite Chatbox AI
Visita Chatbox AIsito ufficialee scarica il suo file di installazione. Esegui il file di installazione per installare Chatbox AI. Ora esegui Chatbox AI e configuralo sul tuo sistema. Apri l'app Chatbox e vai alle sue Impostazioni. Seleziona ilAPI DeepSeeksotto ilMODELLOscheda. Inserisci la chiave API DeepSeek per attivarla e salvare le modifiche. Ora sei pronto per utilizzare DeepSeek-R1 sul tuo sistema.
Puoi ottenere la chiave API DeepSeek dal suo filesito ufficiale. Se non riesci a ottenere la chiave API, puoi seguire un altro metodo per installare l'interfaccia utente di DeepSeek-R1.
Esegui DeepSeek-R1 sul tuo computer Windows tramite l'app Docker
Se il metodo sopra descritto non funziona per te, puoi utilizzare l'app Docker. Scarica l'app Docker dal sito ufficiale e installala. Per utilizzare Docker, devi creare un account sul sito ufficiale di Docker.
Ora avvia l'app Docker e accedi con lo stesso account. Non chiudere l'app Docker. Lascia che venga eseguito in background. Al termine, apri il prompt dei comandi ed esegui il seguente comando:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Il completamento del comando precedente richiederà del tempo. Non interromperlo. Dopo aver completato il comando precedente, chiudi il prompt dei comandi, vai all'app Docker e selezionaContenitoridal lato sinistro. Vedrai un nuovo contenitore sul lato destro con il numero di porta 3000:8080.
Fare clic sul numero di porta 3000:8080 nell'app Docker. Si aprirà una nuova scheda nel browser Web predefinito con l'indirizzohost locale:3000. Configura un account lì inserendo il tuo nome, ID e-mail e password. Ricorda questi dettagli, poiché devi inserirli ogni volta che avvii DeepSeek-R1 su localhost sul tuo sistema.
Quando vuoi uscire, esci da DeepSeek nel tuo browser web. L'opzione Esci diventerà visibile quando fai clic sull'icona del tuo profilo in alto a destra. Successivamente, apri l'app Docker e fai clic suFermarepulsante. Ora puoi chiudere Docker.
Tieni presente che per utilizzare DeepSeek-R1 nel tuo browser web localmente, Ollama e Docker dovrebbero essere in esecuzione in background sul tuo sistema. Pertanto, per prima cosa avvia Ollama, quindi avvia l'app Docker. Il rispettivo contenitore dovrebbe essere in esecuzione nell'app Docker. Se il contenitore non è in esecuzione, eseguilo. Ora puoi visitare localhost:3000 nel tuo browser web e accedere con lo stesso account per utilizzare DeepSeek-R1.
Dovresti sapere che DeepSeek raccoglie dati utente come informazioni sul dispositivo, sequenze di tasti, indirizzi IP e cronologia chat e li archivia su server in Cina. Ma questo non si applica ai modelli locali o alle app create con DeepSeek.
Spero che questo aiuti.
Leggere:
Come eseguire Deepseek V3 0323 localmente?
DeepSeek V3 0323 è un modello linguistico avanzato Mixture-of-Experts (MoE) progettato per attività di intelligenza artificiale ad alte prestazioni. R1, basato su V3, incorpora l'apprendimento per rinforzo per migliorare il ragionamento e la risoluzione dei problemi, eccellendo in attività ad alto contenuto logico come la codifica e l'analisi matematica. Mentre V3 è versatile ed economico, R1 è specializzato nel ragionamento avanzato e nella risoluzione strutturata dei problemi.
Per eseguire DeepSeek V3, puoi seguire i passaggi indicati di seguito.
1. Scarica e installa Python 3.9 e aggiungilo al percorso.
2. Quindi installa Git dagit-scm.come assicurati che sia installato utilizzando git –version.
3. Vai asviluppatore.nvidia.come scarica CUDA Toolkit versione 11.8.
4. Eseguire i seguenti comandi per clonare il repository.
git clone https://github.com/khanfar/DeepSeek-Windows.git
cd DeepSeek-Windows
python -m venv venv
venv\Scripts\activate
5. Ora dobbiamo installare PyTorch e altri requisiti.
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
pip install -r requirements.txt
6. Successivamente, scarica i pesi del modello utilizzando il seguente comando.
python download_model.py
7. Infine, avviare il server e testare il modello.
python windows_server.py --model model_weights_bf16 --trust-remote-code
python test_client.py
È così che puoi iniziare a utilizzare il server suhttps://127.0.0.1:30000.
Deepseek è gratuito?
Attualmente, DeepSeek AI è gratuito. È disponibile su Apple App Store e Google Play Store per il download e l'installazione gratuita. Anche la sua app Web è gratuita. Puoi visitare il suo sito Web ufficiale per utilizzare la sua app Web. DeepSeek offre anche l'accesso gratuito al suo DeepSeek-V3, precedentemente noto come DeepSeek-chat.
Leggi dopo:.
