Πώς να εκτελείτε τοπικά μοντέλα AI DeepSeek στα Windows

Το DeepSeek, ένα ανερχόμενο αστέρι στον κόσμο της τεχνητής νοημοσύνης, έχει κάνει πάταγο με τα ισχυρά γλωσσικά του μοντέλα που ανταγωνίζονται τους γίγαντες της βιομηχανίας. Ενώ μπορείτε να αποκτήσετε πρόσβαση στο DeepSeek μέσω του ιστότοπού τους ή των εφαρμογών για κινητά, η εκτέλεση αυτών των μοντέλων τοπικά στον υπολογιστή σας με Windows προσφέρει ξεχωριστά πλεονεκτήματα. Αυτός ο οδηγός θα σας καθοδηγήσει στη διαδικασία εγκατάστασης και χρήσης του DeepSeek R1 και V3 στον δικό σας υπολογιστή, δίνοντάς σας περισσότερο έλεγχο και απόρρητο στις αλληλεπιδράσεις σας με τεχνητή νοημοσύνη.

Το DeepSeek R1 είναι ένα μοντέλο που εστιάζει στη συλλογιστική και υπερέχει σε σύνθετες εργασίες επίλυσης προβλημάτων. Δείτε πώς μπορείτε να το εκτελέσετε στο σύστημά σας Windows:

Εγκαταστήστε το Olama

Βήμα 1:Επισκεφθείτε τον ιστότοπο Olama (https://ollama.com/) και κατεβάστε το πρόγραμμα εγκατάστασης των Windows. Εκτελέστε το αρχείο και ακολουθήστε τις οδηγίες στην οθόνη για να ολοκληρώσετε την εγκατάσταση.

Βήμα 2:Μόλις εγκατασταθεί το Ollama, επιστρέψτε στον ιστότοπο του Ollama και μεταβείτε στην καρτέλα "Μοντέλα".

Επιλέξτε και εγκαταστήστε το μοντέλο DeepSeek R1

Βήμα 1:Στην ενότητα Μοντέλα, εντοπίστε τις επιλογές DeepSeek-R1. Θα δείτε διάφορα διαθέσιμα μεγέθη (1,5b, 7b, 8b, 14b, κ.λπ.). Επιλέξτε το μοντέλο που ταιριάζει καλύτερα στις δυνατότητες του υπολογιστή σας. Για τους περισσότερους χρήστες, συνιστάται η έναρξη με την έκδοση 1.5b ή 7b.

Βήμα 2:Αντιγράψτε την εντολή εγκατάστασης για το μοντέλο που έχετε επιλέξει. Για παράδειγμα, για να εγκαταστήσετε την έκδοση 1.5b, η εντολή θα ήταν:

ollama run deepseek-r1:1.5b

Βήμα 3:Ανοίξτε τη γραμμή εντολών στον υπολογιστή σας με Windows. Επικολλήστε την αντιγραμμένη εντολή και πατήστε Enter. Θα ξεκινήσει η διαδικασία εγκατάστασης, η οποία μπορεί να διαρκέσει λίγο, ανάλογα με την ταχύτητα διαδικτύου και το μέγεθος του μοντέλου.

Εκτέλεση του DeepSeek R1

Βήμα 1:Μόλις ολοκληρωθεί η εγκατάσταση, μπορείτε να αρχίσετε να χρησιμοποιείτε το DeepSeek R1 απευθείας στη γραμμή εντολών. Απλώς εκτελέστε την ίδια εντολή που χρησιμοποιήσατε για την εγκατάσταση:

ollama run deepseek-r1:1.5b

Βήμα 2:Τώρα μπορείτε να αλληλεπιδράσετε με το μοντέλο DeepSeek R1 πληκτρολογώντας τα ερωτήματα ή τις προτροπές σας στη Γραμμή εντολών.

Ενώ η χρήση του DeepSeek R1 μέσω της γραμμής εντολών είναι απλή, δεν αποθηκεύει το ιστορικό συνομιλιών σας. Για μια πιο φιλική προς το χρήστη εμπειρία με επίμονες συνομιλίες, ίσως θελήσετε να ρυθμίσετε μια γραφική διεπαφή.

Ρύθμιση διεπαφής χρήστη για το DeepSeek R1

Υπάρχουν δύο κύριες μέθοδοι για να προσθέσετε μια γραφική διεπαφή για το DeepSeek R1:

Μέθοδος 1: Χρήση Chatbox AI

Βήμα 1:Κατεβάστε και εγκαταστήστε το Chatbox AI από τον επίσημο ιστότοπο τους (https://chatboxai.app/en).

Βήμα 2:Εκκινήστε το Chatbox AI και μεταβείτε στις Ρυθμίσεις του.

Βήμα 3:Στην καρτέλα "MODEL", επιλέξτε "DeepSeek API".

Βήμα 4:Θα χρειαστεί να εισαγάγετε ένα κλειδί API DeepSeek. Επισκεφτείτε τη σελίδα τεκμηρίωσης του API DeepSeek (https://api-docs.deepseek.com/) για να λάβετε το κλειδί σας.

Βήμα 5:Εισαγάγετε το κλειδί API στο Chatbox AI και αποθηκεύστε τις αλλαγές. Μπορείτε πλέον να χρησιμοποιήσετε το DeepSeek R1 μέσω αυτής της διεπαφής.

Μέθοδος 2: Χρήση Docker

Βήμα 1:Κατεβάστε και εγκαταστήστε το Docker Desktop για Windows από τον επίσημο ιστότοπο του Docker.

Βήμα 2:Δημιουργήστε έναν λογαριασμό Docker εάν δεν έχετε ήδη.

Βήμα 3:Εκκινήστε το Docker Desktop και συνδεθείτε.

Βήμα 4:Ανοίξτε τη γραμμή εντολών και εκτελέστε την ακόλουθη εντολή για να ρυθμίσετε τη διεπαφή ιστού DeepSeek:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Βήμα 5:Μόλις ολοκληρωθεί η εντολή, ανοίξτε το Docker Desktop και μεταβείτε στην ενότητα "Containers". Θα πρέπει να δείτε ένα νέο κοντέινερ με τον αριθμό θύρας 3000:8080.

Βήμα 6:Κάντε κλικ στον αριθμό θύρας 3000:8080 στο Docker Desktop. Αυτό θα ανοίξει μια νέα καρτέλα στο προεπιλεγμένο πρόγραμμα περιήγησής σας με τη διεύθυνση localhost:3000.

Βήμα 7:Δημιουργήστε έναν λογαριασμό σε αυτήν την τοπική διεπαφή ιστού εισάγοντας το όνομα, το email και τον κωδικό πρόσβασής σας. Θυμηθείτε αυτές τις λεπτομέρειες καθώς θα τις χρειάζεστε κάθε φορά που χρησιμοποιείτε το DeepSeek R1 τοπικά.

Για να χρησιμοποιήσετε το DeepSeek R1 μέσω αυτής της διεπαφής ιστού, βεβαιωθείτε ότι τόσο το Ollama όσο και το Docker εκτελούνται στο παρασκήνιο. Εκκινήστε πρώτα το Ollama και μετά το Docker και βεβαιωθείτε ότι το σχετικό κοντέινερ εκτελείται στο Docker πριν αποκτήσετε πρόσβαση στο localhost:3000 στο πρόγραμμα περιήγησής σας.

Εγκατάσταση και εκτέλεση του DeepSeek V3 τοπικά

Το DeepSeek V3 είναι ένα προηγμένο μοντέλο γλώσσας Mixture-of-Experts (MoE) που προσφέρει ευέλικτες δυνατότητες AI. Δείτε πώς μπορείτε να το ρυθμίσετε στον υπολογιστή σας με Windows:

Βήμα 1:Εγκαταστήστε την Python 3.9 από τον επίσημο ιστότοπο της Python. Κατά την εγκατάσταση, βεβαιωθείτε ότι έχετε ελέγξει την επιλογή προσθήκης Python στο PATH του συστήματός σας.

Βήμα 2:Εγκαταστήστε το Git απόgit-scm.com. Μετά την εγκατάσταση, βεβαιωθείτε ότι λειτουργεί ανοίγοντας τη Γραμμή εντολών και πληκτρολογώντας:

git --version

Βήμα 3:Εάν διαθέτετε GPU NVIDIA, κατεβάστε και εγκαταστήστε το CUDA Toolkit έκδοση 11.8 απόdeveloper.nvidia.com.

Βήμα 4:Ανοίξτε τη γραμμή εντολών και εκτελέστε τις ακόλουθες εντολές για να ρυθμίσετε το περιβάλλον DeepSeek V3:

git clone https://github.com/khanfar/DeepSeek-Windows.git
cd DeepSeek-Windows
python -m venv venv
venvScriptsactivate

Βήμα 5:Εγκαταστήστε το PyTorch και άλλα απαιτούμενα πακέτα:

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
pip install -r requirements.txt

Βήμα 6:Κατεβάστε τα βάρη μοντέλων DeepSeek V3:

python download_model.py

Βήμα 7:Εκκινήστε τον διακομιστή DeepSeek V3:

python windows_server.py --model model_weights_bf16 --trust-remote-code

Βήμα 8:Σε ένα νέο παράθυρο γραμμής εντολών, δοκιμάστε το μοντέλο:

Διαβάστε επίσης:Οδηγός για αρχάριους: Εγκαταστήστε το DeepSeek Locally στα Windows 11

python test_client.py

Τώρα μπορείτε να αποκτήσετε πρόσβαση στον διακομιστή DeepSeek V3 στη διεύθυνσηhttps://127.0.0.1:30000.

Η εκτέλεση μοντέλων DeepSeek τοπικά σάς προσφέρει ισχυρές δυνατότητες AI απευθείας στον υπολογιστή σας με Windows. Αν και απαιτεί κάποια ρύθμιση, τα πλεονεκτήματα του απορρήτου και της πρόσβασης εκτός σύνδεσης το καθιστούν χρήσιμο για πολλούς χρήστες. Θυμηθείτε να επιλέξετε το μέγεθος μοντέλου που ταιριάζει καλύτερα στις δυνατότητες του υπολογιστή σας και απολαύστε την εξερεύνηση του κόσμου της τεχνητής νοημοσύνης χωρίς να βασίζεστε σε υπηρεσίες cloud.