Πώς να εκτελέσετε το Qwen AI τοπικά στα Windows 11

Qwen aiείναι το τελευταίο μοντέλο AI που κυκλοφόρησε από τον όμιλο Alibaba. Ενώ,,, και άλλα δημοφιλή εργαλεία AI είναι διαθέσιμα για πλατφόρμες Android, iOS και Windows, το QWEN είναι επί του παρόντος διαθέσιμο ως εφαρμογή ιστού. Μπορείτε να έχετε πρόσβαση και να χρησιμοποιήσετε αυτό το εργαλείο επισκέπτοντας τον επίσημο ιστότοπό του. Ωστόσο, αυτό απαιτεί να εγγραφείτε στον ιστότοπο. Επιπλέον, θα πρέπει επίσης να έχετε μια ενεργή σύνδεση στο Διαδίκτυο. Αλλά ξέρετε ότι μπορείτεΕκτελέστε το Qwen AI τοπικά στο Windows 11/10 PC; Αυτό το άρθρο σας δείχνει πώς να το κάνετε αυτό.

Πώς να χρησιμοποιήσετε το Qwen AI στον ιστό;

Για να χρησιμοποιήσετε το Qwen AI από το Alibaba στο διαδίκτυο, επισκεφτείτεchat.qwenlm.aiκαι εισαγάγετε το ερώτημά σας. Συνεχίστε να συνομιλείτε όπως θα κάνατε σε οποιοδήποτε εργαλείο AI. Θα πρέπει να δημιουργήσετε έναν λογαριασμό και να συνδεθείτε για να χρησιμοποιήσετε το QWEN.

Πώς να εκτελέσετε το Qwen AI τοπικά στα Windows 11/10

Για να εκτελέσετε το QWEN τοπικά στον υπολογιστή σας Windows, πρέπει να εγκαταστήσετε τα ακόλουθα δύο εργαλεία:

Ολλάμα
Λιμενεργάτης

Ολλάμαείναι ένα δωρεάν και ανοιχτό έργο που επιτρέπει στους χρήστες να εκτελούν LLMS (μεγάλα μοντέλα γλωσσών) στις τοπικές μηχανές τους.

Λιμενεργάτηςείναι μια πλατφόρμα ανοιχτού κώδικα για την ανάπτυξη, τη ναυτιλία και την εκτέλεση εφαρμογών. Οι προγραμματιστές μπορούν να μοιραστούν τη δουλειά τους δημιουργώντας δοχεία στο Docker.

Σε αυτόν τον οδηγό, θα εξηγήσουμε πώς εκτελείτε τοπικά το Qwen AI στον υπολογιστή σας Windows, δημιουργώντας ένα δοχείο στην εφαρμογή Docker.

Πώς να εγκαταστήσετε το Ollama στα Windows

Το πρώτο βήμα είναι να εγκαταστήσετε το Ollama στο σύστημά σας. Ακολουθήστε τα παρακάτω βήματα:

Επισκεφτώ τοΟ επίσημος ιστότοπος του Ollama.
Κάντε κλικ στο κουμπί λήψης, επιλέξτε την πλατφόρμα Windows και προχωρήστε με τη λήψη Ollama για το μηχάνημα των Windows.
Όταν ολοκληρωθεί η λήψη, εκτελέστε το αρχείο εγκατάστασης για να εγκαταστήσετε το Olama στο σύστημά σας.
Τώρα, ξεκινήστε τον Ollama και αφήστε το να τρέξει στο παρασκήνιο.

Εγκαταστήστε τοπικά το μοντέλο QWEN AI

Τώρα, το επόμενο βήμα είναι να εγκαταστήσετε το μοντέλο QWEN AI στο σύστημά σας τοπικά. Μεταβείτε στην επίσημη ιστοσελίδα του Ollama και κάντε κλικ στοΜοντέλααυτί. Εδώ, θα δείτε όλα τα μοντέλα AI. Αναζήτηση για τοQwen. Στη συνέχεια, θα σας δείξει όλα τα διαθέσιμα μοντέλα QWEN AI, συμπεριλαμβανομένων των QWEN, QWEN2, QWEN2.5, κλπ. Κάντε κλικ στο μοντέλο που θέλετε να αναπτύξετε στον υπολογιστή σας.

Σε αυτόν τον οδηγό, θα δούμε πώς να εγκαταστήσετε τοQwen2.5μοντέλο τοπικά σε ένα μηχάνημα Windows. Κάθε μοντέλο QWEN έχει διαφορετικές παραμέτρους. Το μοντέλο QWEN2.5 έχει παραμέτρους 0.5b, 1.5b, 3b, 7b, κλπ. Qwen 0.5b είναι η μικρότερη και ταχύτερη παράμετρος. Αποτελείται από 0,5 δισεκατομμύρια παραμέτρους και είναι καλό για βασικά καθήκοντα. Η παράμετρος 1.5b του Qwen AI είναι πιο προηγμένη από την παράμετρο QWEN 0.5B. Ομοίως, άλλες μεγάλες παράμετροι είναι πιο προηγμένες παραμέτρους από τις προηγούμενες.

Η εγκατάσταση των μεγάλων παραμέτρων απαιτεί έναν υπολογιστή υψηλής ποιότητας. Επομένως, εγκαταστήστε αυτό που ο υπολογιστής σας μπορεί να λειτουργεί ομαλά. Επίσης, οι μεγαλύτερες παράμετροι απαιτούν περισσότερο χώρο στο δίσκο. Επιλέξτε την παράμετρο από το αναπτυσσόμενο και αντιγράψτε την αντίστοιχη εντολή της. Για παράδειγμα, η εντολή για την εγκατάσταση του QWEN2.5 AI με παράμετρο 0.5b είναι:

ollama run qwen2.5:0.5b

Ανοίξτε τη γραμμή εντολών, επικολλήστε την εντολή αντιγραφής και πατήστεΕισάγω. Μην κλείσετε τη γραμμή εντολών πριν από την ολοκλήρωση της εντολής που δώσατε.

Όταν η εντολή εκτελείται με επιτυχία, το Qwen AI θα εγκατασταθεί στον υπολογιστή σας. Τώρα, μπορείτε να συνομιλήσετε με το QWEN AI στο CMD. Εάν θέλετε να συνομιλήσετε με το Qwen AI την επόμενη φορά, ανοίξτε τη γραμμή εντολών και εκτελέστε την ίδια εντολή. Για να εγκαταστήσετε ένα άλλο μοντέλο QWEN AI, αντιγράψτε την απαιτούμενη εντολή από τον ιστότοπο Ollama και εκτελέστε το στο CMD.

Εγκατάσταση Docker στα Windows

Μπορείτε να χρησιμοποιήσετε το Qwen AI στο CMD στο μηχάνημα των Windows σας. Ωστόσο, δεν αποθηκεύει το ιστορικό συνομιλίας σας. Επιπλέον, η εγκατάσταση ενός ειδικού UI για το Qwen AI διευκολύνει επίσης τη χρήση. Για αυτό, πρέπει να εγκαταστήσετε το Docker.

Επισκεφτώ τοΕπίσημος ιστότοπος του Dockerκαι να κατεβάσετε την έκδοση που υποστηρίζεται από τα Windows. Τώρα, εγκαταστήστε την εφαρμογή στον υπολογιστή σας. Πρέπει να δημιουργήσετε έναν λογαριασμό στον ιστότοπο του Docker για να τον κατεβάσετε και να τον εγκαταστήσετε στο σύστημά σας.

Αφού ολοκληρωθεί η εγκατάσταση Docker, εκτελέστε το Docker και βεβαιωθείτε ότι συνεχίζει να τρέχει στο παρασκήνιο. Τώρα, ανοίξτε τη γραμμή εντολών και εκτελέστε την ακόλουθη εντολή:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Η παραπάνω εντολή θα δημιουργήσει ένα δοχείο στην εφαρμογή Docker. Θα χρειαστεί λίγος χρόνος για να ολοκληρωθεί η παραπάνω-εντολή. Όταν ολοκληρωθεί η εντολή, ανοίξτε την εφαρμογή Docker. Θα δείτε ένα δοχείο στοΔοχείατμήμα.

Εκτελέστε το Qwen AI τοπικά στα Windows

Τώρα, το τελευταίο βήμα είναι να εκτελέσετε το Qwen AI τοπικά στο σύστημά σας στο πρόγραμμα περιήγησης ιστού. Ανοίξτε την εφαρμογή Docker και κάντε κλικ στο3000: 8080Σύνδεσμος στην ενότητα Δοχεία. Αυτό θα ανοίξει το localhost με τη θύρα 3000 στο προεπιλεγμένο πρόγραμμα περιήγησης ιστού. Τώρα, δημιουργήστε έναν λογαριασμό. Θυμηθείτε τα στοιχεία σύνδεσης, καθώς τα ίδια στοιχεία σύνδεσης θα απαιτούνται από εσάς να χρησιμοποιείτε το Qwen AI κάθε φορά.

Σημειώστε ότι για να εκτελέσετε το Qwen AI τοπικά στο πρόγραμμα περιήγησης ιστού σας, τόσο το Ollama όσο και το αντίστοιχο δοχείο Docker θα πρέπει να τρέχουν στο παρασκήνιο.

Αυτό είναι.

Μπορώ να χρησιμοποιήσω το AI στον υπολογιστή μου;

Ναι, μπορείτε να χρησιμοποιήσετε εργαλεία AI στον υπολογιστή σας. Εάν το σύστημά σας δεν έχει υποστηρίξει υλικό, μπορείτε να χρησιμοποιήσετε τα εργαλεία του Cloud AI. Τέτοια εργαλεία φιλοξενούνται στους διακομιστές τους. Ως εκ τούτου, δεν βάζουν φορτίο στο σύστημά σας. Ωστόσο, εάν θέλετε να αναπτύξετε ένα εργαλείο AI τοπικά στο σύστημά σας, το σύστημά σας θα πρέπει να έχει υποστηρίξει υλικό.