Πώς να ρυθμίσετε το LM Studio για χρήση πολλαπλών AI σε υπολογιστή εκτός σύνδεσης;

LM Studioείναι ένα εργαλείο που σας επιτρέπει ναεκτέλεση τοπικών μοντέλων μεγάλων γλωσσών (LLM)στον υπολογιστή σας. Ένα από τα καλύτερα πράγματα σχετικά με αυτό το βοηθητικό πρόγραμμα είναι ότι σας επιτρέπει να εκτελείτε τα μοντέλα τοπικά για να διασφαλίσετε το μέγιστο απόρρητο. Σε αυτόν τον οδηγό, πρόκειται ναδιαμορφώστε το LM Studio για χρήση πολλαπλών AI σε υπολογιστή εκτός σύνδεσης,οπότε, αν σας ενδιαφέρει, συνεχίστε την ανάγνωση.

LM Studioσας επιτρέπει να κατεβάζετε και να εκτελείτε μεγάλα μοντέλα γλωσσών στον υπολογιστή σας χωρίς να χρειάζεστε το διαδίκτυο. Βοηθά να διατηρήσετε τα δεδομένα σας ιδιωτικά επεξεργάζοντας τα πάντα τοπικά. Με αυτό, μπορείτε να χρησιμοποιήσετε πολλά μοντέλα AI για εργασίες όπως η δημιουργία περιεχομένου και η ανάλυση δεδομένων. Εάν θέλετε να διαμορφώσετε το LM Studio για χρήση πολλαπλών AI σε υπολογιστή εκτός σύνδεσης, ακολουθήστε τα βήματα που αναφέρονται παρακάτω.

1. Εγκαταστήστε το LM Studio
2. Εγκαταστήστε πολλά μοντέλα
3. Ξεκινήστε να χρησιμοποιείτε το μοντέλο

Ας τα συζητήσουμε αναλυτικά.

1] Εγκαταστήστε το LM Studio

Πρώτα απ 'όλα, πρέπει να λάβουμε το εργαλείο LM Studio από την επίσημη ιστοσελίδα τους. Επομένως, για αυτό, πρέπει να πάτεlmstudio.ai. Εφόσον χρησιμοποιώ Windows, θα επιλέξωΚατεβάστε το LM Studio για Windows,αλλά ανάλογα με την πλατφόρμα σας, πρέπει να κάνετε λήψη της έκδοσης LM Studio. Μόλις γίνει, αυτό θα ενεργοποιήσει τη λήψη του σεβαστού αρχείου exe.

Αφού κάνετε λήψη του μέσου εγκατάστασης του LM Studio, κάντε διπλό κλικ σε αυτό και, στη συνέχεια, επιλέξτε τον χρήστη για τον οποίο θέλετε να εγκαταστήσετε την εφαρμογή. Εάν θέλετε να το εγκαταστήσετε για όλους τους χρήστες, χρειάζεστε πρόσβαση διαχειριστή, καθώς θα λάβει ένα μήνυμα UAC. Εφόσον έχω πρόσβαση, το έκανα, μετά επέλεξα τον φάκελο και τελικά ξεκίνησα την εφαρμογή.

2] Εγκαταστήστε πολλά μοντέλα

Μόλις εκκινήσετε το LM Studio, θα σας ζητηθεί να κατεβάσετε τα πρώτα σας μοντέλα LLM, κάντε κλικ στοΑποκτήστε το πρώτο σας LLM,και στη συνέχεια κατεβάστε το προτεινόμενο μοντέλο. Σε περίπτωση που θέλετε να επιλέξετε το δικό σας μοντέλο, κάντε κλικ στοΠαράλειψη κατά την επιβίβαση.

Για να κατεβάσετε οποιοδήποτε μοντέλο LLM, πρέπει να κάνετε κλικ στοΕικονίδιο Discover (μεγεθυντικός φακός).Τώρα, αναζητήστε το μοντέλο που θέλετε να κατεβάσετε. Ένα από τα καλύτερα πράγματα για το LM Studio είναι το γεγονός ότι ελέγχει τις λεπτομέρειες του συστήματός σας και σας ενημερώνει εάν το μοντέλο είναι πολύ μεγάλο για το μηχάνημά σας. Για παράδειγμα, τοDeepSeek Coder V2 Liteείναι πολύ μεγάλο για τη συσκευή μου, ενώ,Φλόγα 3.2 1Βθα λειτουργήσει ομαλά.

Μόλις μάθετε ποιο μοντέλο θα λειτουργήσει στο μηχάνημά σας, κάντε κλικ στοΛήψηκαι αφήστε το να κατεβάσει το μοντέλο. Ανάλογα με το εύρος ζώνης του δικτύου σας, μπορεί να χρειαστεί λίγος χρόνος.

Αυτό θα κατεβάσει το μοντέλο LLM μαζί με το Runtime. Ωστόσο, αν θέλετε να κάνετε αναβάθμιση σε διαφορετικό μοντέλο, στην περίπτωσή μου, ας πούμε, ήθελα να εγκαταστήσω το CPU llama.cpp καθώς δεν έχω ισχυρή GPU και η επιτάχυνση GPU δεν είναι κάτι που μπορεί να διαχειριστεί το μηχάνημά μου, πήγα στοΧρόνος εκτέλεσηςκαρτέλα και κάντε κλικ σεΕκσυγχρονίζωκουμπί δίπλα στο μοντέλο Runtime.

Για να κατεβάσετεάλλο μοντέλο,πρέπει να πάτε στοΑνακαλύπτωπατήστε ξανά, αναζητήστε το μοντέλο που θέλετε να κατεβάσετε. Στη συνέχεια, κάντε κλικ στοΛήψηκουμπί που σχετίζεται με αυτό. Περιμένετε λίγα λεπτά καθώς κατεβάζει το μοντέλο σας. Μόλις γίνει λήψη, μπορείτε να μεταβείτε στοΧρόνος εκτέλεσηςκατεβάστε τυχόν ενημερώσεις εάν είναι διαθέσιμες και εάν χρειάζεται και, στη συνέχεια, το μόνο που έχετε να κάνετε είναι να κάνετε κλικ στοΦόρτωση μοντέλων.Αυτό θα ξεκινήσει τον διακομιστή αυτού του μοντέλου τοπικά στον υπολογιστή σας.

Σημείωση: Εάν κλείσατε την προτροπή Discover χωρίς να ξεκινήσετε το μοντέλο, μεταβείτε στο εικονίδιο Λήψη από την κάτω αριστερή γωνία της οθόνης και, στη συνέχεια, επιλέξτε Φόρτωση μοντέλου που σχετίζεται με το μοντέλο σας.

3] Ξεκινήστε να χρησιμοποιείτε το μοντέλο

Αφού κατεβάσετε τα μοντέλα, το μόνο που χρειάζεται να κάνετε είναι να μεταβείτε στο εικονίδιο Chat. Στη συνέχεια, κοιτάξτε στην κορυφή του παραθύρου και θα δείτε όλα τα μοντέλα σας, κάντε κλικ στοΜοντέλοπου θέλετε να επιλέξετε.

Μπορείτε ακόμη και να αλλάξετε τις προτιμήσεις του μοντέλου πριν τις χρησιμοποιήσετε. Για αυτό, κάντε κλικ στο πλευρικό βέλος που βρίσκεται δίπλα στο μοντέλο και μετά αλλάξτε ρυθμίσεις όπως π.χGPU Offload, CPU Thread Pool Size, Context Length,και άλλες επιλογές. Μόλις τελειώσετε, απλώς κάντε κλικ στοΜοντέλο φόρτωσης.

Μόλις φορτωθεί το μοντέλο, μεταβείτε στο Chatbot και ξεκινήστε να συνομιλείτε με το μοντέλο AI. Βεβαιωθείτε ότι έχετε σημειώσει τον αριθμό RAM και CPU στην κάτω δεξιά γωνία του παραθύρου.

Ας ελπίσουμε ότι, με τη βοήθεια αυτού του οδηγού, θα μπορέσετε να εκτελέσετε πολλά μοντέλα LLM στο LM Studio. Ωστόσο, υπάρχουν και άλλαθα πρέπει να τα ελέγξετε επίσης.

Ανάγνωση:

Το LM Studio λειτουργεί εκτός σύνδεσης;

Ναί,LM Studioλειτουργεί εκτός σύνδεσης. Αφού κατεβάσετε τα απαραίτητα μοντέλα και χρόνους εκτέλεσης, μπορείτε να το χρησιμοποιήσετε εντελώς χωρίς σύνδεση στο Διαδίκτυο. Όλη η επεξεργασία γίνεται τοπικά στον υπολογιστή σας, διασφαλίζοντας ότι τα δεδομένα σας παραμένουν ιδιωτικά.

Ανάγνωση:

Πόση RAM χρειάζομαι για το LM studio;

Κάθε μοντέλο στο LM Studio έχει διαφορετικές απαιτήσεις RAM. Ωστόσο, συνιστούμε να έχετε τουλάχιστον 16 GB μνήμης RAM εάν θέλετε να εκτελέσετε οποιοδήποτε μοντέλο χωρίς προβλήματα. Επιπλέον, εάν έχετε τη δυνατότητα να προσθέσετε μια GPU, κάντε και αυτό.

Διαβάστε επίσης:.