LM Studioце інструмент, який дозволяє вамЗапустіть локальні великі мовні моделі (LLMS)на вашому комп’ютері. Однією з найкращих речей про цю корисність є те, що вона дозволяє запускати моделі локально, щоб забезпечити максимальну конфіденційність. У цьому посібнику ми збираємосьНалаштуйте LM Studio для використання декількох AI на офлайн -ПК,Отже, якщо ви зацікавлені, продовжуйте читати.

Налаштуйте LM Studio для використання декількох AI на офлайн -ПК

LM StudioДозволяє завантажувати та запускати великі мовні моделі на своєму комп’ютері, не потребуючи Інтернету. Це допомагає зберегти ваші дані приватними, обробляючи все локально. З ним ви можете використовувати кілька моделей AI для таких завдань, як створення контенту та аналіз даних. Якщо ви хочете налаштувати LM Studio, щоб використовувати кілька AI на офлайн -ПК, виконайте наведені нижче кроки.

1. Встановіть LM Studio
2. Встановіть кілька моделей
3. Почніть використовувати модель

Давайте детально обговоримо їх.

1] Встановіть LM Studio

Перш за все, нам потрібно отримати інструмент LM Studio з їх офіційного веб -сайту. Отже, для цього потрібно пітиlmstudio.ai. Оскільки я використовую Windows, я виберуЗавантажте LM Studio для Windows,Але залежно від вашої платформи, вам потрібно завантажити версію LM Studio. Після закінчення це призведе до завантаження шанованого файлу EXE.

Завантаживши інсталяційні носії LM Studio, двічі клацніть на нього, а потім виберіть користувача, для якого ви хочете встановити програму. Якщо ви хочете встановити його для всіх користувачів, вам потрібен доступ до адміністратора, оскільки він отримає підказку UAC. Оскільки я маю доступ, я це зробив, а потім вибрав папку і, нарешті, запустив програму.

2] Встановіть кілька моделей

Після запуску LM Studio вам буде запропоновано завантажити свої перші моделі LLM, натисніть наОтримайте свій перший LLM,а потім завантажте запропоновану модель. Якщо ви хочете вибрати власну модель, натисніть наПропустити на посадку.

Щоб завантажити будь -яку модель LLM, вам потрібно натиснути наВідкрийте значок (лупу лупи).Тепер шукайте модель, яку ви хочете завантажити. Однією з найкращих речей у студії LM є той факт, що він перевіряє деталі вашої системи та повідомляє, чи модель занадто велика для вашої машини. Наприклад,DeepSeek Coder V2 Liteзанадто великий для мого пристрою, тоді як,Зателефонуйте 3,2 1bбуде гладко працювати.

Як тільки ви дізнаєтесь, яка модель буде працювати на вашій машині, натисніть наЗавантажуватизначок і нехай вона завантажить модель. Залежно від пропускної здатності вашої мережі, це може зайняти певний час.

Це завантажить модель LLM разом із часом виконання. Однак, якщо ви хочете перейти до іншої моделі, у моєму випадку, скажімо, я хотів встановити процесор llama.cpp, оскільки у мене немає потужного графічного процесора, а прискорення GPU-це не те, що може впоратися з моєю машиною, Я пішов доЧас виконаннявкладка та натиснув наОновленнякнопка поруч із моделлю виконання.

Для завантаженняЩе одна модель,вам потрібно піти доВиявлятиЗнову ж таки, шукайте модель, яку ви хочете завантажити. Потім натисніть наЗавантажуватикнопка, пов’язана з нею. Зачекайте кілька хвилин, коли він завантажує вашу модель. Після його завантаження ви можете перейти доЧас виконанняЗавантажте будь -які оновлення, якщо вони доступні, і якщо потрібно, а потім все, що вам потрібно зробити, - це натиснутиМоделі завантаження.Це запустить сервер цієї моделі локально на вашому комп’ютері.

ПРИМІТКА. Якщо ви закрили підказку Discover без запуску моделі, перейдіть до значка завантаження в нижньому лівому куті екрана, а потім виберіть модель завантаження, пов’язану з вашою моделлю.

3] Почніть використовувати модель

Після завантаження моделей все, що вам потрібно зробити, - перейти на піктограму чату. Потім подивіться на верхню частину вікна, і ви побачите всі свої моделі, натисніть наМодельщо ви хочете вибрати.

Ви навіть можете змінити уподобання моделі перед тим, як їх користуватися. Для цього натисніть на стрілку з боку, яка знаходиться поруч із моделлю, а потім змініть налаштування, такі якРозвантаження GPU, розмір пулу потоку процесора, довжина контексту,та інші варіанти. Після закінчення просто натисніть наМодель завантаження.

Після того, як модель завантажується, перейдіть до чату і почніть спілкуватися з моделлю AI. Переконайтеся, що в нижньому правому куті вікна відзначте кількість оперативної пам’яті та процесора.

Сподіваємось, за допомогою цього посібника ви зможете запустити кілька моделей LLM в LM Studio. Однак є й іншіВи також повинні їх перевірити.

Прочитайте:

Чи працює LM Studio Offline?

Так,LM StudioРобота в режимі офлайн. Після завантаження необхідних моделей та часу запуску ви можете повністю використовувати його без підключення до Інтернету. Вся обробка проводиться локально на вашій машині, гарантуючи, що ваші дані залишаються приватними.

Прочитайте:

Скільки оперативної пам’яті мені потрібно для студії LM?

Кожна модель LM Studio має різні вимоги до оперативної пам’яті. Однак ми рекомендуємо мати принаймні 16 ГБ оперативної пам’яті, якщо ви хочете запустити будь -яку модель без проблем. Крім того, якщо у вас є здатність додати GPU, зробіть це теж.

Також читайте:.