Hogyan konfigurálható az LM Studio több mesterséges intelligencia használatára offline PC-n?

LM Stúdióolyan eszköz, amely lehetővé teszihelyi nagy nyelvi modellek (LLM) futtatásaa számítógépén. Az egyik legjobb dolog ebben a segédprogramban, hogy lehetővé teszi a modellek helyi futtatását a maximális adatvédelem érdekében. Ebben az útmutatóban arra törekszünkaz LM Studio konfigurálása több mesterséges intelligencia használatára offline számítógépen,szóval, ha érdekel, olvass tovább.

LM Stúdiólehetővé teszi nagy nyelvi modellek letöltését és futtatását a számítógépén internet nélkül. Segít megőrizni adatait azáltal, hogy mindent helyben dolgoz fel. Ezzel több AI-modellt használhat olyan feladatokhoz, mint a tartalomkészítés és az adatelemzés. Ha azt szeretné, hogy az LM Studio több mesterséges intelligenciát használjon offline számítógépen, kövesse az alábbi lépéseket.

Telepítse az LM Studio programot
Telepítsen több modellt
Kezdje el használni a modellt

Beszéljük meg őket részletesen.

1] Telepítse az LM Studio programot

Először is be kell szereznünk az LM Studio eszközt a hivatalos webhelyükről. Tehát ehhez menned kelllmstudio.ai. Mivel Windows-t használok, kiválasztomTöltse le az LM Studio for Windows programot,de a platformtól függően le kell töltenie az LM Studio verziót. Ha elkészült, ez elindítja a tiszteletben tartott exe fájl letöltését.

Az LM Studio telepítési adathordozójának letöltése után kattintson rá duplán, majd válassza ki azt a felhasználót, akinek telepíteni szeretné az alkalmazást. Ha az összes felhasználó számára telepíteni szeretné, rendszergazdai hozzáférésre van szüksége, mivel UAC-kérést fog kapni. Mivel hozzáférésem van, ezt megtettem, majd kiválasztottam a mappát, és végül elindítottam az alkalmazást.

2] Több modell telepítése

Az LM Studio elindítása után a rendszer felkéri az első LLM modellek letöltésére, kattintson a gombraSzerezd meg az első LLM-ed,majd töltse le a javasolt modellt. Ha saját modellt szeretne kiválasztani, kattintson a gombraKihagyja a beszállást.

Bármely LLM-modell letöltéséhez kattintson aFedezze fel (nagyító) ikonra.Most keresse meg a letölteni kívánt modellt. Az egyik legjobb dolog az LM Studio-ban, hogy ellenőrzi a rendszer részleteit, és közli, ha a modell túl nagy a gépedhez. Például aDeepSeek Coder V2 Litetúl nagy a készülékemhez, mígLáng 3,2 1Bzökkenőmentesen fog működni.

Ha tudja, hogy melyik modell fog működni a gépén, kattintson aLetöltésikonra, és töltse le a modellt. A hálózati sávszélességtől függően ez eltarthat egy ideig.

Ezzel letölti az LLM-modellt a Runtime-val együtt. Ha azonban egy másik modellre szeretne frissíteni, az én esetemben, mondjuk a CPU llama.cpp-t akartam telepíteni, mivel nincs erős GPU-m, és a GPU-gyorsítást nem tudja kezelni a gépem, akkor aFutásidőfülre, és rákattintottFrissítésgombot a Runtime modell mellett.

A letöltés érdekébenmásik modell,el kell menned aFedezze felgombot újra, keresse meg a letölteni kívánt modellt. Ezután kattintson aLetöltésa hozzá tartozó gombot. Várjon néhány percet, amíg letölti a modellt. Miután letöltötte, lépjen aFutásidőtöltsön le minden frissítést, ha elérhető, és ha szükséges, akkor már csak rá kell kattintaniaModellek betöltése.Ez elindítja az adott modell szerverét helyileg a számítógépen.

Megjegyzés: Ha a Felfedezés promptot a modell elindítása nélkül zárta be, lépjen a Letöltés ikonra a képernyő bal alsó sarkában, majd válassza a modellhez társított modell betöltése lehetőséget.

3] Kezdje el használni a modellt

A modellek letöltése után nem kell mást tennie, mint a Chat ikonra lépni. Ezután nézze meg az ablak tetejét, és látni fogja az összes modelljét, kattintson a gombraModellamelyet ki szeretne választani.

Még a modell beállításait is módosíthatja használat előtt. Ehhez kattintson a modell mellett található oldalsó nyílra, majd módosítsa a beállításokat, példáulGPU tehermentesítés, CPU szálkészlet mérete, kontextus hossza,és egyéb lehetőségek. Ha elkészült, csak kattintson a gombraBetöltési modell.

A modell betöltése után lépjen a Chatbotba, és kezdjen el csevegni az AI-modellel. Ügyeljen arra, hogy jegyezze fel a RAM és a CPU számát az ablak jobb alsó sarkában.

Remélhetőleg ennek az útmutatónak a segítségével több LLM-modellt is futtathat az LM Studio alkalmazásban. Vannak azonban más isazokat is érdemes megnézni.

Olvas:

Működik az LM Studio offline állapotban?

Igen,LM Stúdióoffline módban működik. Miután letöltötte a szükséges modelleket és futtatókörnyezeteket, teljesen internetkapcsolat nélkül használhatja. Minden feldolgozás helyben, a gépén történik, így biztosítva, hogy adatai privátak maradjanak.

Olvas:

Mennyi RAM-ra van szükségem az LM stúdióhoz?

Az LM Studio minden modelljének eltérő RAM-igénye van. Javasoljuk azonban, hogy rendelkezzen legalább 16 GB RAM-mal, ha bármilyen modellt problémamentesen szeretne futtatni. Ezenkívül, ha van kapacitása GPU hozzáadására, tegye ezt is.

Olvassa el még:.