LM -studioon työkalu, jonka avulla voitSuorita paikallisia suuria kielimalleja (LLMS)tietokoneellasi. Yksi parhaimmista asioista tässä apuohjelmassa on, että sen avulla voit suorittaa malleja paikallisesti varmistaaksesi maksimaalisen yksityisyyden. Tässä oppaassa aiommeMääritä LM -studio käyttämään useita AI: itä offline -tietokoneella,Joten jos olet kiinnostunut, jatka lukemista.
Määritä LM Studio käyttämään useita AI: itä offline -tietokoneessa
LM -studioVoit ladata ja suorittaa suuria kielimalleja tietokoneellesi tarvitsematta Internetiä. Se auttaa pitämään tietosi yksityisinä käsittelemällä kaikkea paikallisesti. Sen avulla voit käyttää useita AI -malleja tehtäviin, kuten sisällön luomiseen ja tietoanalyysiin. Jos haluat määrittää LM Studion käyttämään useita AI: itä offline -tietokoneella, noudata alla olevia vaiheita.
- Asenna LM -studio
- Asenna useita malleja
- Aloita mallin käyttö
Keskustelemme heistä yksityiskohtaisesti.
1] Asenna LM -studio
Ensinnäkin meidän on saatava LM Studio -työkalu heidän viralliselta verkkosivustolta. Joten sitä varten sinun täytyy mennälmstudio.ai. Koska käytän Windowsia, valitsenLataa LM -studio Windowsille,Mutta alustasta riippuen sinun on ladattava LM Studio -versio. Kun tämä on valmis, tämä laukaisee arvostetun EXE -tiedoston latauksen.
Kun olet ladannut LM Studio Installation Media, kaksoisnapsauta sitä ja valitse sitten käyttäjä, jolle haluat asentaa sovelluksen. Jos haluat asentaa sen kaikille käyttäjille, tarvitset järjestelmänvalvojan pääsyä, koska se saa UAC -kehotuksen. Koska minulla on pääsy, tein sen, valitsin sitten kansion ja lopulta käynnistin sovelluksen.
2] Asenna useita malleja
Kun olet käynnistänyt LM -studion, sinua pyydetään lataamaan ensimmäiset LLM -mallit, napsautaHanki ensimmäinen LLM,ja lataa sitten ehdotettu malli. Jos haluat valita oman mallin, napsautaOhita pääsy.
Jos haluat ladata minkä tahansa LLM -mallin, sinun on napsautettavaLöydä (suurennuslasi) kuvake.Etsi nyt malli, jonka haluat ladata. Yksi LM -studion parhaista asioista on se, että se tarkistaa järjestelmän yksityiskohdat ja kerro, onko malli liian suuri koneellesi. EsimerkiksiDeepseek -kooderi V2 Liteon liian suuri laitteelleni, kun taasSoita 3.2 1Bsujuu sujuvasti.
Kun tiedät, mikä malli toimii koneella, napsautaLadatakuvake ja anna sen ladata malli. Verkon kaistanleveydestä riippuen se voi viedä jonkin aikaa.
Tämä lataa LLM -mallin ja suorituksen. Jos haluat kuitenkin päivittää toiseen malliin, sanotaan tapauksessani, halusin asentaa CPU LLAMA.CPP: n, koska minulla ei ole tehokasta GPU: ta ja GPU-kiihtyvyyttä, jota koneeni pystyy käsittelemään, MeninAjonaikavälilehti ja napsauttiPäivittääPainike Runtime -mallin vieressä.
LadatakseenToinen malli,Sinun täytyy mennäHuomataPainikkeen uudelleen, etsi malli, jonka haluat ladata. Napsauta sittenLadatasiihen liittyvä painike. Odota muutama minuutti, kun se lataa mallin. Kun se on ladattu, voit mennäAjonaikaLataa kaikki päivitykset, jos saatavilla, ja tarvittaessa, ja sitten sinun tarvitsee vain napsauttaaLatausmallit.Tämä käynnistää mallin palvelimen paikallisesti tietokoneellasi.
Huomaa: Jos suljet Discover -kehotuksen aloittamatta mallia, siirry näytön vasemmasta alakulmasta latauskuvaketta ja valitse sitten malliin liittyvä latausmalli.
3] Aloita mallin käyttö
Mallien lataamisen jälkeen sinun tarvitsee vain mennä chat -kuvakkeeseen. Katso sitten ikkunan yläosaa, ja näet kaikki mallit, napsautaMalliettä haluat valita.
Voit jopa muuttaa mallin mieltymyksiä ennen niiden käyttöä. Napsauta sitä varten mallin vieressä olevaa sivunuolta ja muuta sitten asetuksia, kutenGPU: n purku, CPU -langan uima -altaan koko, kontekstin pituus,ja muut vaihtoehdot. Kun olet valmis, napsauta vainLatausmalli.
Kun malli on ladattu, siirry chatbotiin ja aloita juttelu AI -mallin kanssa. Muista huomata RAM- ja CPU -luku ikkunan oikeassa alakulmassa.
Toivottavasti pystyt tämän oppaan avulla suorittaa useita LLM -malleja LM -studiossa. On kuitenkin muitakinSinun tulisi myös tarkistaa ne.
Lukea:
Toimiiko LM -studio offline -tilassa?
Kyllä,LM -studiotoimii offline -tilassa. Kun olet ladannut tarvittavat mallit ja juoksut, voit käyttää sitä kokonaan ilman Internet -yhteyttä. Kaikki käsittely tehdään paikallisesti koneellasi varmistamalla, että tietosi ovat yksityisiä.
Lukea:
Kuinka paljon RAM -muistia tarvitsen LM -studioon?
Jokaisella LM -studion mallilla on erilaiset RAM -vaatimukset. Suosittelemme kuitenkin, että sinulla on vähintään 16 Gt RAM -muistia, jos haluat suorittaa mallin ilman ongelmia. Lisäksi, jos sinulla on kyky lisätä GPU, tee niin myös.
Lue myös:.