Yüksek Lisans için ödeme yapmak istemiyorsanız veya verilerinizi güvende tutmak istiyorsanız,LocalGPT'yi kurmalı. Yapay zekanın verileri nasıl çalıştırdığı ve işlediği üzerinde tam kontrole sahip olmanızı sağlar. Ayrıca, tüm veriler harici sunuculara gönderilmek yerine yerel sisteminizde kaldığı için gizliliği de sağlar.
Windows PC'de Yerel GPT'yi kurma
LocalGPT, aşağıdakilerden ilham alan açık kaynaklı bir araçtır:özelGPT, özel kullanım için büyük dil modellerini (LLM'ler) kullanıcı cihazlarında yerel olarak çalıştırmak üzere tasarlanmıştır. Yalnızca CPU yürütmesine dayanan PrivateGPT'den farklı olarak LocalGPT, daha iyi performans ve daha az gecikme süresi için GPU'lar aracılığıyla donanım hızlandırmayı destekler. Oldukça ağır olan GPT-4ALL modeli ve LlamaEmbeddings yerine LocalGPT, Vicuna-7B LLM ve InstructorEmbeddings'i kullanıyor. Blenderbot ve WizardLM-7B gibi modellerle çalışır ve belirli ihtiyaçlara göre modelleri değiştirmemize olanak tanır. İşlem hattının tamamı yerel olarak çalışarak veri gizliliğini sağlarken harici API bağımlılığı olmadan gelişmiş NLP yetenekleri sunar ve bu da onu yerel olarak çalıştırılan bir yapay zeka modu için mükemmel bir aday haline getirir.
Bu kılavuzda Windows'ta Yerel GPT kurulumu yapacağız. Aşağıda belirtilen adımları takip edebilirsiniz.
- Miniconda'yı indirin ve yükleyin
- LocalGPT Deposunu Kurun
- Bağımlılıkları yükle
- LocalGPT'yi çalıştırın
Bunları ayrıntılı olarak tartışalım.
1] Miniconda'yı indirin ve yükleyin
Miniconda, Python ortamlarını hızlı bir şekilde kurmak için tasarlanmış Conda paket yöneticisinin hafif bir dağıtımıdır. Yalnızca temel bilgileri sağlar ve kullanıcıların gerektiğinde belirli paketler ekleyerek kurulumlarını özelleştirmelerine olanak tanır. İndirmek için anaconda.com'a gidin, aşağı kaydırın ve şuraya gidin:Miniconda Kurulumcuları,ve ardından bu kılavuz Windows için olduğundan Windows için indirin.
Şimdi yükleyiciyi çalıştırın ve yükleme işlemini tamamlamak için ekrandaki talimatları izleyin; ancak,Gelişmiş Kurulum Seçenekleri,tüm kutuları işaretleyin ve son olarak kurulumu tamamlayın.
Yüklü olup olmadığını kontrol etmek için arama yapın“Anakonda İstemi”Başlat Menüsü'nde CLI'yi açın. Artık çalıştırabilirsinizconda listesisadece kurulduğunu onaylamak için.
2] LocalGPT Deposunu Kurun
Şimdi GitHub'da Prompt Engineer tarafından barındırılan LocalGPT Deposunu kurmamız gerekiyor. Oradan alabiliriz. Bunu yapmak için şuraya gidin:github.com. LocalGPT hakkında daha fazla bilgi edinmek için sayfayı inceleyebilir ve yüklemek için üzerine tıklamanız yeterlidir.Kod > ZIP'i İndir'e tıklayın.ZIP dosyası indirildikten sonra şuraya gidin:İndirmekklasörünü açın, ZIP dosyasına sağ tıklayın, Çıkart'ı seçin, dosyayı çıkarmak istediğiniz konumu ayarlayın ve işlemi tamamlayın. Çıkarılan klasörü açın, içinde adında bir klasör göreceksiniz.LocalGPT-ana.Basitlik adına, klasörü Masaüstüne yapıştırıp adlandırıyoruz."LGPT".
3] Bağımlılıkları yükleyin
Şimdi tüm bağımlılıkları kuracağımız sanal bir ortam oluşturmamız gerekiyor. Bunu yapmak için açın“Anakonda İstemi”Başlat Menüsünden aşağıdaki komutları çalıştırın.
conda create -n environment_name python=3.10
conda activate environment_name
Not: "ortam_adı" değişkenini istediğiniz herhangi bir adla değiştirin.
Sizden herhangi bir paketi indirmenizi isterse lütfen onayınızı verin ve devam edin.
Şimdi daha önce indirdiğimiz paketi kurmamız gerekiyor. Bunu yapmak için öncelikle aşağıdaki komutları kullanarak dizine gitmeniz gerekir.
cd Desktop
cd LGPT
Tüm bileşenleri tek tek kurmak yerine aşağıdaki komutu kullanarak hepsini birden kurabiliriz.
pip install -r requirements.txt
İki hatayla karşılaşabilirsiniz.
- meşaleyi içe aktar ModuleNotFoundError:Koşmak
pip install torch torchvision torchaudiove daha sonra yukarıda belirtilen komutu çalıştırın.
- Microsoft C++ gereklidir:Bahsedilen URL'ye tıklayın ve tıklayarak Visual Studio'yu indirin.Oluşturma Araçlarını İndirin,Visual Studio açıldıktan sonra elinizde olmayan araçlara göz atmanız ve bunları indirmeniz gerekir.
Sorunu çözdükten sonra yükleyici komutunu tekrar çalıştırın ve kurulduktan sonra bir sonraki adıma geçin.
4] LocalGPT'yi çalıştırın
Her şeyden önce, kaynak belgelerden veri içe aktarmak, belgelerinizi işlemek ve bunların yerleştirmelerini bir vektör veritabanında (Chroma DB) depolamak anlamına gelen Python Ingestion'ı çalıştırmanız gerekir. Bunu yapmak için aşağıdaki komutu uygulamanız gerekir.
python ingest.py
Görev Yöneticisini kullanarak CPU kullanımına dikkat etmenizi öneririz.
Şimdi, birLocalGPT dizininizdeki sabitler.py dosyasına erişin. Satırına bir yorum ekleyerek Llama 3 modelini devre dışı bırakın ve yorumu satırından kaldırarak Llama 2 modelini (7B parametreleri) etkinleştirin.
İşiniz bittiğinde, aşağıdaki komutu kullanarak LocalGPT'yi çalıştırmanız gerekir.
python run_local_gpt.py
Bunu belirten bir hatayla karşılaşırsanızaramalareksik, koşpip install lama-cpp-python.
Umarız bu kılavuzun yardımıyla LocalGPT'yi bilgisayarınızda yerel olarak çalıştırabilirsiniz.
Okumak:
PrivateGPT'yi Windows'a nasıl kurabilirim?
PrivateGPT'yi Windows'a yüklemek için öncelikle Python'u ve Conda gibi bir paket yöneticisini yükleyin. Ardından PrivateGPT deposunu kopyalayın ve sanal bir ortam oluşturun. Daha sonra Poetry veya PIP kullanarak bağımlılıkları yüklemeniz gerekir. Uyumlu bir dil modeli indirin. Son olarak, verilerinizi yerel olarak sorgulamaya başlamak için ortam değişkenlerini yapılandırmanız, belgeleri almanız ve uygulamayı çalıştırmanız gerekir.
Okumak:
Windows'ta WSL nasıl kurulur?
İle, PowerShell'i Yönetici olarak açın ve çalıştırınwsl –kurulum. Bu, WSL'yi etkinleştirir, Linux çekirdeğini yükler ve WSL 2'yi varsayılan olarak ayarlar. Bilgisayarınızı yeniden başlatın ve kurulacak Linux dağıtımını seçin. Dağıtımı başlatın, bir kullanıcı adı ve parola ayarlayın; artık Linux'u Windows'ta kullanmaya hazırsınız.
Ayrıca Okuyun:.
