GPT4All, LLaMa ve GPT-J’ye dayalıdır. Farklı uygulamalar için yapay zekanın esnek ve güçlü araçlarını sunar. GPT4All için eğitim verileri, GPT3 ve GPT4 modellerinin eğitim verilerinden daha küçüktür; bu, bu kısıtlamanın, bu modeli diğer modellere kıyasla yeteneklerde sınırlı yaptığı anlamına gelir. Ayrıca, bu model yerel makinelerde çalıştığı için daha yavaş olabilir ve bu, sistemin işleme yeteneklerine ve hızına (CPU) bağlıdır.
Working on the GPT4All ModelGPT4All, kullanıcıların Python betiklerini kullanarak GPT4All modeliyle bir etkileşim oluşturmasına yardımcı olan ve bu modelin çeşitli uygulamalara entegrasyonunu sağlayan hem GPU hem de CPU arabirimleri için Python bağlamalarına sahiptir. Bu model aynı zamanda mevcut mevcut dil modellerinin ve uyumlu son teknoloji modellerin aralığının genişletilmesine de katkıda bulunur. Bu topluluğu daha da büyütmek için, geliştiricilerin projeye dolaylı bir katkı için çekme talepleri göndermeleri takdir edilmektedir.
Bu makale, GPT4All’ı Ubuntu’ya kurmak için adım adım bir süreç ve GPT4All modelini kullanarak yanıtların oluşturulması için gerekli diğer paketlerin kurulumunu sağlar. GPT4All modelini kullanmaya başlamak için öncelikle zorunlu bileşenlerin yüklenmesi gerekir. Python’un sistemlerinizde zaten kurulu olduğundan emin olun. Python’un önerilen sürümü 3.7 sürümü veya daha sonra gelenlerdir. Bundan sonra, aşağıdaki adımları izlememiz gerekiyor:
Kurulum Adımları
- Öncelikle GitHub’dan GPT4All deposunu indirerek başlayın. Bu web sitesine bağlantı burada belirtilmiştir https://github.com/nomic-ai/gpt4all.git”. Bu adımın ardından, GPT4All’ın resmi web sitesinden ilgili işletim sistemlerimiz için GPT4All yükleyicisini indiriyoruz.
- İndirilen dosyaları sistemimizdeki herhangi bir dosya dizinine çıkarın.
- Komut istemini veya terminal penceresini açın ve indirilen dosyaları çıkardığımız GPT4All dizinine gidin.
- Ardından, gerekli Python paketinin kurulumu için komutu yürütün.
1. Adım: Kurulum
Python paketlerinin gereksinimlerini indirip kurmak ve GPT4All’ı kurmak için kurulumlara başlamak üzere aşağıdaki komutu yürütün:
2. Adım: GPT4All Modelini İndirin
GitHub deposunu GPT4All web sitesi bağlantısından indirebilir veya klonlayabiliriz. Depoyu klonlamak için aşağıdaki komutu yürütün:
Bu komut, GPT4All deposunu aşağıdaki kod parçacığında gösterildiği gibi yerel makinelerimize klonlar:
GPT4All yükleyicisini indirmek için sağlanan bağlantıyı kullandıysak, model dosyasının “.bin uzantılı” olduğundan emin olmalıyız. Ardından, indirilen bu dosyayı GPT4All’ın indirildiği sohbet dizini klasörüne yerleştirmeliyiz.
3. Adım: Kontrol Noktasını Modelleyin (İsteğe Bağlı ve Yalnızca Depoyu Klonladığımızda Uygulanabilir)
GPT4All deposunu komut penceresinden (Ubuntu) klonladıysak “.bin uzantılı” dosyayı indirmemiz gerekiyor. Bu amaçla uzantıyı doğrudan bu bağlantıdan “https://the-eye.eu/public/AI/models/nomic-ai/gpt4all/gpt4all-lora-quantized.bin” indiriyoruz.
Bu indirildikten sonra, bu dosyayı klonlanmış depoda bulunan sohbet klasörüne taşıyın.
4. Adım: Dosyayı Sohbet Klasörüne Taşıyın
Şimdi, sohbet klasörüne gitmemiz gerekiyor. Ubuntu üzerinde çalışırken, bizi sohbet klasörüne yönlendiren aşağıdaki komutu çalıştırmalıyız. Komut şu şekilde belirtilmiştir:
Ya GPT4ll yükleyicisini doğrudan GPT4All web sitesinden indirdik ya da depoyu klonladık. Bu noktada, GPT4ALL deposunu başarıyla indirdiğimiz ve “.bin uzantılı” indirme dosyasını “GPT4All” klasörü içindeki sohbet dizinine yerleştirdiğimiz adımla aynı adımda olmalıyız.
Adım 5: Modeli Çalıştırın
Chat klasörüne taşındıktan sonra, şimdi modeli çalıştırmanın zamanı geldi. Linux terminalinde aşağıdaki komutu yürütürüz:
Komut, GPT4All için modeli çalıştırmaya başlayacaktır. Komut istemini veya terminal penceresini kullanarak bu modelle etkileşim kurarak artık bu modeli metin üretimi için kullanabiliriz veya sahip olabileceğimiz herhangi bir metin sorgusunu girebilir ve modelin buna yanıt vermesini bekleyebiliriz. Bu model, sistemimizin özelliklerine bağlı olarak biraz işlem süresi alabilir. Ancak bu masaüstü modelinin bulutta mevcut olanlara göre avantajı, bu modeli artık yerel donanım üzerinde çalıştırdığımız için ağ sorunları konusunda endişelenmemize gerek kalmamasıdır.
GPT4all’ı yerel makinemizde başarıyla çalıştırdık. GPT4All’ın hala geliştirme aşamasında olduğunu ve bu nedenle taksitlerimizi güncel tutmamız gerektiğini unutmayın. GPT4All deposu her zaman kolayca güncellenebilir. Tek yapmamız gereken GPT4All modelinin ana kurulum klasörüne gidip “Git pull” talebinde bulunmak. Bu model, henüz ChatGPT’nin performans doğruluğuna ulaşmadı, ancak yine de kullanıcılarına bir masaüstü arayüzü sunarak bu modellerden sıyrılıyor.
Yazının orijinalini buradan okuyabilirsiniz.
Kariyerime 26 yıl önce başladım. Windows ve Linux sistemlerinin kurulumu, yapılandırılması, yönetimi ve bakımı dahil olmak üzere birden fazla sistem üzerinde uzmanlaştım.
Açık kaynak dünyasındaki en son gelişmelerden haberdar olmaktan ve Linux hakkındaki en son araçları, özellikleri ve hizmetleri denemekten hoşlanıyorum.
Son 6 yıldır sistem ve ağ yöneticisi olarak görev yapıyorum ayrıca Pardus Dönüşüm Projesini yönetiyorum ve Pardus İşletim Sisteminin yaygınlaşması adına uğraş gösteriyorum.
Boş zamanlarımda açık kaynaklı uygulamaların Türkçe çevirisine katılıyorum ve The Document Foundation üyesiyim.