Güçlü dil modellerine erişimi demokratikleştiren açık kaynaklı bir girişim olan GPT4All’ın Ubuntu/Debian Linux sistemlerinde kurulumu ve çalıştırılmasına ilişkin kapsamlı kılavuza hoş geldiniz. İster araştırmacı, ister geliştirici veya meraklı olun, bu kılavuz sizi GPT4All ekosisteminden etkili bir şekilde yararlanabilmeniz için gerekli bilgilerle donatmayı amaçlamaktadır.
GPT4All’a Giriş
GPT4All, büyük dil modellerinin (LLM’ler) geleneksel donanım üzerinde eğitimini ve dağıtımını kolaylaştırmak için tasarlanmış, Nomic AI tarafından yönetilen açık kaynaklı bir yazılım ekosistemidir. Bu girişim, GPT-J, LLaMA, MPT, Replit, Falcon ve StarCoder dahil olmak üzere çeşitli model mimarilerini destekleyerek çeşitli kullanım senaryolarına ve gereksinimlere yanıt veriyor.
Kurulum sürecine geçmeden önce sisteminizin minimum gereksinimleri karşıladığından emin olun. Temel işlemler için AVX veya AVX2 destekli bir CPU’ya ve en az 8 GB RAM’e ihtiyacınız vardır. Ancak GPT4All’in özelliklerinden tam olarak yararlanmak için daha fazla RAM’e (16 GB’a kadar) sahip olmanız tavsiye edilir. Kapsamlı kaynaklar gerektiren geleneksel LLM’lerin aksine, GPT4All’in modelleri verimlilik için optimize edilmiştir ve önemli ölçüde daha az depolama ve hesaplama gücü gerektirir.
GPT4All CLI’yi yükleme
GPT4All komut satırı arayüzünü Linux sisteminize yüklemek için şu adımları izleyin:
- Python Ortamını ve pip’i yükleyin: Öncelikle sisteminizde Python ve pip kurulumunu yapmanız gerekmektedir. Bir terminal açın ve aşağıdaki komutu yürütün:
$ sudo apt install -y python3-venv python3-pip wget
This step ensures you have the necessary tools to create a virtual environment and manage Python packages.
- Ortam Oluştur: Python ve pip kuruluyken, bağımlılıklarını diğer Python projelerinden izole etmek için GPT4All için sanal bir ortam oluşturun.
$ python3 -m venv gpt4all-cli
Bu komut, sanal ortamı içerecek gpt4all-cli adında yeni bir dizin oluşturur.
- Python Ortamını Etkinleştirin: GPT4All’ı ve bağımlılıklarını kurmadan önce sanal ortamı etkinleştirin:
$ . gpt4all-cli/bin/activate; cd gpt4all-cli/
Bu adım, kabuğunuzun dizinini sanal ortama değiştirir ve onu etkinleştirir.
- Paketi ve Bağımlılıkları Yükle: Sanal ortamda CLI uygulamaları oluşturmaya yönelik bir kitaplık olan GPT4All ve Typer’ı yükleyin:
$ python3 -m pip install --upgrade gpt4all typer
Bu komut GPT4All ve Typer’ı indirip yükleyerek sisteminizi GPT4All CLI araçlarını çalıştırmaya hazırlar.
- Bağımsız Python Komut Dosyasını İndirin: GPT4All CLI’nin ana komut dosyasını getirin:
$ wget https://raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/cli/app.py
Bu komut dosyası, GPT4All’in özellikleriyle doğrudan komut satırından etkileşim kurmak için kullanılan, kullanıma hazır bir Python uygulamasıdır.
- Komut Dosyasını Çalıştır: Son olarak CLI uygulamasını başlatmak için betiği çalıştırın:
$ python3 app.py repl
Bu komut GPT4All CLI’yi başlatarak kurulu dil modelleriyle etkileşime girmenizi sağlar. Yeni başladığınızdan beri, komut dosyası artık otomatik olarak varsayılan bir modeli indirecektir.
- AI’nızla sohbet etmeye başlayın: Artık bazı sorular sormaya başlayabilirsiniz.
GPT4All GUI Uygulamasının Yüklenmesi
GPT4All, grafiksel bir arayüz tercih edenler için bir GUI uygulaması da sunuyor. Yüklemek için şu adımları izleyin:
- GPT4All Kurulum İkili Dosyasını İndirin: GPT4All GUI uygulamasının yükleyicisini alın:
$ wget https://gpt4all.io/installers/gpt4all-installer-linux.run
Bu komut, yükleyici komut dosyasını yerel sisteminize indirir.
- Çalıştırılabilir Hale Getirin ve Kurulum Sihirbazını Çalıştırın: İndirilen dosyanın izinlerini çalıştırılabilir hale getirecek şekilde değiştirin, ardından yükleme işlemini başlatın:
$ chmod +x gpt4all-installer-linux.run
şimdi yükleyiciyi çalıştırın:
./gpt4all-installer-linux.run
Bu adım, GPT4All GUI uygulaması için kurulum sihirbazını hazırlar ve başlatır.
- Kurulum Sihirbazını Takip Edin: Yükleyici, kurulum yolunun seçilmesi (varsayılan olarak ana dizininizdeki ~/gpt4all’dır) ve gerekli bileşenlerin indirilmesi de dahil olmak üzere kurulum süreci boyunca size rehberlik edecektir.
$ ~/gpt4all/bin/chat
Bu komut, kullanılacak modelleri seçip indirebileceğiniz GPT4All sohbet arayüzünü açar.
- İndirilecek Modeli Seçin: Mevcut modelleri keşfedin ve indirmek için birini seçin. Bazıları belirli işlevler için bir OpenAI anahtarı gerektirebileceğinden model açıklamalarına dikkat edin.
- GPT4All Kurulum İkili Dosyasını İndirin: GPT4All GUI uygulamasının yükleyicisini alın:
- Yapay zekanızla sohbet etmeye başlayın: Artık ciddi sorular sormaya başlayabilirsiniz.
Kariyerime 26 yıl önce başladım. Windows ve Linux sistemlerinin kurulumu, yapılandırılması, yönetimi ve bakımı dahil olmak üzere birden fazla sistem üzerinde uzmanlaştım.
Açık kaynak dünyasındaki en son gelişmelerden haberdar olmaktan ve Linux hakkındaki en son araçları, özellikleri ve hizmetleri denemekten hoşlanıyorum.
Son 6 yıldır sistem ve ağ yöneticisi olarak görev yapıyorum ayrıca Pardus Dönüşüm Projesini yönetiyorum ve Pardus İşletim Sisteminin yaygınlaşması adına uğraş gösteriyorum.
Boş zamanlarımda açık kaynaklı uygulamaların Türkçe çevirisine katılıyorum ve The Document Foundation üyesiyim.