Doküman

Ubuntu/Debian Linux’ta GPT4All’ı Kurma

Güçlü dil modellerine erişimi demokratikleştiren açık kaynaklı bir girişim olan GPT4All’ın Ubuntu/Debian Linux sistemlerinde kurulumu ve çalıştırılmasına ilişkin kapsamlı kılavuza hoş geldiniz.  İster araştırmacı, ister geliştirici veya meraklı olun, bu kılavuz sizi GPT4All ekosisteminden etkili bir şekilde yararlanabilmeniz için gerekli bilgilerle donatmayı amaçlamaktadır.

GPT4All’a Giriş

GPT4All, büyük dil modellerinin (LLM’ler) geleneksel donanım üzerinde eğitimini ve dağıtımını kolaylaştırmak için tasarlanmış, Nomic AI tarafından yönetilen açık kaynaklı bir yazılım ekosistemidir.  Bu girişim, GPT-J, LLaMA, MPT, Replit, Falcon ve StarCoder dahil olmak üzere çeşitli model mimarilerini destekleyerek çeşitli kullanım senaryolarına ve gereksinimlere yanıt veriyor.

MİNİMUM DONANIM GEREKSİNİMLERİ
Kurulum sürecine geçmeden önce sisteminizin minimum gereksinimleri karşıladığından emin olun.  Temel işlemler için AVX veya AVX2 destekli bir CPU’ya ve en az 8 GB RAM’e ihtiyacınız vardır.  Ancak GPT4All’in özelliklerinden tam olarak yararlanmak için daha fazla RAM’e (16 GB’a kadar) sahip olmanız tavsiye edilir.  Kapsamlı kaynaklar gerektiren geleneksel LLM’lerin aksine, GPT4All’in modelleri verimlilik için optimize edilmiştir ve önemli ölçüde daha az depolama ve hesaplama gücü gerektirir.

GPT4All CLI’yi yükleme

GPT4All komut satırı arayüzünü Linux sisteminize yüklemek için şu adımları izleyin:

  1. Python Ortamını ve pip’i yükleyin: Öncelikle sisteminizde Python ve pip kurulumunu yapmanız gerekmektedir.  Bir terminal açın ve aşağıdaki komutu yürütün:
    $ sudo apt install -y python3-venv python3-pip wget

    This step ensures you have the necessary tools to create a virtual environment and manage Python packages.

  2. Ortam Oluştur: Python ve pip kuruluyken, bağımlılıklarını diğer Python projelerinden izole etmek için GPT4All için sanal bir ortam oluşturun.
    $ python3 -m venv gpt4all-cli

    Bu komut, sanal ortamı içerecek gpt4all-cli adında yeni bir dizin oluşturur.

  3. Python Ortamını Etkinleştirin: GPT4All’ı ve bağımlılıklarını kurmadan önce sanal ortamı etkinleştirin:
    $ . gpt4all-cli/bin/activate; cd gpt4all-cli/

    Bu adım, kabuğunuzun dizinini sanal ortama değiştirir ve onu etkinleştirir.

  4. Paketi ve Bağımlılıkları Yükle: Sanal ortamda CLI uygulamaları oluşturmaya yönelik bir kitaplık olan GPT4All ve Typer’ı yükleyin:
    $ python3 -m pip install --upgrade gpt4all typer

    Bu komut GPT4All ve Typer’ı indirip yükleyerek sisteminizi GPT4All CLI araçlarını çalıştırmaya hazırlar.

  5. Bağımsız Python Komut Dosyasını İndirin: GPT4All CLI’nin ana komut dosyasını getirin:
    $ wget https://raw.githubusercontent.com/nomic-ai/gpt4all/main/gpt4all-bindings/cli/app.py

    Bu komut dosyası, GPT4All’in özellikleriyle doğrudan komut satırından etkileşim kurmak için kullanılan, kullanıma hazır bir Python uygulamasıdır.

  6. Komut Dosyasını Çalıştır: Son olarak CLI uygulamasını başlatmak için betiği çalıştırın:
    $ python3 app.py repl

     



    Bu komut GPT4All CLI’yi başlatarak kurulu dil modelleriyle etkileşime girmenizi sağlar.  Yeni başladığınızdan beri, komut dosyası artık otomatik olarak varsayılan bir modeli indirecektir.

  7. AI’nızla sohbet etmeye başlayın: Artık bazı sorular sormaya başlayabilirsiniz. 
    Tam olarak doğru değil.  Ama yeterince yakın!

GPT4All GUI Uygulamasının Yüklenmesi

GPT4All, grafiksel bir arayüz tercih edenler için bir GUI uygulaması da sunuyor.  Yüklemek için şu adımları izleyin:

    1. GPT4All Kurulum İkili Dosyasını İndirin: GPT4All GUI uygulamasının yükleyicisini alın:
      $ wget https://gpt4all.io/installers/gpt4all-installer-linux.run

      Bu komut, yükleyici komut dosyasını yerel sisteminize indirir.

    2. Çalıştırılabilir Hale Getirin ve Kurulum Sihirbazını Çalıştırın: İndirilen dosyanın izinlerini çalıştırılabilir hale getirecek şekilde değiştirin, ardından yükleme işlemini başlatın:
      $ chmod +x gpt4all-installer-linux.run

      şimdi yükleyiciyi çalıştırın:

      ./gpt4all-installer-linux.run

      Bu adım, GPT4All GUI uygulaması için kurulum sihirbazını hazırlar ve başlatır.

    3. Kurulum Sihirbazını Takip Edin: Yükleyici, kurulum yolunun seçilmesi (varsayılan olarak ana dizininizdeki ~/gpt4all’dır) ve gerekli bileşenlerin indirilmesi de dahil olmak üzere kurulum süreci boyunca size rehberlik edecektir.
      GPT4ALL kurulum sihirbazını başlatıyor
      Bileşenlerin indirilmesini bekleyin

       

      GPT4ALL kurulumu tamamlandı
    4. $ ~/gpt4all/bin/chat
      GPT4ALL modelini seçin

      Bu komut, kullanılacak modelleri seçip indirebileceğiniz GPT4All sohbet arayüzünü açar.

    5. İndirilecek Modeli Seçin: Mevcut modelleri keşfedin ve indirmek için birini seçin.  Bazıları belirli işlevler için bir OpenAI anahtarı gerektirebileceğinden model açıklamalarına dikkat edin. 
      GPT4ALL modelinin indirilmesini bekleyin


  1. Yapay zekanızla sohbet etmeye başlayın: Artık ciddi sorular sormaya başlayabilirsiniz.
    GPT4ALL soruları yanıtlamaya hazır

    Yazının orijinalini buradan okuyabilirsiniz.