Yerel model kullanma

Büyük dil modellerinin (LLM'ler) özellikleri farklılık gösterir. Android Studio, yapay zeka destekli yazılım geliştirme sürecinde size kontrol ve esneklik sağlamak için IDE'nin yapay zeka işlevini desteklemek üzere kişisel makinenizde çalışan yerel bir model seçmenize olanak tanır.

Model seçme

Çevrimdışı çalışmanız gerekiyorsa, yapay zeka aracı kullanımıyla ilgili katı şirket politikalarına uymanız gerekiyorsa veya açık kaynaklı araştırma modelleriyle denemeler yapmak istiyorsanız yerel bir model kullanmak iyi bir seçenektir.

Gemma 4 modelini deneyin

Yerel bir model kullanmanız gerekiyorsa Android Studio'da temsilci tabanlı kodlama için kullanılabilen son teknoloji yerel model Gemma 4'ü denemenizi öneririz.

Donanım gereksinimleri aşağıda belirtilmiştir. Yüksek performanslı bir makineniz varsa Gemma 26B MoE modelini kullanmanızı öneririz.

Model Gerekli toplam RAM Depolama
Gemma E4B 12 GB 4 GB
Gemma 26B MoE 24 GB 17 GB

Gemma 4'ü makinenize yerel olarak indirip çalıştırmayla ilgili talimatlar için kurulum kılavuzuna bakın.

Yerel model desteğini ayarlama

  1. Android Studio'nun en yeni sürümünü indirip yükleyin.

  2. Yerel bilgisayarınıza LM Studio veya Ollama gibi bir LLM sağlayıcısı yükleyin.

  3. Model sağlayıcıyı Android Studio'ya ekleyin.

    • Ayarlar > Araçlar > Yapay Zeka > Model Sağlayıcılar'a gidin.
    • simgesini seçin.
    • Yerel sağlayıcı'yı seçin.
    • Model sağlayıcının açıklamasını girin (genellikle model sağlayıcının adı).
    • Sağlayıcının dinlediği bağlantı noktasını ayarlayın.
    • Model etkinleştirme
    Araçlar > Yapay Zeka bölümünde Model Sağlayıcılar'ı gösteren Android Studio ayarları iletişim kutusu.
    Şekil 1. Model sağlayıcı ayarları.
  4. İstediğiniz modeli indirip yükleyin.

    LM Studio ve Ollama model kataloglarına bakın. Android Studio'da Temsilci Modu'nu en iyi şekilde kullanmak için araç kullanımı için eğitilmiş bir model seçin.

    Kullanılabilir yerel modellerin listesini gösteren Android Studio ayarları iletişim kutusu.
    Şekil 2. Kullanılabilir yerel modeller.
  5. Çıkarım ortamınızı başlatın.

    Çıkarım ortamı, modelinizi yerel uygulamalara sunar. En iyi performans için yeterince büyük bir bağlam uzunluğu jeton penceresi yapılandırın. Ortamınızı başlatma ve yapılandırma ile ilgili ayrıntılı talimatlar için Ollama veya LM Studio belgelerine bakın.

  6. Bir model seçin.

    Android Studio'yu açın. Agent (Temsilci) araç penceresine gidin. Varsayılan modelden yapılandırılmış yerel modelinize geçmek için model seçiciyi kullanın.

    Model seçiciyi gösteren Android Studio Agent araç penceresi.
    Şekil 3. Model seçici.

Android Studio'yu yerel modelinize bağladıktan sonra IDE'deki sohbet özelliklerini kullanabilirsiniz. Tüm etkileşimler tamamen yerel makinenizde çalışan model tarafından desteklenir. Bu sayede bağımsız bir yapay zeka geliştirme ortamına sahip olursunuz.

Performans sınırlamalarını göz önünde bulundurma

Yerel, çevrimdışı bir model genellikle bulut tabanlı modeller kadar performanslı veya akıllı olmaz. Yerel modellerden gelen sohbet yanıtları genellikle bulut tabanlı modellere kıyasla daha az doğrudur ve daha yüksek gecikme süresine sahiptir.

Yerel modeller genellikle Android geliştiricisi için hassas şekilde ayarlanmaz ve Android Studio kullanıcı arayüzü hakkında bilgi sahibi olmayan yanıtlar döndürebilir. Bazı Android Studio yapay zeka özellikleri ve Android geliştirme kullanım alanları, yerel modelle çalışmaz. Ancak Android Studio'daki Yapay Zeka Sohbet özelliği genellikle yerel modeller tarafından desteklenir.