Gemini Nano

Gemini Nano, ağ bağlantısına ihtiyaç duymadan veya verileri buluta göndermeden zengin üretken yapay zeka deneyimleri sunmanızı sağlar. Cihaz üzerinde yapay zeka, düşük maliyet ve gizlilik önlemlerinin öncelikli olduğu kullanım alanları için mükemmel bir çözümdür.

Cihaz üzerinde kullanım alanları için Google'ın Gemini Nano temel modelinden yararlanabilirsiniz. Gemini Nano, Android'in AICore sistem hizmetinde çalışır. Bu hizmet, düşük çıkarım gecikmesi sağlamak için cihaz donanımından yararlanır ve modeli güncel tutar.

ML Kit GenAI API'leri

ML Kit'in üretken yapay zeka API'leri, uygulamalarınızın cihaz üzerinde üretken yapay zeka görevleri gerçekleştirmesine yardımcı olmak için Gemini Nano'nun gücünden yararlanır. Bu API'ler, üretken yapay zeka temel modellerinin cihaz üzerinde yürütülmesini sağlayan bir Android sistem hizmeti olan AICore üzerine kurulmuştur. Bu sayede, veriler yerel olarak işlenerek uygulama işlevselliği ve kullanıcı gizliliği iyileştirilir. Daha fazla bilgi edinin.

Temel özellikler

ML Kiti, üretken yapay zeka özelliklerini aşağıdaki kategorilerde düzenler:

Özel içerik üretme ve temsilciler

Özel kullanım alanları için doğrudan Gemini Nano temel modeliyle çalışın:

  • Doğrudan model erişimi (GenerativeModel sınıfını kullanarak): Özel salt metin veya çok formatlı istem yazmadan oluşturulan metin ya da yazılı yapılandırılmış çıkış oluşturun veya USER ve MODEL rollerine ve sessionId değerine sahip bir List<Content> nesnesi kullanarak kendi çok aşamalı etkileşim sohbet geçmişinizi doğrudan yönetin.
  • Temsilci iş akışları (AgentRunner sınıfını kullanarak): GenerativeModel sınıfı üzerine inşa edilmiştir. Çok aşamalı oturum yönetimini (bellek içi sohbet geçmişi dahil) ve çok adımlı araç çağırma döngülerini otomatikleştirir.

Konuşma ve ses

Konuşma sesini cihaz üzerinde metne dönüştürme, çevirme ve sentezleme:

  • Konuşma Tanıma: Seslendirilmiş içerikleri aynı dilde metne dönüştürün.
  • Konuşma Çevirisi: Seslendirilmiş içeriği anlık olarak başka bir dilde metne çevirin.
  • Text-to-Speech: Metinden kulağa doğal gelen konuşma sesleri sentezleyin.

Metin ve resim görevleri

Üst düzey bir arayüz aracılığıyla yaygın görüntü, yazma ve arama görevleri için optimize edilmiş göreve özel API'leri kullanın:

  • Resim Açıklaması: Belirli bir resmin kısa açıklamasını oluşturun.
  • Özetleme: Makaleleri veya görüşmeleri madde işaretli liste olarak özetleyin.
  • Gözden geçirme: Kısa sohbet mesajlarını gözden geçirin.
  • Yeniden yazma: Kısa sohbet mesajlarını farklı üsluplarda veya stillerde yeniden yazın.
  • Semantik arama: Embedding API'yi kullanarak metin ve resimler için vektör yerleştirmeleri oluşturun ve içeriği anlama göre bulmak için bunları AndroidX AppSearch ile eşleştirin.

AICore üzerinden mimari

Sistem düzeyinde bir modül olan AICore'a, cihaz üzerinde çıkarım yapmak için bir dizi API aracılığıyla erişirsiniz. Ayrıca AICore'da, güvenlik filtrelerimize göre kapsamlı bir değerlendirme yapılmasını sağlayan çeşitli yerleşik güvenlik özellikleri bulunur. Aşağıdaki şemada, bir uygulamanın Gemini Nano'yu cihazda çalıştırmak için AICore'a nasıl eriştiği gösterilmektedir.

Bir Android uygulamasının, Gemini Nano, LoRA ve güvenlik özelliklerinin yönetildiği ve donanım hızlandırmada çalıştırıldığı AICore'a erişmek için Google AI Edge SDK'yı nasıl kullandığını gösteren bir diyagram.
Şekil 1. AICore, uygulamanız ile Gemini Nano modeli arasında arayüz görevi görür. Cihaz üzerindeki donanımdan yararlanırken model güncellemelerini ve güvenliği yönetir.

Kullanıcı verilerini gizli ve güvende tutma

Cihaz üzerinde üretken yapay zeka, istemleri yerel olarak çalıştırarak sunucu çağrılarını ortadan kaldırır. Bu sayede ağ gecikmesi ortadan kalkar ancak çıkarım hızı cihaz donanımına bağlıdır. Bu yaklaşım, hassas verileri cihazda tutarak gizliliği artırır, çevrimdışı işlevleri etkinleştirir ve çıkarım maliyetlerini azaltır.

AICore, Private Compute Core ilkelerine uyar ve aşağıdaki temel özelliklere sahiptir:

  • Kısıtlanmış Paket Bağlama: AICore, belirli sistem paketleri için sınırlı istisnalar dışında diğer paketlerin çoğundan izole edilmiştir. Bu izin verilenler listesinde yapılacak değişiklikler yalnızca tam bir Android OTA güncellemesi sırasında gerçekleşebilir.
  • Dolaylı internet erişimi: AICore'un doğrudan internet erişimi yoktur. Model indirme işlemleri de dahil olmak üzere tüm internet istekleri, açık kaynaklı Private Compute Services tamamlayıcı APK'sı üzerinden yönlendirilir. Private Compute Services'daki API'ler, gizlilik odaklı yapılarını açıkça göstermelidir.

Ayrıca AICore, her isteği izole edecek şekilde tasarlanmıştır ve kullanıcı gizliliğini korumak için giriş verilerinin veya işlendikten sonra ortaya çıkan çıkışların kaydını saklamaz. Daha fazla bilgi edinmek için Gemini Nano için Gizlilik ve Güvenliğe Giriş başlıklı blog yayınını okuyun.

AICore'un istek akışını gösteren ayrıntılı mimari diyagramı: API yüzeyi, güvenlik sinyalleriyle giriş işleme, özellik yapılandırması, model ağırlıkları ve LoRA'larla çalışma zamanı ve güvenlik sinyalleriyle çıkış işleme. Ayrıca Private Compute Services üzerinden indirilen modelleri de gösterir.
Şekil 2. AICore mimarisi, cihaz üzerinde yapay zeka için güvenli bir ortam sağlamak amacıyla giriş ve çıkış güvenliğini, istek işlemeyi ve model ağırlıklarını yönetir.

AICore ile yapay zeka temel modellerine erişmenin avantajları

AICore, Android OS'in yapay zeka temel modellerini sunmasını ve yönetmesini sağlar. Bu sayede, uygulamanızda bu büyük modelleri kullanmanın maliyeti önemli ölçüde azalır. Bunun başlıca nedenleri şunlardır:

  • Kolay dağıtım: AICore, Gemini Nano'nun dağıtımını yönetir ve gelecekteki güncellemeleri gerçekleştirir. Ağ üzerinden büyük modelleri indirme veya güncelleme konusunda endişelenmenize gerek yoktur. Ayrıca uygulamanızın disk ve çalışma zamanı bellek bütçesi de etkilenmez.
  • Hızlandırılmış çıkarım: AICore, çıkarımı hızlandırmak için cihaz üzerindeki donanımdan yararlanır. Uygulamanız her cihazda en iyi performansı gösterir ve temel donanım arayüzleri konusunda endişelenmeniz gerekmez.

Karma çıkarım ne zaman kullanılır?

Gemini Nano, çevrimdışı ve gizlilik açısından hassas görevler için ideal olsa da cihaz üzerinde belirteç sınırları, cihaz donanım sınırlamaları ve model kapasitesi sınırları gibi kısıtlamalara sahiptir. Bu senaryolarda, yapay zeka iş yüklerini yerel cihaz ile bulut arasında dengelemek için karma çıkarım'ı kullanabilirsiniz.

Tüm cihazlarda tutarlı bir kullanıcı deneyimi sunmak ve karmaşık sorguları işlemek için Firebase AI Logic Hybrid API'yi kullanabilirsiniz. Bu sayede uygulamanız şunları yapabilir:

  • Sorunsuz bir şekilde yedek modele geçiş: Gemini Nano kullanılamadığında veya kullanıcının cihazında desteklenmediğinde istekleri otomatik olarak buluttaki Gemini Flash veya Gemini Pro modellerine yönlendirin.
  • Güvenliği zorunlu kılın: Bulut çıkarımını Firebase Uygulama Kontrolü (ve Play Integrity gibi desteklenen onay sağlayıcıları) ile koruyun ve hassas sistem istemlerini sunucu tarafında tutun.