Android AICore

Android AICore, cihazda çalışan yapay zeka temel modellerine erişim sağlayan yeni bir sistem hizmetidir.

Android uygulamanız, AICore'u kullanarak desteklenen cihazlarda Google'ın son teknoloji ürünü temel modeli olan Gemini Nano'ya erişebilir. AICore günümüzde çeşitli Google ürünleri tarafından kullanılmaktadır.

Bu belgede AICore ve Gemini Nano'nun avantajları ayrıntılı olarak, AICore'un nasıl çalıştığı ve bundan nasıl yararlanabileceğiniz ana hatlarıyla açıklanmaktadır.

Google AI Edge SDK'sını kullanarak geliştirici erişimi

Gemini Nano'yu çalıştırmak için AICore'u kullanan API'ler, Google AI Edge SDK'sının bir parçası olarak sağlanmıştır. Bu SDK, Android'de Gemini Nano ile cihaz üzerinde yenilikçi Üretken yapay zeka uygulamaları oluşturmak isteyen geliştiriciler için Erken Erişim Önizlemesi (EAP) kapsamında kullanılabilir.

Bu tür uygulamalar oluşturmak istiyorsanız EAP'ye başvurun.

AICore aracılığıyla yapay zeka temel modellerine erişmenin avantajları

AICore, Android OS'in yapay zeka temel modellerini sağlayıp yönetmesini sağlar. Bu, başta aşağıdakilerden olmak üzere, bu büyük modelleri uygulamanızda kullanmanın maliyetini önemli ölçüde azaltır:

  • Dağıtım kolaylığı: AICore, Gemini Nano'nun dağıtımını yönetir ve gelecekteki güncellemeleri yönetir. Büyük modelleri ağ üzerinden indirme veya güncelleme konusunda endişelenmenize gerek yoktur. Ayrıca uygulamanızın disk ve çalışma zamanı bellek bütçesini etkilemez.
  • Donanım hızlandırmaya erişim: AICore çalışma zamanı, donanım hızlandırmadan yararlanacak şekilde optimize edilmiştir. Uygulamanız her cihazda en iyi performansı elde eder ve temel donanım arayüzleri konusunda endişelenmenize gerek yoktur.

Desteklenen işlevler

AICore'un şu anda desteklediği temel özellikler şunlardır:

  • Desteklenen Cihazlar: AICore şu anda yalnızca Pixel 8 Pro cihazlarda kullanılabilir.
  • Desteklenen Modlar: AICore, şu anda Gemini Nano için metin yöntemini desteklemektedir.

Cihaz ve yöntem desteği, aktif yatırım alanlarıdır.

Mimari

Sistem düzeyinde bir modül olarak, cihaz üzerinde çıkarım çalıştırmak için AICore'a bir dizi API üzerinden erişirsiniz. Uygulamanıza göre Gemini Nano performansını daha da optimize etmek için LoRA ince ayar bloğu da sağlayabilirsiniz. Aşağıdaki şemada, bir uygulamanın cihazda Gemini Nano çalıştırmak için AICore'a nasıl eriştiği gösterilmektedir.

AICore mimarisi
Şekil 1. AICore mimarisi

Kullanım örnekleri

AICore aracılığıyla Gemini Nano ile gerçekleştirebileceğiniz bazı görevler şunlardır:

  • AI ile geliştirilmiş içerik tüketimi: Örneğin, özetleme, soruları yanıtlama ve varlık çıkarma.
  • AI ile geliştirilmiş içerik oluşturma: Örneğin gözden geçirme, dil bilgisi düzeltme, yazma yardımı ve bağlamsal akıllı yanıtlar.

Pixel Ses Kaydedici ve Gboard dahil olmak üzere çeşitli Google ürünleri Pixel'de AICore'u kullanmaktadır.

Pixel ses kaydedici

Pixel Ses Kaydedici uygulaması, cihaz üzerinde özetleme özelliğini desteklemek için Gemini Nano ve AICore uygulamasını kullanır.

1.Video AICore destekli Pixel Ses Kaydedici cihaz üzerinde özetleme özelliği

Gboard akıllı yanıt

Gboard, cihaz üzerinde doğru akıllı yanıt özellikleri sağlamak için AICore ile Gemini Nano'yu kullanır.

2. Video. AICore ile Gboard akıllı yanıtları