Gemini Nano به شما امکان می‌دهد تجربه‌های غنی هوش مصنوعی زایا را بدون نیاز به اتصال شبکه یا ارسال داده به فضای ابری ارائه دهید. هوش مصنوعی درون‌دستگاهی راهکاری عالی برای موارد استفاده‌ای است که هزینه کم و پادمان‌های حریم خصوصی نگرانی‌های اصلی شما هستند.
برای موارد استفاده درون‌دستگاهی، می‌توانید از مدل پایه Gemini Nano از Google بهره ببرید. Gemini Nano در سرویس سیستم AICore در Android اجرا می‌شود، که از سخت‌افزار دستگاه برای فعال کردن تأخیر استنتاج کم استفاده می‌کند و مدل را به‌روز نگه می‌دارد.
ML Kit GenAI APIs
میاناهای برنامه‌سازی کاربردی «هوش مصنوعی زایا» در ML Kit از قدرت Gemini Nano بهره می‌برند تا به برنامه‌هایتان کمک کنند تکالیف هوش مصنوعی زایای درون‌دستگاهی را انجام دهند. این میاناهای برنامه‌سازی کاربردی بر روی AICore ساخته شده‌اند، یک سرویس سیستم Android که اجرای مدل‌های پایه «هوش مصنوعی زایا» را در دستگاه ممکن می‌سازد تا ویژگی‌هایی مانند بهبود عملکرد برنامه و ارتقای حریم خصوصی کاربر را ازطریق پردازش محلی داده‌ها تسهیل کند. بیشتر بدانید.
ویژگی‌های مهم
«کیت یادگیری ماشین» توانمندی‌های «هوش مصنوعی زایای» خود را در دسته‌های زیر سازمان‌دهی می‌کند:
تولید سفارشی و عامل‌ها
برای موارد استفاده سفارشی، مستقیماً با مدل پایه Gemini Nano کار کنید:
- دسترسی مستقیم به مدل (بااستفاده از کلاس
GenerativeModel): تولید نوشتار یا برونداد ساختاریافته تایپ‌شده از پیام‌واره‌های چندحالتی یا فقط نوشتاری سفارشی، یا مدیریت سابقه گپ چندنوبتی خودتان به‌طور مستقیم بااستفاده از شیءList<Content>با نقش‌هایUSERوMODELو مقدارsessionId. - گردش‌های کار عاملی (بااستفاده از کلاس
AgentRunner): روی کلاسGenerativeModelساخته شده است و مدیریت جلسه چندنوبتی (ازجمله سابقه مکالمه درون‌حافظه‌ای) و حلقه‌های فراخوانی ابزار چندمرحله‌ای را خودکارسازی می‌کند.
گفتار و صدا
آوانویسی، ترجمه، و ترکیب کردن صدای گفتار در دستگاه:
- تشخیص گفتار: محتوای صوتی گفتاری را به نوشتار به همان زبان ترانویسی می‌کند.
- ترجمه گفتار: ترجمه هم‌زمان صدای گفتاری به نوشتار به زبانی دیگر.
- نوشتار به گفتار: ترکیب کردن صدای گفتار طبیعی از نوشتار.
تکالیف نوشتاری و تصویری
از میاناهای برنامه‌سازی کاربردی مختص تکلیف که برای تکالیف رایج بینایی، نوشتن، و جستجو بهینه‌سازی شده‌اند ازطریق میانای سطح بالا استفاده کنید:
- شرح تصویر: شرح کوتاهی برای تصویر ارائه‌شده تولید کنید.
- خلاصه کردن: مقاله‌ها یا مکالمه‌ها را به‌صورت فهرست گلوله‌ای خلاصه کنید.
- نمونه‌خوانی: پیام‌های گپ کوتاه را نمونه‌خوانی کنید.
- بازنویسی: پیام‌های گپ کوتاه را با لحن‌ها یا سبک‌های مختلف بازنویسی کنید.
- جستجوی معنایی: بااستفاده از Embedding API، جاسازی‌های برداری برای نوشتار و تصویر تولید کنید و آن‌ها را با AndroidX AppSearch جفت کنید تا محتوا را براساس معنی پیدا کنید.
مهارت‌های Android
مشاهده در GitHubاستفاده از ML Kit Prompt API
android skills add ml-kit-genai-prompt-apiمعماری ازطریق AICore
به‌عنوان یک ماژول سطح سیستم، ازطریق مجموعه‌ای از میاناهای برنامه‌سازی کاربردی به AICore دسترسی پیدا می‌کنید تا استنتاج را در دستگاه اجرا کنید. علاوه‌براین، AICore چندین ویژگی ایمنی توکار دارد که ارزیابی کامل دربرابر فیلترهای ایمنی ما را تضمین می‌کند. نمودار زیر نشان می‌دهد که چگونه یک برنامه به AICore دسترسی پیدا می‌کند تا Gemini Nano را روی دستگاه اجرا کند.
داده‌های کاربر را خصوصی و ایمن نگه دارید
هوش مصنوعی زایای درون‌دستگاهی پیام‌واره‌ها را به‌صورت محلی اجرا می‌کند و نیاز به فراخوانی سرور را ازبین می‌برد. اگرچه این کار تأخیر شبکه را برطرف می‌کند، سرعت استنتاج به سخت‌افزار دستگاه بستگی دارد. این رویکرد با نگه داشتن داده‌های حساس در دستگاه، حریم خصوصی را بهبود می‌بخشد، عملکرد آفلاین را فعال می‌کند، و هزینه‌های استنتاج را کاهش می‌دهد.
AICore از اصول هسته رایانش خصوصی پیروی می‌کند و ویژگی‌های کلیدی زیر را دارد:
- اتصال بسته محدودشده: AICore از اکثر بسته‌های دیگر جدا شده است، با استثناهای محدود برای بسته‌های سیستم خاص. هرگونه اصلاح در این فهرست مجاز فقط درطول به‌روزرسانی کامل OTA در Android می‌تواند انجام شود.
- دسترسی غیرمستقیم به اینترنت: AICore دسترسی مستقیم به اینترنت ندارد. همه درخواست‌های اینترنتی، ازجمله بارگیری‌های مدل، ازطریق APK همراه خدمات رایانش خصوصی متن‌باز هدایت می‌شوند. میاناهای برنامه‌سازی کاربردی در «خدمات رایانش خصوصی» باید به‌طور صریح ماهیت حریم‌خصوصی‌محور خود را نشان دهند.
علاوه‌براین، AICore به‌گونه‌ای ساخته شده است که هر درخواست را جدا می‌کند و برای محافظت از حریم خصوصی کاربر، هیچ سابقه‌ای از داده‌های ورودی یا خروجی‌های حاصل را پس‌از پردازش آن‌ها ذخیره نمی‌کند. برای کسب اطلاعات بیشتر، پست وبلاگ مقدمه‌ای بر حریم خصوصی و ایمنی برای Gemini Nano را بخوانید.
مزایای دسترسی به مدل‌های پایه هوش مصنوعی با AICore
AICore به سیستم‌عامل Android امکان می‌دهد مدل‌های پایه هوش مصنوعی را ارائه و مدیریت کند. این کار هزینه استفاده از این مدل‌های بزرگ را در برنامه‌تان به‌طور قابل‌توجهی کاهش می‌دهد، که عمدتاً به‌دلیل موارد زیر است:
- سهولت استقرار: AICore توزیع Gemini Nano را مدیریت می‌کند و به‌روزرسانی‌های آینده را انجام می‌دهد. لازم نیست نگران بارگیری یا به‌روزرسانی مدل‌های بزرگ ازطریق شبکه باشید، و همچنین تأثیری بر بودجه حافظه زمان اجرا و دیسک برنامه‌تان ندارد.
- استنتاج شتاب‌یافته: AICore از سخت‌افزار درون‌دستگاهی برای شتاب دادن به استنتاج استفاده می‌کند. برنامه شما بهترین عملکرد را در هر دستگاه دریافت می‌کند و نیازی نیست نگران میاناهای سخت‌افزاری زیربنایی باشید.
چه زمانی باید از استنتاج ترکیبی استفاده کرد
اگرچه Gemini Nano برای کارهای آفلاین و حساس به حریم خصوصی ایده‌آل است، اما محدودیت‌های درون‌دستگاهی مانند محدودیت‌های توکن، محدودیت‌های سخت‌افزاری دستگاه، و مرزهای قابلیت مدل دارد. در این سناریوها، می‌توانید از استنتاج ترکیبی برای ایجاد تعادل در حجم کاری هوش مصنوعی بین دستگاه محلی و ابر استفاده کنید.
برای اطمینان از تجربه کاربری یکسان در همه دستگاه‌ها و رسیدگی به پُرسمان‌های پیچیده، می‌توانید از Firebase AI Logic Hybrid API استفاده کنید. این کار به برنامه‌تان اجازه می‌دهد کارهای زیر را انجام دهد:
- بازگشت به حالت قبلی به‌صورت روان: وقتی Gemini Nano در دستگاه کاربر دردسترس یا پشتیبانی‌شده نیست، درخواست‌ها به‌طور خودکار به مدل‌های Gemini Flash یا Gemini Pro در فضای ابری هدایت می‌شوند.
- اجرای امنیت: از استنتاج ابری با بررسی برنامه Firebase (و ارائه‌دهندگان گواهی پشتیبانی‌شده آن، مانند Play Integrity) محافظت کنید و پیام‌واره‌های حساس سیستم را در سمت سرور نگه دارید.