हाइब्रिड इन्फ़रेंस

Google, क्लाउड-आधारित और उपयोगकर्ता के डिवाइस पर अनुमान लगाने की सुविधा के लिए, इंडस्ट्री के सबसे बेहतरीन एआई मॉडल और एपीआई उपलब्ध कराता है. हाइब्रिड इन्फ़्रेंस की मदद से, एआई वर्कलोड को लोकल डिवाइस और क्लाउड के बीच आसानी से बैलेंस किया जा सकता है. इससे परफ़ॉर्मेंस, लागत, और उपलब्धता को ऑप्टिमाइज़ किया जा सकता है.

हाइब्रिड इन्फ़्रेंस से, आपके Android ऐप्लिकेशन को दो मुख्य फ़ायदे मिलते हैं:

  • ज़्यादा से ज़्यादा लोगों तक पहुंचना: डिवाइस के हार्डवेयर या ओएस की सीमाओं की वजह से, जब Gemini Nano जैसे डिवाइस पर मौजूद मॉडल उपलब्ध नहीं होते हैं, तब क्लाउड मॉडल एक अहम फ़ॉलबैक के तौर पर काम करते हैं. इससे यह पक्का करने में मदद मिलती है कि एआई की सुविधाएं, ज़्यादा से ज़्यादा उपयोगकर्ताओं के डिवाइसों पर काम करती रहें.
  • लागत और ऑफ़लाइन काम करने की क्षमता: उपयोगकर्ता के डिवाइस पर मौजूद मॉडल की मदद से, यह पक्का किया जा सकता है कि उपयोगकर्ता के ऑफ़लाइन होने पर भी, आपकी एआई सुविधाएं आसानी से काम करें. इसके अलावा, रोज़ के कामों को लोकल डिवाइस पर ट्रांसफ़र करने से, क्लाउड इन्फ़्रेंस की लागत कम करने में मदद मिलती है.

ऑन-डिवाइस इंफ़रंस और क्लाउड इंफ़रंस के फ़ायदे यहां दिए गए हैं:

ऑन-डिवाइस इन्फ़रेंस क्लाउड अनुमान
ऑफ़लाइन उपलब्ध कराएं किसी भी डिवाइस पर काम करता है
अनुमान लगाने की कोई लागत नहीं मॉडल की ऐडवांस सुविधाएं

लागू करने के विकल्प

हाइब्रिड इन्फ़्रेंस को इन तरीकों से लागू किया जा सकता है:

Firebase AI Logic Hybrid API

Firebase AI Logic Hybrid API, क्लाउड और उपयोगकर्ता के डिवाइस पर मौजूद मॉडल के बीच अनुमान लगाने की प्रोसेस को रूट करने के लिए, एक ही इंटरफ़ेस उपलब्ध कराता है.

  • अपने-आप स्विच होने की सुविधा: अपने ऐप्लिकेशन को इस तरह कॉन्फ़िगर किया जा सकता है कि जब भी मुमकिन हो, एआई टास्क को उपयोगकर्ता के डिवाइस पर ही पूरा किया जा सके. इसका मतलब है कि आपके ऐप्लिकेशन की सुविधा ऑफ़लाइन काम करती है. साथ ही, इसमें बेहतर निजता मिलती है और क्लाउड अनुमान की कोई लागत नहीं लगती. अगर उपयोगकर्ता के डिवाइस पर मौजूद मॉडल उपलब्ध नहीं है, तो एसडीके, अनुरोध को क्लाउड पर होस्ट किए गए Gemini मॉडल पर अपने-आप भेज सकता है.
  • गलत इस्तेमाल से सुरक्षा: मोबाइल ऐप्लिकेशन से सीधे तौर पर क्लाउड एपीआई को कॉल करने से, क्रेडेंशियल के सार्वजनिक होने का खतरा हो सकता है. साथ ही, इससे अनचाहे शुल्क लग सकते हैं. हालाँकि, Firebase AI Logic का इस्तेमाल करने पर, Firebase App Check भी लागू होता है. इससे, Gemini API के गलत इस्तेमाल को रोकने में मदद मिलती है. ऐसा इसलिए, क्योंकि यह पुष्टि करता है कि सिर्फ़ आपका ओरिजनल ऐप्लिकेशन ही Gemini API को ऐक्सेस कर सकता है.
  • खर्च की सीमाएं: क्लाउड पर होस्ट किए गए मॉडल को अनुरोध रूट करते समय, खर्च की सीमाएं कॉन्फ़िगर की जा सकती हैं. इससे आपको अपने क्लाउड बजट को सुरक्षित रखने और अचानक लगने वाले शुल्कों से बचने में मदद मिलती है.

अपने ऐप्लिकेशन में, onDeviceConfig पैरामीटर को सेट करें, ताकि इन्फ़रेंस मोड को कंट्रोल किया जा सके और राउटिंग को मैनेज किया जा सके:

  • PREFER_ON_DEVICE: इससे उपयोगकर्ता के डिवाइस पर मौजूद मॉडल का इस्तेमाल करने की कोशिश की जाती है. अगर उपयोगकर्ता के डिवाइस पर मौजूद मॉडल उपलब्ध नहीं है या क्वेरी के लिए काम नहीं करता है, तो यह अपने-आप क्लाउड पर होस्ट किए गए मॉडल पर वापस आ जाता है.

  • PREFER_IN_CLOUD: डिवाइस के ऑनलाइन होने और मॉडल के उपलब्ध होने पर, क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल करने की कोशिश करता है. डिवाइस के ऑफ़लाइन होने पर ही, उपयोगकर्ता के डिवाइस पर मौजूद मॉडल का इस्तेमाल करता है.

  • ONLY_ON_DEVICE: यह उपयोगकर्ता के डिवाइस पर मौजूद मॉडल का इस्तेमाल करने की कोशिश करता है. अगर उपयोगकर्ता के डिवाइस पर मौजूद मॉडल उपलब्ध नहीं है या अनुरोध के लिए काम नहीं करता है, तो यह एक अपवाद दिखाता है.

  • ONLY_IN_CLOUD: जब डिवाइस ऑनलाइन होता है और मॉडल उपलब्ध होता है, तब यह क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल करने की कोशिश करता है. अन्य सभी मामलों में, यह एक अपवाद दिखाता है.

val model = Firebase.ai(backend = GenerativeBackend.Companion.googleAI())
    .generativeModel(
        modelName = "gemini-3.5-flash",
        onDeviceConfig = OnDeviceConfig(mode = InferenceMode.Companion.PREFER_ON_DEVICE)
    )

val response = model.generateContent("Write a story about a green robot.")
print(response.text)

लागू करने के बारे में ज़्यादा जानकारी के लिए, Firebase का दस्तावेज़ देखें. साथ ही, एआई कैटलॉग में हाइब्रिड एआई का सैंपल देखें.

वर्कलोड को क्लाउड पर ट्रांसफ़र करने से, क्लाउड एपीआई एंडपॉइंट का पता चल सकता है. Firebase AI Logic का इस्तेमाल करने पर, Firebase App Check लागू करके, क्लाउड-आधारित Gemini मॉडल को सीधे तौर पर अपने क्लाइंट-साइड ऐप्लिकेशन से सुरक्षित तरीके से ऐक्सेस किया जा सकता है. इससे, क्लाउड-आधारित अनुमान को बिना अनुमति के ऐक्सेस करने और बिलिंग के गलत इस्तेमाल से बचाने में मदद मिलती है. इससे, हाइब्रिड फ़ॉलबैक सिस्टम को उपलब्ध और सुरक्षित रखने में मदद मिलती है.

कस्टम रूटिंग

अगर आपके ऐप्लिकेशन में कारोबार या उपयोगकर्ता अनुभव से जुड़ी कुछ खास ज़रूरतें हैं, तो कस्टम राउटिंग लॉजिक भी लागू किया जा सकता है. इससे आपको रीयल-टाइम फ़ैक्टर के आधार पर, डाइनैमिक तरीके से अनुमान लगाने का पाथ तय करने में मदद मिलती है. जैसे:

  • नेटवर्क से कनेक्ट होने में लगने वाला समय
  • डिवाइस के सिस्टम की परफ़ॉर्मेंस (उदाहरण के लिए, बैटरी लेवल और प्रोसेसर लोड)
  • उपयोगकर्ता की क्वेरी की जटिलता

कस्टम हाइब्रिड इन्फ़रेंस के इस तरीके का इस्तेमाल, ऐसे लोकप्रिय ऐप्लिकेशन करते हैं जिन्होंने एआई की भरोसेमंद सुविधाएं देने के लिए, कस्टम राउटिंग लागू की है. इनमें ये ऐप्लिकेशन शामिल हैं:

  • GBoard: Gboard, लिखने के लिए उपलब्ध टूल को बेहतर बनाने के लिए, कस्टम हाइब्रिड इन्फ़रेंस का इस्तेमाल करता है. जैसे, प्रूफ़रीड करना और फिर से लिखना.

  • Kakao Mobility: Kakao Mobility ने पार्सल डिलीवरी सेवा के लिए, कस्टम हाइब्रिड इन्फ़रेंस का इस्तेमाल करके एक इकाई एक्सट्रैक्शन टूल बनाया है. यह टूल, आदेश वाले फ़ॉर्म को आसान बनाने के लिए, नैचुरल लैंग्वेज में लिखे गए मैसेज से अपने-आप पाने वाले का नाम, पता, और फ़ोन नंबर निकालता है.