গুগল ক্লাউড-ভিত্তিক এবং অন-ডিভাইস ইনফারেন্স উভয়ের জন্যই শিল্প-সেরা এআই মডেল এবং এপিআই-এর এক বিশাল সম্ভার প্রদান করে। হাইব্রিড ইনফারেন্স আপনাকে স্থানীয় ডিভাইস এবং ক্লাউডের মধ্যে এআই ওয়ার্কলোডগুলির নির্বিঘ্ন ভারসাম্য বজায় রাখতে সাহায্য করে, যার ফলে পারফরম্যান্স, খরচ এবং প্রাপ্যতা সর্বোত্তম হয়।
হাইব্রিড ইনফারেন্স আপনার অ্যান্ড্রয়েড অ্যাপের জন্য দুটি প্রধান সুবিধা প্রদান করে:
- সর্বাধিক প্রসার : যখন ডিভাইস হার্ডওয়্যার বা ওএস-এর সীমাবদ্ধতার কারণে জেমিনি ন্যানো-র মতো অন-ডিভাইস মডেলগুলো অনুপলব্ধ থাকে, তখন ক্লাউড মডেলগুলো একটি গুরুত্বপূর্ণ বিকল্প হিসেবে কাজ করে। এটি নিশ্চিত করতে সাহায্য করে যে আপনার এআই ফিচারগুলো সম্ভাব্য সর্বাধিক সংখ্যক ব্যবহারকারীর ডিভাইসে কার্যকর থাকে।
- খরচ এবং অফলাইন সক্ষমতা : অন-ডিভাইস মডেলগুলো নিশ্চিত করে যে ব্যবহারকারী অফলাইনে থাকলেও আপনার এআই ফিচারগুলো নির্বিঘ্নে কাজ করে। এছাড়াও, রুটিন কাজগুলো স্থানীয় ডিভাইসে স্থানান্তর করলে ক্লাউড ইনফারেন্সের খরচ কমাতে সাহায্য হয়।
বাস্তবায়ন বিকল্প
আপনি নিম্নলিখিত পদ্ধতিগুলি ব্যবহার করে হাইব্রিড ইনফারেন্স বাস্তবায়ন করতে পারেন:
ফায়ারবেস এআই লজিক হাইব্রিড এপিআই
Firebase AI Logic Hybrid API ক্লাউড এবং অন-ডিভাইস পরিবেশের মধ্যে ইনফারেন্স বিভক্ত করার জন্য একটি একক, সমন্বিত ইন্টারফেস প্রদান করে।
এতে একটি onDeviceConfig প্যারামিটার অন্তর্ভুক্ত রয়েছে যা ইনফারেন্স মোড নির্ধারণ এবং রাউটিং পরিচালনা করার জন্য সহজ নিয়ন্ত্রণ প্রদান করে:
-
PREFER_ON_DEVICE: অন-ডিভাইস মডেলটি ব্যবহার করার চেষ্টা করা হবে, এবং অনুরোধটির জন্য অন-ডিভাইস মডেলটি অনুপলব্ধ বা অসমর্থিত হলে স্বয়ংক্রিয়ভাবে ক্লাউড-হোস্টেড মডেলে ফিরে যাওয়া হবে। -
PREFER_IN_CLOUD: ডিভাইসটি অনলাইন থাকলে এবং মডেলটি উপলব্ধ থাকলে ক্লাউড-হোস্টেড মডেলটি ব্যবহার করার চেষ্টা করে, এবং শুধুমাত্র ডিভাইসটি অফলাইন থাকলে অন-ডিভাইস মডেলে ফিরে যায়। -
ONLY_ON_DEVICE: অন-ডিভাইস মডেলটি ব্যবহার করার চেষ্টা করে, কিন্তু অনুরোধটির জন্য এটি অনুপলব্ধ বা অসমর্থিত হলে একটি ব্যতিক্রম (exception) প্রদর্শন করে। -
ONLY_IN_CLOUD: ডিভাইসটি অনলাইন থাকলে এবং মডেলটি উপলব্ধ থাকলে ক্লাউড-হোস্টেড মডেলটি ব্যবহার করার চেষ্টা করে, অন্য সব ক্ষেত্রে একটি এক্সেপশন থ্রো করে।
val model = Firebase.ai(backend = GenerativeBackend.googleAI())
.generativeModel(
modelName = "gemini-2.5-flash",
onDeviceConfig = OnDeviceConfig(mode = InferenceMode.PREFER_ON_DEVICE)
)
val response = model.generateContent("Write a story about a green robot.")
print(response.text)
বাস্তবায়নের বিস্তারিত তথ্যের জন্য, Firebase ডকুমেন্টেশন পর্যালোচনা করুন এবং AI ক্যাটালগে থাকা Hybrid AI স্যাম্পলটি দেখুন।
কাস্টম রাউটিং
আপনার অ্যাপের যদি নির্দিষ্ট ব্যবসায়িক বা ইউএক্স (UX) প্রয়োজনীয়তা থাকে, তাহলে আপনি কাস্টম রাউটিং লজিকও প্রয়োগ করতে পারেন। এটি আপনাকে রিয়েল-টাইম ফ্যাক্টরগুলির উপর ভিত্তি করে ডায়নামিকভাবে ইনফারেন্স পাথ নির্ধারণ করতে দেয়, যেমন:
- নেটওয়ার্ক লেটেন্সি
- ডিভাইস সিস্টেমের স্বাস্থ্য (যেমন ব্যাটারির স্তর এবং প্রসেসরের লোড)
- ব্যবহারকারীর কোয়েরির জটিলতা
এই কাস্টম হাইব্রিড ইনফারেন্স পদ্ধতিটি সেইসব শীর্ষস্থানীয় অ্যাপ ব্যবহার করে থাকে, যারা নির্ভরযোগ্য এআই অভিজ্ঞতা প্রদানের জন্য তাদের নিজস্ব কাস্টম রাউটিং বাস্তবায়ন করেছে, যার মধ্যে রয়েছে:
জি-বোর্ড (GBoard ) প্রুফরিড এবং রিরাইটের মতো লেখার টুলগুলোকে শক্তিশালী করতে কাস্টম হাইব্রিড ইনফারেন্স ব্যবহার করে।
কাকাও মোবিলিটি : কাকাও মোবিলিটি তাদের পার্সেল ডেলিভারি পরিষেবার জন্য কাস্টম হাইব্রিড ইনফারেন্স ব্যবহার করে একটি এনটিটি এক্সট্র্যাকশন টুল তৈরি করেছে, যা অর্ডার ফর্মকে আরও সহজ করার জন্য স্বাভাবিক ভাষার বার্তা থেকে স্বয়ংক্রিয়ভাবে প্রাপকের নাম, ঠিকানা এবং ফোন নম্বর বের করে।