การอนุมานแบบไฮบริด

Google มีโมเดล AI และ API ที่หลากหลายซึ่งเป็นผู้นำในอุตสาหกรรมสำหรับการอนุมานทั้งแบบอิงตามระบบคลาวด์และในอุปกรณ์ การอนุมานแบบไฮบริดช่วยให้คุณปรับสมดุลภาระงาน AI ระหว่างอุปกรณ์ในเครื่องกับระบบคลาวด์ได้อย่างราบรื่น ซึ่งจะช่วยเพิ่มประสิทธิภาพ ลดต้นทุน และเพิ่มความพร้อมใช้งาน

การอนุมานแบบไฮบริดมีข้อดีหลักๆ 2 ข้อสำหรับแอป Android ดังนี้

• เพิ่มการเข้าถึงสูงสุด: โมเดลระบบคลาวด์ทำหน้าที่เป็นตัวเลือกสำรองที่สำคัญเมื่อโมเดลในอุปกรณ์ เช่น Gemini Nano ไม่พร้อมใช้งานเนื่องจากข้อจำกัดด้านฮาร์ดแวร์หรือระบบปฏิบัติการของอุปกรณ์ ซึ่งจะช่วยให้ฟีเจอร์ AI ของคุณยังคงทำงานได้ในอุปกรณ์ของผู้ใช้ที่หลากหลายที่สุด
• ความสามารถด้านต้นทุนและออฟไลน์: โมเดลในอุปกรณ์ช่วยให้ฟีเจอร์ AI ของคุณทำงานได้อย่างราบรื่นเมื่อผู้ใช้ออฟไลน์ นอกจากนี้ การโอนภาระงานประจำไปยังอุปกรณ์ในเครื่องยังช่วยลดต้นทุนการอนุมานในระบบคลาวด์ได้อีกด้วย

ประโยชน์ของการอนุมานในอุปกรณ์และการอนุมานในระบบคลาวด์มีดังนี้

การอนุมานในอุปกรณ์	การอนุมานในระบบคลาวด์
ใช้งานแบบออฟไลน์ได้	ใช้งานได้กับทุกอุปกรณ์
ไม่มีค่าใช้จ่ายในการอนุมาน	ความสามารถของโมเดลขั้นสูง

ตัวเลือกในการใช้งาน

คุณสามารถใช้การอนุมานแบบไฮบริดได้โดยใช้วิธีการต่อไปนี้

Firebase AI Logic Hybrid API

Firebase AI Logic Hybrid API มีอินเทอร์เฟซเดียวแบบรวมเป็นหนึ่งเดียวสำหรับ การแยกการอนุมานระหว่างสภาพแวดล้อมในระบบคลาวด์และในอุปกรณ์

โดยมีพารามิเตอร์ onDeviceConfig ที่ให้การควบคุมที่ง่ายในการกำหนด โหมดการอนุมานและจัดการการกำหนดเส้นทาง ดังนี้

• PREFER_ON_DEVICE: พยายามใช้โมเดลในอุปกรณ์ และกลับไปใช้โมเดลที่โฮสต์ในระบบคลาวด์โดยอัตโนมัติหากโมเดลในอุปกรณ์ไม่พร้อมใช้งานหรือไม่รองรับคำขอ
• PREFER_IN_CLOUD: พยายามใช้โมเดลที่โฮสต์ในระบบคลาวด์เมื่ออุปกรณ์ออนไลน์และโมเดลพร้อมใช้งาน และกลับไปใช้โมเดลในอุปกรณ์ก็ต่อเมื่ออุปกรณ์ออฟไลน์เท่านั้น
• ONLY_ON_DEVICE: พยายามใช้โมเดลในอุปกรณ์ แต่จะแสดงข้อยกเว้นหากโมเดลไม่พร้อมใช้งานหรือไม่รองรับคำขอ
• ONLY_IN_CLOUD: พยายามใช้โมเดลที่โฮสต์ในระบบคลาวด์เมื่ออุปกรณ์ออนไลน์และโมเดลพร้อมใช้งาน และจะแสดงข้อยกเว้นในกรณีอื่นๆ ทั้งหมด

val model = Firebase.ai(backend = GenerativeBackend.Companion.googleAI())
    .generativeModel(
        modelName = "gemini-2.5-flash",
        onDeviceConfig = OnDeviceConfig(mode = InferenceMode.Companion.PREFER_ON_DEVICE)
    )

val response = model.generateContent("Write a story about a green robot.")
print(response.text)
HybridInferenceSnippets.kt

ดูรายละเอียดการนำไปใช้งานได้ที่เอกสารประกอบของ Firebase และสำรวจ ตัวอย่าง AI แบบไฮบริดในแคตตาล็อก AI

การกำหนดเส้นทางที่กำหนดเอง

หากแอปมีข้อกำหนดทางธุรกิจหรือ UX ที่เฉพาะเจาะจง คุณก็สามารถใช้ตรรกะการกำหนดเส้นทางที่กำหนดเองได้เช่นกัน ซึ่งจะช่วยให้คุณกำหนดเส้นทางการอนุมานแบบไดนามิกตามปัจจัยแบบเรียลไทม์ เช่น

• เวลาในการตอบสนองของเครือข่าย
• สถานะระบบของอุปกรณ์ (เช่น ระดับแบตเตอรี่และภาระของโปรเซสเซอร์)
• ความซับซ้อนของคำค้นหาของผู้ใช้

แอปชั้นนำใช้แนวทางการอนุมานแบบไฮบริดที่กำหนดเองนี้ ซึ่งใช้การกำหนดเส้นทางที่กำหนดเองเพื่อมอบประสบการณ์การใช้งาน AI ที่เชื่อถือได้ ซึ่งรวมถึง

• GBoard: Gboard ใช้การอนุมานแบบไฮบริดที่กำหนดเองเพื่อขับเคลื่อนเครื่องมือการเขียน เช่น การพิสูจน์อักษรและการเขียนใหม่

• Kakao Mobility: Kakao Mobility สร้างเครื่องมือการดึงข้อมูลเอนทิตีโดยใช้การอนุมานแบบไฮบริดที่กำหนดเอง สำหรับบริการจัดส่งพัสดุ ซึ่งจะดึงชื่อ ที่อยู่ และหมายเลขโทรศัพท์ของผู้รับจากข้อความภาษาธรรมชาติโดยอัตโนมัติเพื่อปรับปรุง แบบฟอร์มคำสั่งซื้อ