ใช้ LiteRT ใน Android

LiteRT บน Android มีสิ่งจำเป็นสำหรับการติดตั้งใช้งานฟีเจอร์ ML ที่กำหนดเองประสิทธิภาพสูงในแอป Android

สถาปัตยกรรม LiteRT บน Android: แอปและโมเดล ML ของคุณทำงานบนรันไทม์และตัวเร่ง LiteRT ซึ่งบริการ Google Play มีให้และเรียกใช้โมเดลบน CPU และ GPU ของอุปกรณ์

LiteRT สำหรับรันไทม์ ML

ใช้ LiteRT ในบริการ Google Play ซึ่งเป็นรันไทม์การอนุมาน ML อย่างเป็นทางการของ Android เพื่อเรียกใช้การอนุมาน ML ประสิทธิภาพสูงในแอปด้วย API CompiledModel ดูข้อมูลเพิ่มเติม

การเร่งฮาร์ดแวร์ด้วยตัวเร่ง LiteRT

ใช้ตัวเร่ง LiteRT เพื่อเรียกใช้โมเดลใน CPU หรือ GPU ตัวเร่ง GPU จะเรียกใช้โมเดลได้เร็วกว่าผู้รับมอบสิทธิ์ GPU ของ TensorFlow Lite รุ่นก่อนหน้าถึง 1.4 เท่า คุณจึงมอบประสบการณ์การใช้งานที่ลื่นไหลและมีเวลาในการตอบสนองต่ำลงให้แก่ผู้ใช้ได้ ดูข้อมูลเพิ่มเติม

ปัจจุบันการเร่งความเร็ว NPU พร้อมใช้งานใน LiteRT แบบสแตนด์อโลน และการรองรับ NPU ในบริการ Google Play จะพร้อมให้บริการเร็วๆ นี้ ดูข้อมูลเพิ่มเติม

เปิดใช้โดยบริการ Google Play

บริการ Google Play มีรันไทม์และตัวเร่ง LiteRT คุณจึงไม่ต้องรวมไว้ใน APK การนำรันไทม์ LiteRT และตัวเร่ง GPU ที่รวมมาด้วยออกจะช่วยประหยัดขนาดแอปได้สูงสุดประมาณ 8 MB นอกจากนี้ บริการ Google Play ยังช่วยอัปเดตรันไทม์ให้เป็นเวอร์ชันล่าสุดโดยไม่ต้องเผยแพร่แอป ดูข้อมูลเพิ่มเติม

สร้างด้วย Agent การเขียนโค้ดด้วย AI

ใช้ทักษะรันไทม์ LiteRT กับเอเจนต์การเขียนโค้ด เช่น โหมดเอเจนต์ใน Android Studio เพื่อเพิ่ม LiteRT ลงในแอป, เรียกใช้โมเดลใน CPU หรือ GPU หรือย้ายแอป TensorFlow Lite ที่มีอยู่ไปยัง LiteRT ในบริการ Google Play ดูข้อมูลเพิ่มเติม

ตัวอย่างโค้ด

สำรวจตัวอย่างโค้ด LiteRT สำหรับ Android และทดสอบฟีเจอร์ ML ในอุปกรณ์ของคุณ ดูข้อมูลเพิ่มเติม

เริ่มต้นใช้งาน LiteRT

เพิ่ม LiteRT ในบริการ Google Play ลงในแอปและเรียกใช้โมเดลแรก ดูข้อมูลเพิ่มเติม