在 Android 上使用 LiteRT

Android 上的 LiteRT 提供了在 Android 应用中部署高性能自定义机器学习功能所需的基本要素。

Android 上的 LiteRT 架构:您的应用和机器学习模型在 LiteRT 运行时和加速器上运行,这些运行时和加速器由 Google Play 服务提供,并在设备 CPU 和 GPU 上运行模型。

LiteRT for ML 运行时

使用 Google Play 服务中的 LiteRT(Android 的官方机器学习推理运行时),通过 CompiledModel API 在应用中运行高性能机器学习推理。了解详情

使用 LiteRT 加速器进行硬件加速

使用 LiteRT 加速器在 CPU 或 GPU 上运行模型。GPU 加速器的模型运行速度比之前的 TensorFlow Lite GPU 代理快 1.4 倍,因此您可以为用户提供更流畅、延迟更低的体验。了解详情

NPU 加速功能现已在独立 LiteRT 中推出,Google Play 服务中的 NPU 支持也即将推出。了解详情

由 Google Play 服务启用

Google Play 服务提供 LiteRT 运行时和加速器,因此您无需将其捆绑到 APK 中。移除捆绑的 LiteRT 运行时和 GPU 加速器最多可节省约 8 MB 的应用大小。Google Play 服务还会在不发布应用的情况下使运行时保持最新状态。了解详情

与 AI 编程智能体协同构建

将 LiteRT 运行时技能与编码智能体(例如 Android Studio 中的智能体模式)结合使用,以便将 LiteRT 添加到您的应用、在 CPU 或 GPU 上运行模型,或将现有 TensorFlow Lite 应用迁移到 Google Play 服务中的 LiteRT。 了解详情

代码示例

探索 LiteRT Android 代码示例,并在您的设备上测试机器学习功能。 了解详情

LiteRT 使用入门

将 Google Play 服务中的 LiteRT 添加到您的应用中,并运行您的第一个模型。 了解详情